克己奉公，意為約束自己的私欲，以公事為重。這句成語出自劉宋時期的史學家范曄編纂的《后漢書》，書中有一篇《祭遵傳》：“遵為人廉約小心，克己奉公，賞賜輒盡與士卒，家無私財。”
祭遵，字弟孫，潁川潁陽人（今河南襄城縣潁陽鎮）人，協助劉秀開創東漢王朝，名列“云臺二十八將”，征虜將軍，封潁陽侯。建武九年（33年）春，卒于軍中，贈成侯。
祭遵少年好讀經書，為人謙恭低調，雖然家庭富足，但恭謹儉樸，常穿破舊的衣服。在好讀經書的一面外，他是一個嫉惡如仇的人，對于恃強凌弱者十分憎恨和厭惡。
祭遵曾隨光武帝出征河北，擔任“軍市令”一職，當時在軍隊駐扎地的附近，有服務軍營的市場，軍市令掌管軍市中的交易活動。祭遵在任上執法公正如山，不徇私情。當時劉秀身邊一個年輕的侍從犯了法，祭遵給予了嚴肅處理，劉秀不免生氣，要把祭遵抓起來問罪。當時主簿陳副勸阻道：“明公常欲眾軍整齊，今遵奉法不避，是教令所行也。”部隊作戰，沒有嚴格的軍令，上下一致，如何能有戰斗力。
劉秀聽了覺得有道理，不但沒有處罰祭遵，還把他任命為“刺奸將軍”，并對諸將說：“你們對祭遵要多加小心，我身邊的侍從犯法他都不放過，對你們也絕不會徇私的。”
祭遵一生追隨劉秀南征北戰，北平漁陽、西征隴蜀，每每作戰，身先士卒。
據史書記載，建武二年（26年）春，祭遵領兵入箕關征戰，作戰中，被弩箭射中，傷口流血不止，眾兵見其受傷，逐漸引退，祭遵“呼叱止之，士卒戰皆自倍，遂大破之”。建武八年（32年）秋，祭遵隨劉秀出戰，攻打割據軍閥隗囂，等到公孫述派兵援救隗囂時，各路人馬全都逃奔而回，只有祭遵獨留不退卻，其勇猛無畏、忠勇剛毅可見一斑。
《后漢書》中評價祭遵：“清名聞于海內，廉白著于當世。”他自己平時所得賞賜，常全部給予士卒部下，“家無私財，身衣韋褲布被，夫人裳不加緣”。臨終前，“問以家事，終無所言。任重道遠，死而后已”，遺囑家人用牛車載靈柩，薄葬洛陽，不得浪費。祭遵病故后，當朝會之時，光武帝常嘆息道：“安得憂國奉公之臣如祭征虜者乎！”
宋人徐鈞有詩云：“執法嚴明凜不阿，西征北討戰功多。更將俎豆文軍旅，不廢投壺與雅歌。”這首詩可說是對祭遵一生真實客觀的評價。（霍峰）