克己奉公，意为约束自己的私欲，以公事为重。这句成语出自刘宋时期的史学家范晔编纂的《后汉书》，书中有一篇《祭遵传》：“遵为人廉约小心，克己奉公，赏赐辄尽与士卒，家无私财。”

祭遵，字弟孙，颍川颍阳人（今河南襄城县颍阳镇）人，协助刘秀开创东汉王朝，名列“云台二十八将”，征虏将军，封颍阳侯。建武九年（33年）春，卒于军中，赠成侯。

祭遵少年好读经书，为人谦恭低调，虽然家庭富足，但恭谨俭朴，常穿破旧的衣服。在好读经书的一面外，他是一个嫉恶如仇的人，对于恃强凌弱者十分憎恨和厌恶。

祭遵曾随光武帝出征河北，担任“军市令”一职，当时在军队驻扎地的附近，有服务军营的市场，军市令掌管军市中的交易活动。祭遵在任上执法公正如山，不徇私情。当时刘秀身边一个年轻的侍从犯了法，祭遵给予了严肃处理，刘秀不免生气，要把祭遵抓起来问罪。当时主簿陈副劝阻道：“明公常欲众军整齐，今遵奉法不避，是教令所行也。”部队作战，没有严格的军令，上下一致，如何能有战斗力。

刘秀听了觉得有道理，不但没有处罚祭遵，还把他任命为“刺奸将军”，并对诸将说：“你们对祭遵要多加小心，我身边的侍从犯法他都不放过，对你们也绝不会徇私的。”

祭遵一生追随刘秀南征北战，北平渔阳、西征陇蜀，每每作战，身先士卒。

据史书记载，建武二年（26年）春，祭遵领兵入箕关征战，作战中，被弩箭射中，伤口流血不止，众兵见其受伤，逐渐引退，祭遵“呼叱止之，士卒战皆自倍，遂大破之”。建武八年（32年）秋，祭遵随刘秀出战，攻打割据军阀隗嚣，等到公孙述派兵援救隗嚣时，各路人马全都逃奔而回，只有祭遵独留不退却，其勇猛无畏、忠勇刚毅可见一斑。

《后汉书》中评价祭遵：“清名闻于海内，廉白著于当世。”他自己平时所得赏赐，常全部给予士卒部下，“家无私财，身衣韦裤布被，夫人裳不加缘”。临终前，“问以家事，终无所言。任重道远，死而后已”，遗嘱家人用牛车载灵柩，薄葬洛阳，不得浪费。祭遵病故后，当朝会之时，光武帝常叹息道：“安得忧国奉公之臣如祭征虏者乎！”

宋人徐钧有诗云：“执法严明凛不阿，西征北讨战功多。更将俎豆文军旅，不废投壶与雅歌。”这首诗可说是对祭遵一生真实客观的评价。