尹翁归，字子兄，河东平阳人。尹翁归出身贫寒，父母早逝，是在他的叔叔家里长大的。
尹翁归通晓各项法律条文。还经常习武学剑，会一套娴熟的剑法，在平阳一带，很有点儿名气。后来，他做了平阳管理市场的小官。当时，大司马大将军霍光也是平阳人，很有权势。他在平阳豢养了一帮家奴。这些家奴仰仗霍光的势力，横行乡里。他们公然在白天持刀闯入集市，无理取闹，拦抢钱物，地方官惧怕其权势，不敢干涉制止，老百姓有苦不敢言。尹翁归上任后，不怕权势，不畏强暴，敢于履行自己的职责，严格管理市场，整顿市场秩序，对聚众闹事，扰乱市场的不法之徒，严惩不贷。霍氏家奴尝到了尹翁归的铁拳头，从此不敢再犯。尹翁归却处处秉公执法，不徇私情，拒不接受商人的礼品。商人们既害怕他，又敬重他。《汉书·尹翁归传》中赞扬他：“公廉不受馈，百贾畏之。”
汉宣帝即位后，尹翁归被任命为东海郡太守。赴任前他到廷尉于定国的府上辞别。于定国是东海人，因迎立宣帝有功，青云直上，是当朝红得发紫的权臣。尹翁归要来拜见时，刚好他的老家东海有两个老朋友的儿子，请他帮忙在东海府谋个差使。于定国对他俩说：“我虽身为廷尉，在京城做官，但远水解不了近渴。正好翁归要前往东海赴任，求他帮帮忙，应该不成问题。今天他要来拜见我。你俩且在后堂坐等，等我派人来叫，你们就过来见他。”
正说着，家人通报新任东海太守尹翁归来访。于定国来到前堂，一边与尹翁归交谈，一边就委婉地说出了自己的想法。谁知尹翁归听后，转了话题，请他介绍东海郡的情况，就东海郡的治理，征求于延尉的意见。他们俩交谈了一整天，尹翁归就是不回答两后生谋求的事，也不提接见两个后生的事。
到了晚上，于定国终于回来了。“太守呢？大人！”两个年轻人迫不及待地问。“已经走了。”“求他的事答应了吗？”“这位太守是个贤吏啊！”于定国赞叹道，“我和他长谈一日，知他奉公廉洁、守正不曲，请托之事，终不作答。”最后，于定国又叮嘱他俩：“你们还是不要到他手下去任职为好，以后到东海郡也切记不要以私事相求。”