张小舍，胶州东山人，幼年丧父，侍母极孝，为人豪迈义气，饱读诗书，有文采善决断，因为腿有疾病，故不能考取功名。遂以在缙绅人家坐馆授徒为业。年三十方娶妻，妻貌虽丑陋但极贤惠，家虽清贫，日子过得却也和睦美满。
知县张虚，慕名将其聘为幕僚师爷。那年夏天，他陪知县大人去山上游览一座古庙，看见庙中有三四个人躺在地上，睡得正香。他们身边放了个西瓜，已经切开，却未曾吃过。张小舍马上让人将他们带入县衙拷问，果然是一群小偷。他向知县大人禀告说：“他们白天聚在一起睡觉，一定是因为夜里太劳累了。切开的西瓜，则是用来避苍蝇的。”
一日，他正在城中的茶馆里喝茶。茶馆中有两只银杯，是给不寻常的客人准备的。此时，张小舍手中用着一只，另一只正在一个衣着考究的商人手中。突然，张小舍对着那人大声喊道：“有我在此，你还要耍弄你的把戏吗？”众人惊奇地望着他们，那个人赶紧溜走了。别人问张小舍，他说：“那个人体格魁梧，喝茶时却要双手捧杯，实际上他是在偷偷测量银杯的大小，准备回去做假杯子来换走这只真杯。”
又一日，他在赶赴县衙的途中，路过一个木匠家的门口，听见里面有女子的哭泣声，他停下来凝神听了一会儿，就让县衙的捕快将那个女子捉回去审问，原来是这个女人伙同奸夫将自己的丈夫毒死了。他向知县大人禀告说：“一般来说，当自己的亲人生病时会感到担忧，亲人快死时会感到害怕，亲人死后会感到悲哀。而这个女人的哭泣声中却带着恐惧。所以我怀疑这其中另有隐情。”
一日，县里的王大财主家娶儿媳妇，接连三天通宵达旦点着灯烛以示喜庆。第三天，突然从小两口的床底下窜出一个人来，一下子就被抓住送入县衙中。审问时，那人声称自己不是小偷，是医生。新媳妇有种特别的病症，所以让他跟随在她身边，经常为她用药。知县盘问再三，那人说起媳妇娘家的事情，都很详细准确。于是，知县决定传新媳妇到官府来对证，以便结案。王大财主家觉得这样有失体面，恳求知县别让新媳妇上公堂，将那人放了定有重酬。知县坚决不许。王大财主只好出面恳求张小舍，张小舍教他如此这般，王大财主领计而去。到了开堂那天，王大财主不情愿地带上一名衣着华丽的年轻姑娘，那个人一见到她就大声叫嚷着说：“你请我治病，为什么还把我抓起来呀？”堂上的知县听了哈哈大笑起来，原来这个“新媳妇”只不过是花钱雇来的一个妓女罢了。把戏被戳穿，小偷只好认罪伏法。
几年后的一天，张小舍回到家中，整夜唉声叹气，妻子问他，他忧伤地说：“我的死期恐怕不远了。好好替我照顾老母亲！”妻子听后大惊，忙问其故。张小舍说：“昨日审了一个案子，农民张三在自己家的田中劳作时掘出一大坛黄金，足有上千两之多。当时在田中干活的人很多，众目睽睽之下，张三只好将黄金上交县衙。知县大人命人封入府库，严加看守。今日早晨，当众打碎坛子，果然见千两黄金滚出，映照得公堂一片金黄灿烂。大人找来专替人打金银首饰的钱一手来验看，不料这些金子竟是外边镀金的铅块。堂上堂下一片惋惜之声。就此结案。”他妻子听得满头雾水，疑惑地问：“结案了，你怎么回来还死呀活的？”张小舍说：“昨日见那坛黄金送来时，四个强壮的庄稼汉吃力地抬入县衙，杠子被压得弯弯的，今日早上从府库中抬出时，四个衙役轻松地将坛子抬到堂上，杠子只是微微有些弯而已。”听到这里，妻子惊恐起来：“难道，难道……”张小舍重重叹了口气，说：“是呀，自古以来，能面对唾手可得的千两黄金而不动心的人何其少啊！”
过了几天，张小舍在外出查案时被一伙强盗伏击而死。送葬那天，成千上万的老百姓为他送行，知县也代表县衙高度地褒奖他。
知县后来官运亨通，一直做到吏部侍郎，突然有一天夜里暴死家中。整个尸身被塞入一个大坛子之中。朝野震惊，严查几日后，在接到一封匿名信之后，忽然不再查问此案，最终，不了了之。