朱买臣等人指使长安狱卒，向长安商人田信等人用刑，屈打成招。田信等长安商人，由于受不了酷刑，被迫供述了张汤牟取私利的证词，朱买臣把供词递交给了汉武帝刘彻。汉武帝一看朱买臣送上的供词后，大怒，他没想到跟随自己这么多年的张汤，他最信任的人，会背叛自己。但也不好把这事交予廷尉处理，或是公开来让朝臣们去讨论，如果否定了张汤，等于否定了自己，于是汉武帝刘彻，只好委派张汤曾经的同僚，少府赵禹去责问他。赵禹曾经和张汤一起在廷尉任职，后受重用，被汉武帝擢拔为少府，少府属于九卿之一，部门的名称同样也称为少府，职责是管理皇帝的私人财产，皇家山川林泽与手工业的税收等。赵禹其实心里也明白，皇帝这次派的任务，恐怕不仅仅是责问而已。
赵禹来到张汤府上，两人见面。张汤对着仆人喊了一句：“赐坐”。仆人正准备去拿垫子，案几让两人坐下。赵禹连忙回答道：“不用了张大夫，故人此次前来，只是传达陛下几句话而已”。张汤听了话，向仆人挥了挥手，示意仆人离开，并关切地问道：“陛下了解此事原委没有”。赵禹听了话，笑着看着张汤说道：“张兄，事情已经不重要了，你认为陛下会怎么想？”。“可是，此事却是子虚乌有，小人诬告，难道还要以这种捕风捉影的说法，来治在下的罪吗”，张汤连忙看着赵禹说道。赵禹听了话，看着张汤又说：“张兄，汝伺候陛下十余年，难道还不明白陛下的想法吗”，张汤听了话，呆呆地看着赵禹。赵禹见状，又说道：“这些年，君所治案狱，以百数计，夷灭者几何人矣。事到如今，君何不知分也”。张汤听了话，心里凉了半截，看来汉武帝刘彻还是被小人蒙骗了。赵禹见张汤沉默不语，又说道：“今人之言皆有状，陛下不忍加刑罚于君，君又何须多言辩驳，而不顾全圣上的体面，有损陛下的威严呢”。张汤听到这里，彻底傻了，呆呆地站着，过了好一会儿，才缓过神来，对着少府赵禹说道：“汤绝非贪生怕死之辈，能有今日之地位，全都仰赖陛下圣明，然此事必是小人栽赃陷害，到了如今的地步，我也不便再开脱罪责，只是有损了陛下的厚恩呐！公居九卿之位。。。”。赵禹听了张汤的话，没等他说完，便打断道：“君好自为之吧，在下告辞”，说完话便离开了，张汤站在原地傻傻地看着，赵禹离开的背影。
张汤傻了，一整天时间都在书房里傻傻地坐着，但是他没有忘记赵禹的话，案几上已经摆好了自己准备的毒酒，而他却仍然心有不甘，于是他提起笔，开始写自己的遗书，也算是给皇帝最后的奏疏，写道内容如下：愚臣汤侍奉陛下十余载，虽无尺寸建树之功，仅效狗马笨拙之力，然汤绝非见利忘义之人，岂会贪图贾人之财而背叛圣明，此事实乃小人栽赃陷害，必是丞相长史朱买臣等人为之。臣沐浴皇恩十余年，感激涕零，死不足惜，只是再也不能伺候陛下左右，还望陛下珍重，汤绝笔以闻。到了天黑时分，张汤起身，向着北边的方向，跪下来拜了又拜，打理好自己一身上下的仪表，在案几前跪坐下来，端起了案几上的毒酒，心里想道：陛下，我下辈子还做你的臣子。于是毒酒一饮而尽，结束了自己的一生。
夜晚，张汤的遗体很快就被家人发现了，一家人围在尸体前痛哭。张母边哭边大喊道：“儿啊，当初你不听为娘的话，以至于才有今日啊”，她看了一眼身边，跪在地上痛哭的，张汤的两个儿子张贺与张安世，呼唤到身前，抱着这两个孩子，对他们说道：“你兄弟俩将来若是为官，可千万不要像你父亲那样”。张贺与张安世边哭边答应道：“知道了，祖母”，就算一家人再如何悲伤，张汤也不可能死而复生了。第二天，这消息也传到了汉武帝的耳朵里，张汤的自杀更让皇帝觉得，他与长安贾人之事，脱不了干系，也感觉到自己受了张汤多年的蒙骗。于是，他命苏文传来了廷尉，廷尉来到汉武帝刘彻身旁，刚行礼跪着，汉武帝立刻说道：“你给我去查，与张汤之事勾连的还有几人”。“臣领命”，廷尉跪着回答完汉武帝的话，正要离开，汉武帝又对廷尉说道：“一个都不要给朕放过”。廷尉听了话，便离开了。
查来查去，很多都是捕风捉影之说，并无着实的证据。只是之前大行李息与汲黯的对话，被人扒了出来，汲黯曾经规劝李息，早向皇帝进言，提防张汤，只是当时李息因畏惧而保持了缄默。汉武帝得知此事后，大怒，李息下狱处死，正是应验了汲黯的那句话：公与之俱受戮矣。廷尉见查不到任何可靠的线索，于是上报皇帝，请求抄张汤的家，汉武帝同意了廷尉的请求。廷尉接到授命后，马不停蹄，带着人便来到了张汤家中，张母站在家中庭院的正中，看着这一般人，来来回回，屋里屋外的乱翻，而一言不发。最后廷尉带着人要离开之时，张母郑重地询问道：“廷尉大人，可有查到什么？”。“这。。。”，廷尉迟疑了一会，向张母行了一个礼，很不好意思地说道：“太夫人，吾乃是奉陛下之命，多有得罪”，张母看了他一眼，没说话。廷尉见状，又说了一句：“在下告辞”，便带着人离开了。
当皇帝接到廷尉署的搜查报告后，既惭愧又愤怒，张汤一家，上上下下所有的家财不过五百金而已，且是汉武帝刘彻，多年的赏赐积累。而且并没有发现，有关张汤勾结长安商人的，任何蛛丝马迹。而当廷尉本人将张汤的遗书，递给了汉武帝刘彻，皇帝亲自看完内容后，更是羞愧难当，仿佛自己被整个天下的人所欺骗一样，他大声呵斥道：“快给我去逮人”，廷尉听了话，立马离开，马不停蹄地把朱买臣、王朝、边通，三个丞相长史逮入了诏狱中，因为之前廷尉在搜查完张汤家，并看了张汤的奏疏后，便知道会有这一结果。廷尉狱卒开始反复对这三人用刑，开始这三人还守口如瓶，一口咬定张汤的罪状。而当廷尉本人得知了此事后，亲自来到这三人面前，说明了事情原委，最后三人无奈只好认罪，就这样陷害张汤的丞相长史三人，被处死，而丞相庄青翟也在诏狱中畏罪自杀，长安商人田信等人被无罪释放。
张汤出殡的那天，家人们都提议厚葬，可张母却不同意，她对家人们说道：“汤为天子大臣，披恶言而死，何故厚葬！”。不但不同意，而且有棺无椁，仅用牛车，载着装有张汤遗体的棺材送葬。于是一家人就用非常简陋的葬礼，送别了张汤。古人视死如视生，特别是西汉时期，厚葬之风盛行，只要是稍微有一点钱财，或是有一些地位的人，都会采取厚葬的方式，把生前能带的财物带到地下。而稍有地位的人，在安葬遗体前，都会在木棺外再加上一层木椁，生前的财物多放置在棺椁之内。黄门宦官苏文很快将这个消息告诉了皇帝，本身处在悲愤中的汉武帝，听了这个消息后，变得有些失落。这些年在他身边，忠心侍奉了他十余年的心腹之臣张汤，因为小人的诬告，与自己的猜疑，含冤而死，他对身边的苏文感慨到：“非此母不生此子也”。
张汤的死在朝野之间传开，准确的来说应该是炸开了，很多人为张汤的死感到惋惜，但也有人觉得张汤死不足惜。主要是张汤之前的为政举措，只是单纯地揣摩皇帝的心思，根据汉武帝的想法处理事情，很少对皇帝的意见提出异议，以及公正客观地评判事务。很多人之前也早有预料，预感到张汤必然会有这么一天，只是不好明说罢了。汉武帝刘彻，在这一事情的处理上也做得很绝，原告被告全部被一股脑一网打尽。这让平时伴随皇帝左右，伺候在汉武帝身边的霍光，心有余悸，对汉武帝刘彻更增加了敬畏之心，而畏惧的想法恐怕要比敬仰来得更多。张汤的失势，却是另外一个人，桑弘羊的得势，这一年他被任命为大农中丞，也就是九卿大农令的副职。桑弘羊原本是长安贾人之子，因为精通数算，而被诏入宫廷，做了皇帝身边的侍中。汉武帝元狩4年，实行盐铁官营政策之时，桑弘羊已经在大农令下任职，他亲自参与了汉武帝时期的财政改革，由于他作为商人的儿子，对国家的这一套政策，和民间的市场行为，比较熟悉，因而对盐铁官营的改革之策，颇有建树。于是被汉武帝刘彻，提拔到了大农中丞的任上，逐渐迎来了他，人生的辉煌时刻。
