1979年，陈云被查出患有结肠癌。手术前，时任中央副秘书长兼中央办公厅主任的姚依林问他有什么交代，他没有说别的事，只就潘案给时任中央秘书长、中纪委第三书记的胡耀邦写了封信说，“潘汉年一案要重新审理”。陈云提出应该复查潘汉年案件以后，工作的进展仍很迟缓。1980年11月，廖承志在一次会议上提出：“我与刘晓同志商量过，认为潘汉年问题可以说是个冤案。”“我正式严肃地建议，中央对潘汉年一案要重新审理。”他指出：“我敢肯定他不是叛徒，因为当时潘对上海、广东、香港地下党的情况很清楚，而潘到上海后这些地方的地下党没有任何一个机构因为他而遭到破坏。”会后，廖承志把自己的发言整理成文字，给陈云写了一封信，重申应为潘汉年平反的意见。之后，陈云指示公安部整理了一份关于潘案处理过程的材料。在调查研究了潘汉年案件的大量材料后，1981年3月1日，陈云致信邓小平、李先念、胡耀邦等：“我收集了一些公安部的材料和与潘汉年同案人的材料。这些材料，并无潘投敌的材料确证。而且对于刘晓、刘长胜同志等能在上海保存下来反面提供了潘并未投敌出卖组织或某一个同志。”“我建议中央对潘汉年一案正式予以复查。这件事如中央同意，可交中央纪律检查委员会办理。”“附廖承志同志给我的信，请阅。”2日上午信发出后，邓小平当天批示：“赞成。”李先念批示：“同意。”3日，胡耀邦批示中央纪委对潘案进行复查。中央接受了陈云的建议，对潘案进行复查。1981年冬天，陈云在人民大会堂会见原中央特科工作者座谈会的代表时说，特科是周恩来直接领导下的党的战斗堡垒，是一个有战斗力的白区党的地下组织。特科出过若干个有名的或者党内大多数人不知名的有功绩的同志，也出过一个大叛徒顾顺章。顾叛变后，我是特科主任。1932年我去搞工会工作，康生接任。康走后是潘汉年负责。对潘汉年案件，中央纪委正在平反，我相信他必将恢复名誉。

从1981年3月中共中央-局常委会根据陈云的建议，责成中央纪委复查潘汉年案件后，在一年多的时间里，中央纪委调阅和详细研究了公安部、最高人民检察院、最高人民法院以及原中央专案办公室关于潘案的全部材料，并查阅了中央档案馆和中央主管部门有关的历史档案，又向几十位过去同潘汉年一起工作过的人作调查。复查结果表明，原来认定潘汉年是“内奸”的结论不能成立，应予否定。1982年8月23日，中共中央根据中央纪委的复查结果，发出《关于为潘汉年同志平反昭雪、恢复名誉的通知》。《通知》指出：“根据潘案复查结果，中央向全党郑重宣布：把潘汉年同志定为‘内奸’，并将其逮捕、判刑，开除党籍，都是错误的。这是建国以来的一大错案，应予彻底纠正。”为此，中共中央作出两条决定：“一、撤销党内对潘汉年同志的原审查结论，并提请最高人民法院依法撤销原判，为潘汉年同志平反昭雪，恢复党籍；追认潘汉年同志的历史功绩，公开为他恢复名誉。二、凡因“潘案”而受牵连被错误处理的同志，应由有关机关实事求是地进行复查，定性错了的应予平反，并将他们的-待遇、工作安排和生活困难等善后问题，切实处理好。”《通知》还总结了此案的沉痛教训，指出：“党内审查从事对敌隐蔽斗争的干部，最主要的方法应当是从他们的长期斗争历史、工作实际效果来证明他们是否对党忠实。担负这种工作的同志，他们的社会关系、工作环境、接触人物必然是复杂的，他们需要独立进行秘密工作，使用各种特殊手段。因此，他们的行动不易弄清，而且常常是找不到第三者的证明。但是，党既然给了他们这种特殊任务，允许他们进行特殊的活动，那么审查时就不能以关系复杂、接近敌人、无人证明等理由作为怀疑的根据，不能脱离他们的特殊任务、特殊工作环境，而采取一般的、简单的审查方法。否则，就容易冤枉好同志。”

潘汉年冤案平反后，11月9日，陈云给夏衍写了一封信：“潘汉年同志的案件已经平反，党内已经通报。”“但在党外，要使人知道潘汉年同志是一个好同志，所以我想请你写一篇文章，纪念他，并在人民日报上登载。你是否可能写一篇，请你斟酌。”夏衍曾同潘汉年在中央特科、香港工委、上海市委长期共事。夏衍按照陈云的意见，于11月23日在人民日报上发表《纪念潘汉年同志》的文章。文章说：“国共两党分裂、合作、再分裂，‘你中有我，我中有你’之类的斗争，在青年人心中已经是早已过去的事了。潘汉年同志就是在那种特定的环境下，在最前沿的阵地上，忠心耿耿地为党工作了几十年的好党员。”“‘潘案’的复查，终于在十一届三中全会之后实现了!从这点也可以看出三中全会的伟大意义。我们党的实事求是、有错必纠的传统，终于得到了恢复。潘汉年和董慧同志早在5年前去世了，我们这些无神论者不相信有什么‘地下’或‘九泉’，党给他们恢复了名誉，他们是不会知道了，但是，被株连的(死了的和活着的)得到了昭雪平反，潘汉年这个名字，他对党的一片丹心，终于可以写入青史，令人长久垂念了!”

陈云在很多干部群众的心目中，历来以头脑冷静、作风稳健、办事严谨著称，似乎不大动感情。其实他既是一个冷静、稳健、严谨的人，同时也是一位十分重感情的人，竭力促成潘汉年一案的复查和平反，集中体现了陈云对蒙冤受屈同志的深情厚谊。