1960年10月，陈赓陪同周恩来接见了第一批被特赦的国民党战犯。在接见的会议上，陈赓和周恩来向战犯们讲清了国民党失败的原因。被特赦的战犯大部分都是陈赓的同学，他们都表示毁过自新。

1960年，陈赓突发心脏病。中央请他到上海养病，在上海养病期间，陈赓见到很多当年在上海工作时的老朋友、老同事。他还见到了刚释放出狱的杨登瀛，对杨当年为党工作表示了肯定。

1961年初，陈赓依照中央指示，开始撰写自己的作战总结。他不停的工作，导致身体状况恶化，于1961年3月16日逝世。