1944年夏，第二次世界大战到了转折时刻，德国法西斯在欧洲战场节节败退，日本侵略者在中国战场被淹没于人民战争的汪洋大海，在东南亚和太平洋战场上也遭到了盟军的重创。为了挽回被动局面并保持后勤补给线的畅通，侵华日军总司令部命令驻中国华中的军队对苏北的新四军进行大规模的清剿，并在上海实行“白色恐怖”政策。日军对所有进入苏北的物资严格控制，妄图掐断新四军的后勤供给。由于叛徒出卖，上海日军宪兵司令部谍报处侦缉科科长马浮根和吴淞口巡防团团长黄元龙，联手破获了共产党在上海的军需物资地下转运站 - 51号兵站，他们杀害了电台报务员，并缴获了兵站正准备运往苏北根据地的药品等物资。兵站负责人杨显庭侥幸脱身。在破获兵站的当晚，宪兵司令部谍报处处长田中敏行派遣一支小部队，利用兵站运送物资的船只混进根据地，妄图偷袭新四军的后方医院，被新四军某部作战参谋梁宏率部队击溃，其阴谋未能得逞。为了尽快恢复苏北新四军的后勤供给，中共华中局委派梁宏(化名范云洪)，以《茂隆商号》老板的身份前往上海重建51号兵站，同时也着手在根据地秘密排查，寻找日伪隐藏在我内部的奸细。

出于保密的考虑，梁宏名义上是被派往苏中前线，而实际上他在南通附近隐蔽了几天便潜入上海。梁宏(范云洪)的父亲范金生是上海帮会组织《义展堂》的堂主，由于辈分关系，他和上海滩的黑帮老大黄金荣、杜月笙、张啸林等私交都不错。范金生此人颇有具爱国心，不愿与日本人合作，在“八 • 一三”之后便避居澳门。梁宏从小与父亲不和，15岁便离家去日本留学，华北沦陷后回国，“七七事变” 后投身抗日活动并参加新四军。此次来上海，他正是打算利用家庭背景和他的“小老大”身份，尽快开展工作，因为眼下日本人在上海的两个得力干将 -侦缉科科长马浮根和巡防团团长黄元龙，都是范金生《义展堂》的弟子。黄元龙的巡防团在吴淞口码头上截获了一批盘尼西林，这批货其实是重庆方面采购的。军统局马上指示其上海站负责人徐曼丽设法找回药品，不惜重金赎买。徐曼丽的公开身份是上海有名的交际花，和军、政、警、宪、特各路人物都有关系，还和马浮根合伙做生意。马浮根对徐曼丽是又依赖又惧怕，依赖的是徐的关系和金钱，惧怕的是军统的暗杀手段。虽然表面上马对徐是俯首帖耳，但背地里经常暗算徐。徐假托有西北买主愿出高价购买盘尼西林，指使马暗中劫走了这批药品并干掉了运送药品的巡防团团副刘金贵。

　离家多年音讯全无的“小老大”的突然出现，不仅让大管家李墨林以及范家的上上下下颇感惊讶，同时也引起了马浮根和黄元龙乃至田中的疑虑。由于梁宏待人接物态度谦和，处理事务英明果断，很快就赢得了大管家李墨林以及范家上下的信任和好感。加上我党对范金生开展的统战工作颇有成效，范下令将家族产业“金钟俱乐部”(赌场)交给“小老大”范云洪经营掌管，并要求李墨林全力以赴帮助“小老大”在上海滩立住脚跟。李墨林借着“金钟”换人的机会介绍梁宏认识了众多《义展堂》老一辈人，包括马浮根。根据“老家”的安排，梁宏运用第一方案在 “东昌茶室” 与原51号兵站负责人杨显庭接头未果，便启用第二方案在报纸上登载《寻人启事》。叛徒程路打算在《寻人启事》的接头地点抓捕梁宏，梁宏利用他在日本学医时的导师松原幸次郎博士(此人正好是田中的老朋友)，不仅粉碎了程路的阴谋，还打消了日军情报头子田中对自己的怀疑。田中通过他在苏中根据地的潜伏谍报员 ---“苏中305”，也间接证实了“小老大”的身份。

马浮根报告田中说，上海市面根本没有盘尼西林，流传的消息都是谣言。田中将信将疑。马将这批盘尼西林分别藏在了金城银行和侦缉科线人“虾米头”童阿四的店铺里。他暗中将盘尼西林许给了徐曼丽，明里却让童阿四用它作为诱饵企图钓新四军上钩。黄元龙眼见着到了嘴边的肥肉被人夺走了，他岂能能善罢甘休。他一边吩咐自己的生意经纪人、大恒贸易商行老板宋振中(中共地下党员)假冒买家打探消息，一边命令陈副官暗中作好准备，企图在成交交割货物时抢夺盘尼西林。梁宏启用第二方案接头，不料恰好为叛徒程路利用。情况万分紧急，“老家”指示上海地下党要主动协助梁宏。杨显庭让交通员胡奶奶把接头信息及时传递给胡阿强。梁宏终于和上海地下党的宋振中和杨显庭接上了关系。为解新四军后方医院药品匮乏的燃眉之急，梁宏他们马上研究行动方案，制定了劫夺盘尼西林的周密计划。黄元龙本来对这个突然出现的“小老大”心存疑虑，但梁宏亲赴吴淞口拜访黄元龙并与其大谈生意经，不仅打消了黄的顾虑，两人还商定要联手做买卖。黄元龙为梁宏拉场子，在国际饭店宴开十桌，邀请地面上的头面人物出席。侦缉科长马浮根也到场了，这着实让黄元龙大感惊讶。实际上马浮根是打算当天晚上“收网”，抓住盘尼西林的中共方面买主，利用此事要挟黄元龙让出吴淞口。

酒酣耳热之际，消息传来：在盘尼西林交货的现场，侦缉队和巡防团的人大打出手，各有伤亡，重庆方面的两名买主也一死一伤，盘尼西林下落不明(其实已被杨显庭等人暗中取走)。马、黄大怒，相互指责对方不讲江湖义气，背后捅刀子。梁宏抓住机会，以“小老大”的身份居间调停。马浮根虽然心有不甘，但碍于自己的短处被黄攥住，也无可奈何。黄元龙对梁宏十分感激，认为他维护了自己的面子。梁宏一鼓作气，化装并冒名松原教授取出了金城银行保险箱里的另一部分盘尼西林，将两部分药品一起运回了苏中根据地。田中得知此事后怒斥马浮根“欺骗皇军”，马浮根有苦难言。他追问现场的童阿四，却始终不知道药品的下落。

南京汪伪政府的特派员崔元凯许以重利，请求马浮根帮他起出一批原来国民政府埋藏在上海四行仓库的无缝钢管(用来制造迫击炮的炮筒)。马浮根通过“鑫发记”五金行的李老板搞到了这批无缝钢管，并将它转手卖给了徐曼丽，自己捞了一票。徐曼丽的在“盘尼西林”生意上的如意算盘没打成，她隐隐约约感觉到这背后有共产党的影子，可又没有确凿证据。她去“金钟俱乐部”想从梁宏嘴里探虚实。梁宏与徐巧妙周旋，丝毫不露破绽，使得徐无功而返。叛徒程路再次利用第二方案《寻人启事》诱捕梁宏。他让马浮根的侦缉科在接头地点“四马路电车站”设下埋伏。梁宏早已洞悉其奸，他当机立断，利用“义展堂”的人马，同侦缉科的特务们演练了一出“全武行”，侦缉队损失惨重，溃不成军，叛徒程路侥幸逃生。