随着战争的爆发，大量的残兵败卒、地痞混混儿涌入“上海法租界”。此时的租界，也成为了这些不法分子的“犯罪天堂”。

在北伐中兵败的希于庭，也带领自己的手下逃到了上海。在“法租界”，希于庭一伙人凭借正规军的装备，吞并了不少“帮派”。

在“希于庭父亲”的人脉安排之下，希于庭一伙在法租界做起了“鸦片走私”的买卖。

丁君璧跟随巡捕房的江队长，对法租界的“鸦片团伙”进行肃清。然而多次行动，都屡屡扑空。一次意外中，丁君璧救了一名“舞女”。结果从舞女口中，丁君璧得知，巡捕房内部有“黑警”。每次巡捕查抄烟馆，都有人提前报信。

丁君璧将“有内鬼”的情报，告诉了江队长，而江队长也越级报告给了“法国公使馆”。

为了感谢丁君璧的救命之恩，舞女成为了他的线人。舞女得到消息，一伙人要在一家茶楼进行“鸦片交易”。为了避免消息泄露，江队长决定带着丁君璧秘密前往。

在茶楼交易的，正是希于庭一伙人。在交易中，两帮人马因为利益纠纷，发生了火拼。希于庭的父亲在枪战中中弹，而前来探查的江队长，也在混乱中被希于庭击毙。

乱战中，丁君璧认出了蒙面的希于庭。昔日在战场上的宿敌，如今也在命运的安排下再度相遇。

江队长牺牲后，丁君璧接替了队长的位置。此时，“法国公使馆”也查出了巡捕房的内鬼。为了肃清巡捕房的风纪，铁面无私的“田警官”（徐锦江饰演），成为了巡捕房的新局长。

田局长上任后严整纪律，查处了不少收受贿赂的巡捕。丁君璧为了给江队长报仇，总是擅自行动、独来独往、不守纪律，这让田局长十分不满。

为了让丁君璧遵循纪律，也为了不让江队长的惨剧再次发生。田局长罢免了丁君璧的队长职务，让他在街上做“巡警”。