1926年10月和1927年2月，为响应北伐战争，推翻封建军阀统治，中国共产党领导上海工人阶级举行了第一次和第二次的武装起义。但由于准备不充分，均以失败告终。上海北洋军阀疯狂报复，肆意捕杀工人，使上海陷入一片白色恐怖之中。
工人纠察队在南市总指挥部（三山会馆）前操练（来源：《上海人民革命史画册》）
1927年2月23日，中央和上海区委联席会议决定组织特别委员会，特委下设军事委员会和宣传委员会，作为发动第三次工人武装起义的最高决策和指挥机关。周恩来出任军委书记，并担任起义总指挥。在南市、浦东、闸北设立3个指挥部，分设南市、闸北、虹口、浦东、沪西、沪东、吴淞7个战区。3月21日晨，中共上海区委发布全市工人总同盟罢工和举行武装起义的命令。南市战区率先打响第三次武装起义的第一枪。
3月21日中午十二时，南市工人纠察队以小南门警钟楼的钟声为号，举行总同盟罢工，按预定计划，分三路进攻。第一路队伍以法电工人为主，攻占沉香阁路警察署，后包围淞沪警察厅；第二路队伍以华电工人为主，配合围攻淞沪警察厅；第三路队伍以吴淞机厂工人为主，分别攻占八仙桥、上海南火车站警察区署。后各路汇合集中攻打孙传芳驻沪部队司令部、江南造船厂、高昌庙兵工厂。经过四个小时的激战，工人纠察队解除了南市军阀军警的武装，控制了南市的通讯网络和交通枢纽。第三次武装起义首战告捷。
上海各界在南市公共体育场举行市民大会，庆祝上海工人第三次武装起义胜利，拥护新生的市民政府。（来源：《开国领袖画传系列 周恩来》）
3月22日下午六时，周恩来指挥上海工人纠察队成功拿下最后一个据点——北火车站，赶走了驻守上海的北洋军阀部队，取得了武装起义的胜利。这次起义，是中国共产党独立领导武装斗争的一次成功尝试，在中国工人运动史上写下了光辉的一页。