1949年解放前夜，连长孙光大带兵包围了保定城，城内的国军几次突围都被解放军的猛烈炮火打回去。城外给城里国军送粮食和水的士兵，也被阻挡在外。两天一夜的围剿，让城里的国民党军队饥渴难耐。孙光大灵机一动，和手下士兵伪装成送粮食的国军进城，趁机拿下敌人。正当三连清理胜利成果时，团长给孙光大带来上级命令，他被点名调去刚解放的北平。孙光大带着十二分不情愿来到北平，正遇上小偷抢钱，孙光大紧追不舍，小偷哪是他的对手，被追得口吐白沫，晕死在地。失主时髦漂亮的郑小姐这时赶来，没想到她不仅没有感谢孙光大，反而责怪他把人打死了，这让孙光大很不理解。身为医生的郑小姐连忙给小偷急救，才把人救回来。派出所警痞钱有根，原国民政府的钱巡长，见有人喧哗，把他们全带回派出所。刚解放的北平情况非常复杂，散兵，游勇，小偷，潜伏特务横行。北平军管会副局长李玉山交给派出所所长张定军一项重要任务——组织精干力量，成立行动小组，打掉敌特势力。为此，他给张所长调来全军著名的战斗英雄，孙光大。孙光大进城第一天就差点弄出人命，李玉山身为老连长，提醒他，现在进了城，处处有规矩，不能再按军队里的那一套。张所长向派出所警员介绍新来的侦查组长孙光大。孙光大看不起这批国民政府留下来的警察，觉得他们就是一帮流氓，不配叫同志。尤其是吊儿郎当的钱有根，孙光大更瞧不顺眼，他一枪把钱有根抽的烟打灭。张所长收了孙大光的枪，关禁闭要他好好反省。李玉山给老部下做思想工作，现在工作性质变了，派出所这些人再看不惯也是同志。到北平来处处不顺，孙光大向李玉山提出要回部队，还是打仗过瘾痛快。李玉山告诉他，毛主席等党中央领导同志和机关都在北平，保证他们的安全，保卫这座城市也是非常重要的工作。孙大光答应暂时留下。钱有根一直喜欢妓院头牌翠喜，这天来给她送生日礼物，翠喜对他避而不见，让他省下钱找个好人家姑娘。钱有根执意留下一个玉镯子。派出所的老警察对孙光大都爱理不理的，孙光大决定给他们点颜色瞧瞧，趁夜假装蒙面人把他们全绑了起来。这时城南边电车厂方向着火了。第二天一早，孙光大见钱有根在睡觉，现场仍一片狼藉，发起火踢翻瓷盆，还拿枪指着钱有根。谁知他踢的正是钱有根精心保存的物证。李玉山来到现场，询问孙光大案件情况，孙光大答非所问，完全摸不着头脑。钱有根一改平日的吊儿郎当，把案情分析得紧紧有条，有理有据。孙光大惭愧万分。
孙光大向李玉山提条件，破十个案子就放他回部队，还能赶上解放军渡江。他写下字据，要李玉山签字。不仅孙光大看钱有根不顺眼，钱有根也看不上孙光大，觉得他是什么也不懂的土鳖，身为警察，连案发后第一任务是保护现场都不懂。为了破案，孙光大向钱有根使激将法，说自己不出十天破这个案子，钱有根说三天就行。俩人打赌，谁赢了当谁师父。经技术科鉴定，纵火案结论和钱有根分析的一样。孙光大第二天一早，就到钱有根家喊他起来去查案。钱有根来到电车厂询问厂长是否丢了自行车，因为他在门外捡到车的锁链。孙光大拿出笔记本专心记录案情。钱有根要孙光大不要跟着他，免得偷师，俩人各走各的路。钱有根经过勘察，找到纵火犯住的小院，透过门缝，看到院里停的自行车，心里有数。邻居大爷告诉他，小院里是住着一个二十多岁练过武的小伙子冯双柱，上有老，下有小，刚死了媳妇。钱有根料想自己不是对手，回派出所搬救兵。哪知孙光大一直跟着他，抢先进院把冯双柱抓了绑起来。孙光大自恃先抓到冯双柱，要钱有根叫他师傅，钱有根并不服气。审问冯双柱的时候，怎么问话他也不答，孙光大恨不得拔枪崩了他。钱有根却和冯双术说了几句江湖上的黑话，就让他动摇了。冯双柱求他们保护老母和小宝，自己就全告诉他们。说带头叫蒋老板的三个国军，给他一百块钱，让他带路进电车厂。谁知他们一进来就浇汽油，把他吓坏了。他们还放了炸弹和枪在他家院里树底下，今天下午来取。钱有根和孙光大伪装成馄饨摊主和食客，在院子门口蹲点。经过这些天的厮混，孙光大知道钱有根只是嘴浑，破案本领一流，人并不坏。他诚心要拜钱有根为师先来的两个国军进了小院，孙光大示意抓捕，后来的老蒋见势不妙，准备跳水逃跑，最终被孙光大撒网抓住。孙光大满心欢喜以为案子破了，李玉山却告诉他这只是小鱼小虾。钱有根回答，这个案子上级是谁，炸电车厂的目的，联络点都不知道，根本不算破案。老蒋供认他的上线曾开福瑞汽车行的车来接过他。钱有根说案情分析他拿手，拿人办案孙光大拿手，两人分工。他先派人去摸清情况。
钱有根的房东关全和“关爷”家道中落，只剩下这座院子。他见兵荒马乱，时局不稳，请老道金爷算算。金爷请出“老母”，丢下一句“三皇五帝拜到，四面八方聚齐”，要他自己琢磨。钱有根带孙光大来家里拜会租住一个小院的赵大力师傅，他在福瑞汽车行当司机。赵师傅说，最近车行来了一位新股东冯先生，他有些反常，老闷在后院不出来，老板也不让他们进去。见到共产党干部孙光大，关爷联系到“老母”说的话，心生一计，以免两月房租为条件，让钱有根劝说孙光大住进小院来。现在是共产党的天下，孙光大住进来相当于小院的门神。钱有根西装革履自称刘经理，到福瑞租车行租车，他借口来到后院，发现有一根铜线通向房顶，他怀疑是电台用的天线。岂不知有双眼睛在暗处盯着他。钱有根要孙光大跟着他好好学学破案，孙光大主动说要和他住一起方便学习，钱有根顺水推舟，暗自欢喜。孙光大搬进小院第一晚，觉得肚子饿，到街上面摊吃面，一口气吃了六七碗。结帐时老板说他的钱还不够买一碗面。孙光大不知北平的物价，以为老板讹他，争执起来。派出所警员周大民赶来解围，见孙光大走了，趁机又敲诈老板两碗面。老板见他们是派出所的，只能吃个哑巴亏。孙光大来北平第一天抓小偷的失主郑小姐正好也在面摊吃面，她实在看不下去，追上孙光大告诉他冤枉老板了，还说他白吃白喝给共产党丢脸。孙光大羞愧不已，赶紧回家拿钱给老板，老板却告诉他，那位漂亮姑娘已帮他付钱了。福瑞车行的乔老板和冯老板拿电台去派出所自首，这让孙光大很意外。乔老板自称他早就洗手不干了，都是国军派来新的行动组，拖他下水。钱有根觉得这案子似乎破得太顺了。李玉山指示先把他们放回去，在外围布置好眼线继续监视。
得知孙光大和钱有根住在一起，李玉山很高兴，他觉得俩人身上都有值得相互学习的地方。他其实根本舍不得放孙光大走，要张局长把好关。孙光大带人在车行附近监视，他见钱有根借口开溜，跟踪后发现他去了妓院。孙光大告诉钱有根，公安局禁止逛窑子，要他明天把警服脱了。乔老板下半夜开车出门，孙光大带队跟踪，谁知进入敌人安排好的包围圈，两方人马激烈交战，最后国军行动小组终于被拿下。孙光大也因为掩护钱有根中弹受伤。钱有根急忙把孙光大背进医院。孙光大手术醒来后睁开眼就看到郑小姐，原来她就是这家医院的郑新兰医生。两人不打不相识。郑医生为孙光大缝合伤口，发现他身上有很多枪伤，得知他是战斗英雄后，崇敬之情油然而生。孙光大救了钱有根的命，还说他是自己的战友，救他是应该的。钱有根很感动，跪在孙光大病床前发誓，这条命是孙光大给的，从今开始跟着他混，拜他为大哥。钱有根还告诉孙光大，自己没逛窑子，去妓院是有原因的。虽然打死几个特务，取得一定战果，但李玉山总结这次行动是失败了。但钱有根在这次侦破中，利用辨别痕迹的专长，为破案提供直接线索，记功一次。钱有根第一次获得这样的荣誉，急于到妓院和翠喜分享。丫头转告翠喜带给他的话，她为钱有根交了一个生死兄弟而高兴，并把之前他送的东西还给他，要他送给未来的媳妇。钱有根大声拒绝，这一辈子非她不娶！每天太阳落山时，鼓楼冒烟，百姓纷纷传言这是煞星下凡。关爷又来找金爷算卦，金爷故弄玄虚一阵，转告“老母”的意见，“鼓楼冒烟，共产党要颠”，如果江那边国军打回来，跟着共产党的人都得遭殃。关爷忐忑不安。抓捕的特务招供，国军成立了飞鹰行动组，准备采取行动，他们会来取武器。那天钱有根乔装去汽车行，他们就在那设伏。关爷听了金爷的话，心里不安，在家把祖宗留下古董拿出来擦拭，他想把院子卖了去香港，又苦于这些宝贝不好带。金爷要关爷把传家宝——前朝皇帝赐的玉如意，供给“老母”，可保小院平安。关爷犹豫不决。孙光大急着出院，郑新兰送给他一本福尔摩斯探案全集做礼物，孙光大很高兴。钱有根看出其中的意思，在一旁起哄。
关爷一直为小院的事不安，果真如“老母”所说，“共产党要颠”，那他院里住一个共产党，那不就麻烦了。赵大力看在眼里，劝关爷不要卖小院，他去叫孙同志搬走。孙光大出院回来，追问关爷“鼓楼冒烟”是怎么回事。赵大力阴阳怪气地说，全北平城嚷遍了，“共产党要颠”。孙光大决心上鼓楼看个究竟，钱有根告诉他，晨钟暮楼，几百年了，冒然上去怕神仙怪罪。孙光大不理会封建迷信这一套，一定要去看看，钱有根没办法，只得跟着。半夜，两人听到水车的声音。钱有根立马发现有问题，水车一向只走西直门，这人怎么到鼓楼来了。二人把送水人周武抓进局子，钱有根一眼瞧出他是盗墓贼。周武招供，有人给他塞一大笔钱，要他半夜以后往鼓楼提水，两三天泼一次。钱有根认为可以结案了，所谓鼓楼冒烟是那些神神鬼鬼的道士派人干的。孙光大向钱有根请教怎么知道周武不是摆摊的。钱有根从皮肤、衣着、牙齿各方面分析得头头是道，孙光大再一次佩服得五体投地。《人民日报》发文澄清鼓楼冒烟纯属自然现场，关爷放下心来。李玉山给钱有根颁发立功奖状，钱有根要小翠拿给翠喜看，并告诉她，建立了新政府，日子会一天比一天好，他一定会来赎她的。孙光大和钱有根决定再审审上次围剿中抓捕的刘兰涛。从他家搜出不少新型武器，应该没那么简单。钱有根又来到刘兰涛家，发现衣柜后面的暗格里藏了个小箱子，里面有些信件和女人照片。孙光大的审问没有进展，钱有根决定用自己的方法来审问。他找个借口把孙光大支开，领着照片里的女人进入审讯室。刘兰涛一看到自己的女人就慌了，钱有根要他不要死抱着沉船，将功赎罪出来过好日子。击溃防线的刘兰涛交待：华北督查组组长代号山河，备用联络站是宏顺贸易行，经理张友一是老牌特务，直接受山河指挥。孙光大打扮成商人和钱有根来宏顺贸易行调查情况，正好遇见从隔壁走出来的郑新兰。怕她说漏嘴，情急之下，孙光大以四五年没见面的大学同学身份，热情地抱住郑新兰打招呼，趁机要她配合自己执行任务。警惕的张友一在一旁看着他们的一举一动。郑新兰家的全发贸易行正好在宏顺贸易行隔壁，孙光大要郑新兰引见给她爸爸，借一间房子住几天，以便监视张友一。钱有根取笑孙光大拥抱郑新兰的行为，孙光大有些不好意思。
钱有根想和孙光大结拜兄弟，要关爷一早出去帮他订酒席，结果钱不够。周大民知道后要同庆楼送一桌来，钱有根心知肚明，周大民肯定是打着派出所的旗号赖帐。孙光大回来，在路上听见酒楼老板的抱怨，非常生气。回到家，孙光大对钱有根大发脾气，生死兄弟得看怎么做，不是怎么拜的。他们是共产党，不是国民党，决不能干白吃白喝的事，他拿出自己的钱要钱有根去结帐。关爷感慨说，现在他才知道，为什么共产党能得民心，得天下。周大民和刘志田在宏顺贸易行前盯梢，只见门打开，店员给他们送来点心。原来他们的跟踪行动早被狡猾的特务发现。为了不打草惊蛇，孙光大命令把监视点全都撤了，只留下郑家一个点。钱有根问孙光大对郑新兰有没有意思，孙光大说自己十来岁就上战场打战，部队就是他的家，还从没考虑过这个问题。钱有根透露，他有个让他一辈子去爱去敬的女人。张友一虽然对住进郑家的孙光大有疑心，但并没有发现什么漏洞。为了让张友一放松警惕，郑新兰带着孙光大和钱有根在北京四处游玩，张友一派人跟踪他们也没发现什么可疑之处。进入戏院，钱有根在舞狮杂耍处正好遇见翠喜和小翠。听说翠喜就是钱有根的爱人，郑新兰热情地打招呼，还问她在哪里上班，翠喜一时语塞，谎称自己在工厂上班。孙光大一行四人在茶楼坐定。钱有根向孙光大提出自己想加入共产党，孙光大自荐当他的入党介绍人。翠喜为钱有根高兴，举杯感谢孙光大对他的照顾。八爷走进茶楼，看见翠喜就想动手动脚，钱有根上前阻拦，说他认错人了。八爷认定翠喜就是怡香院的头牌，两人打了起来。钱有根追着翠喜来到怡香院。经过此事，翠喜更觉自己配不上他，故作冷淡地说，以后没钱别再登门，他心中的赵春花早就死了，现在她是婊子翠喜，这辈子再也不想见到他。深夜，钱有根一个人去喝闷酒，孙光大在郑宅监视宏顺贸易行。天津德胜商行的车队，给张友一送来一车烟台苹果。见他们清点完毕，孙光大偷偷潜入院子，撬开木箱，发现苹果下面全是武器。殊不知张友一在里屋把他的行动全看在眼里。孙光大回派出所叫人，大家闯进宏顺贸易行，发现里面空无一人，箱子里也只剩下苹果，在院子里，发现一条秘道，孙光大知道自己中计了。
钱有根为无法赎出春花难过，天天喝得烂醉如泥，还不停地自言自语，“得赎出来”。孙光大猜他说的就是茶楼相见的翠喜。乔老板一死，福瑞车行收归国有，赵大力正式成为一名光荣的工人阶级，他想请孙光大吃饭。敌人明明知道被监视，还敢铤而走险把武器运来，孙光大分析他们急需这批武器，他下令直接抓捕张友一。派出所包围宏顺贸易行，却遭到张友一抵抗，周大民慌乱之中把他打死了。经过突审，贸易行伙计交代，飞鹰行动组正埋伏在西山暗杀大官。孙光大急忙带人赶去西山，阻止首长车队继续前行。飞鹰行动组见警卫加强，下令撤离。李玉山表扬孙光大这次立了大功，警卫营事后排查，敌人阻击地点离车队不到三百米远，前方还埋有地雷。孙光大向上级报告，钱有根功劳很大，他想入党。李玉山想借这个机会，把钱有根做为留用警察的先进代表树典型，孙光大做他的入党介绍人。共产党进城，怡香院生意越来越差，原来的靠山金爷现在都躲着，老鸨觉得面对新形势，得找个新靠山。钱有根又来找翠喜，老鸨眼前一亮，他不就是新靠山么？老鸨做翠喜思想工作，要她见见有根，让他以后罩着怡香院，翠喜不理会。钱有根走出怡香院，正好被张所长瞧见。在钱有根的入党小组会议上，张所长坚决不同意钱有根入党，觉得他的旧习气不能当一名共产党员。钱有根急于赎回翠喜，但他怎么也凑不够老鸨出的价钱。老鸨为了讨好他，要他今晚在翠喜那呆一宿，不收钱。翠喜怕别人看到，他的名声毁了，故意摆出风骚的样子诱惑他，钱有根不忍看到她这个样子，闷头就走。翠喜在身后失声痛哭。钱有根提醒孙光大，郑大夫借书给他，是故意的。孙光大承认自己喜欢郑新兰，但自己是个半文盲，她是大夫，不合适。孙光大答应帮钱有根赎回春花，但提醒他救春花和娶春花是两回事，马上要建国了，钱有根以后会成为党员、干部，如果娶了妓女春花，恐怕不好听。钱有根听了和他翻脸。派出所为了迎接开国大典在锄草，郑新兰穿着漂亮的丝绸旗袍也要来帮忙，被孙光大赶走。回到家郑新兰向哥哥诉苦，哥哥提醒她，她的洋装和卷发在孙光大眼里都是资产阶级的标志，他们之间差距实在太大。郑新兰似乎明白了什么。
开国大典即将举行，派出所人手不够，孙光大受胡同孩子们的启发，在辖区各大胡同挑选可靠的人负责放哨，利用人民战争，把街坊邻居都组织起来。赵大力得知自己的车行要参加开国大典游行，他负责带队，感到非常骄傲。郑新兰剪了短发，穿上朴素的裙子来小院找孙光大。关大娘把她带进孙光大的屋子，她送给孙光大看的《福尔摩斯探案集》就放在床头。关大娘说孙光大平时可爱读这本书，没事就拿在手里。关大娘还热情地给他们看属相，说非常般配。赵大嫂说她和大力属相不合，所以孩子都生不出来。郑新兰要她去医院找她检查。钱有根请教孙光大，共产党要解救全中国受苦人，春花是受苦人，什么时候去解救。孙光大说，到时候一定会救她出来的。郑新兰见孙光大回来，大方地请他晚上一起去戏院看戏。钱有根暗笑，郑新兰的洋装卷发不见了，这分明是拿出当嫂子的劲头来。晚上，孙光大来到戏院，远远见郑新兰在门口等着却不敢上前。周大民见他在约会，顺手在小摊拿了两个苹果要他带去，还说这条街他关照着呢。孙光大很生气，批评他欺负老百姓，要他把钱还给摊主。钱有根兴冲冲地去怡香院，却见翠喜关上窗。老鸨告诉他，翠喜正在做生意。一个有钱大爷，一下包了她一个月。钱有根痛苦万分，他急需赚到钱赎出春花。想到之前周大民邀他一起去做倒卖粮食生意，他豁出去了，把钱都交给周大民。孙光大在派出所呆呆地看着昨晚的戏票，郑新兰走过来大骂他是胆小鬼，让自己白等了几个小时。孙光大和钱有根说，自己这是快刀斩乱麻，他们不可能。钱有根劝他，谈恋爱身份地位不重要，就象自己和春花。孙光大和钱有根打赌，要是他和郑大夫能成，那钱有根和春花也能成，到时候一起拜天地。为了搜索敌人的电台，上级给孙光大他们配了一台带雷达的汽车。周大民悄悄告诉钱有根他们真发了。郑大夫直接找到李玉山，自我介绍她是康雅医院的郑新兰，她想谈一次轰轰烈烈的革命恋爱，请求他做媒人，为她和孙光大牵线。
李玉山把孙光大叫到家里吃饭，建议他成个家，还询问他郑大夫怎么样。孙光大吞吞吐吐地说，喜欢，只是她是资产阶级小姐，俩人不合适，何况他还要去上前线。李玉山批评孙光大的偏见。郑新兰在一旁偷听他们的谈话，暗自高兴。知道孙光大的心意，郑新兰含情脉脉地看着他，要孙光大多说几遍喜欢她。翠喜生病发烧，老鸨不顾翠喜的身体，仍要她出来接客。郑新兰为赵大嫂检查身体，发现她并没大问题，开了几副药让她回去吃。钱有根知道翠喜生病，找郑大夫开药。钱有根在会议室发愣，为不能赎出翠喜而痛苦。孙光大知道自己这点钱也帮不了他，安慰钱有根，根本不用拿钱赎春花，人民政府不会不管妓院，会把她救出来了的。钱有根不相信。郑新兰把自己和孙光大的事告诉爸爸，郑文天要孙光大去家里吃饭。郑家摆出丰盛的饭菜招待孙光大，还说平时吃得更好，一顿饭要花十几个大洋。孙光大无法接受这样奢侈的生活，没等吃饭就提出告辞。郑新兰追出来，告诉他，平时他们家很简朴，爸爸是故意在试探他的。郑文天觉得孙光大作风简朴，是老郑家的风格，对他很满意。郑新兰带孙光大到小吃街吃面，发现大多数店铺都关门。唯一的一家，也不能多吃。老板说，现在的粮食不仅价钱飞涨，而且有钱都买不着，奸商囤着粮不给卖。郑文天告诉郑新兰，他觉得孙光大虽然文化不高，但正值，朴实，有肚量，是个能托付终身的人，把女儿交给他，自己放心。郑家为了应付自家粮荒，从南方运来粮食存放在仓库里。眼下形势，这些粮食救不了一座城，但能保郑家平安。郑文天嘱咐儿子不能涨价，坏良心的事不做。华北粮食欠收，粮店每天只能开门两小时。赵大嫂排了一上午队都没买到粮食。粮食暴涨，钱有根从周大民那分到钱，心花怒放，这下赎回春花有望。周大民却慌慌张张地告诉他，要出大事了。为了维护社会稳定，新政府采取行动，除了对投机倒把的不法份子进行打击，还从东北调运粮食到北京。北京的十大粮行，是打击重点，郑新兰的爸爸郑文天和周大民投资的刘老板都在名单里。
投资失败，赚钱无望，这让钱有根心灰意冷。他不想再罪上加罪，和周大民合伙营救刘老板。见钱有根又喝得烂醉，孙光大知道他心里难过，告诉他公安局这几天就要查北京的妓院。钱有根向孙光大坦白自己和周大民干的事。周大民怕刘老板把自己招出来，想放走刘老板。半夜，刘老板按约定装病，周大民以送医院为名，把刘老板带出来，还要他拿砖头砸自己的头，伪造逃跑现场。孙光大这时带人出现。钱有根被记过处分，周大民坐牢。钱有根埋怨孙光大不讲义气害自己成了背叛兄弟的告密者。孙光大告诉他，周大民把责任全推在他身上，要不是自己知道实情，他也要坐牢。郑文天被关进派出所，但他否认自己投机倒把，所里决定先拘留再调查。郑新兰觉得政府冤枉了爸爸，还责怪孙光大，说再也不想见到他。孙光大给牢房里的郑文天送去棉被，为了他的风湿病，每天带药酒给他喝。有位崔爷看上翠喜，愿意出高价买她走。钱有根急匆匆赶来妓院，央求管家换一个人。管家说他家老爷今年七十六，翠喜的时辰八字合适，买她是为了冲喜。明天早晨他还不能凑齐钱，就把翠喜带走。钱有根在爹妈灵位许诺，当年为了给他们下葬，春花自卖自身。今天就是搭上这条命也要救她出来。钱有根回到派出所，决定铤而走险到枪械库拿武器去救翠喜。此时，孙光大正好接到解放妓院的任务。翠喜无意嫁给别人，绑着白绫要自尽，钱有根及时闯进屋，告诉翠喜，共产党来救她了，他们以后一起好好活着。此生最大的心愿完成，钱有根在爹妈灵前发誓，他这条命交给共产党了。经过调查，郑文天无罪释放，他没想到共产党这样实事求是，不仅放了他，还请了京城四大名医给他治风湿病。得知孙光大天天照顾爸爸，郑新兰后悔那天把他骂走。晚上，郑文天叫孙光大来家里吃饭，饭后郑新兰送孙光大时，偷偷亲了他一口，孙光大幸福得呆住了。钱有根参加了保卫毛主席的光荣任务。回来后很激动，在小院和关爷、赵大力吹得天花乱坠。关爷感慨说，共产党没把他当外人。孙光大不认识太多字，郑新兰把《福尔摩斯探案集》读给他听。孙光大听得很入神，说以后福尔摩斯就是他的外国师傅。赵大嫂怀孕了，赵大力激动不已，他不知道媳妇去看了医生，以为是老母娘娘显灵。郑新兰、赵大嫂、关大娘三个女人笑了起来。
