1949年，解放战争进入最后阶段，陶峙岳率国民党驻新疆部队和平起义，解放大军挺进大西北，随后，中国人民解放军第一兵团第二军第四师进驻喀什。

解放军进军塔哈尔先遣小分队遭马占江偷袭，全军覆没，团政委杨光海临危受命组建先遣排，务必拿下塔哈尔，一班长黄继春，二班长任洪亮和三班长高顺都被挑选到先遣排。

马占江的部下冒充解放军战士抢走了塔哈尔首富莫尼老爷运货的驼队，企图假货给解放军，这个情景被卡拉和阿米尔看见，卡拉告诉阿米尔不要被假象迷惑了双眼，阿米尔被国民党士兵抓走。

莫尼正在家宴请来自国外的萨文子爵，纳乌鲁兹和阿曼巴依逃了回来，莫尼知道自己的东西被抢，非常生气，去找马占江，指责他保护不力，马占江承诺一定为他报仇。莫尼收留了阿曼巴依，真古兰丹姆给阿曼巴依介绍莫尼家里的情况。

杨排长带领战士历尽千辛万苦到达沙柳村，卡拉来介绍塔哈尔的情况，杨排长为了减少伤亡，决定自己孤身前往塔哈尔劝降马占江。

杨排长对马占江分析当前国内形势，马占江顽固不化，但佩服杨排长单刀赴会的勇气，没有伤害他，杨排长得以安全归来。

假古兰丹姆来找马占江，告诉他自己是真神的助手，代号是地下明珠，真神是蒋委员长任命收复新疆的总司令，并传达真神的命令，要马占江撤出塔哈尔，而且要把莫尼老爷一起带走。

莫尼很矛盾，他热爱塔哈尔热爱自己的家乡，但马占江步步紧逼，他也无可奈何。卡拉劝莫尼老爷不要走，莫尼来找阿訇，想听听阿訇的意见，阿訇要莫尼祈祷真主保佑自己，莫尼临走时把家传的羊皮古兰经卷交给阿訇，希望阿訇好好保存。

杨排长接到耿中电报，知道马占江要撤出塔哈尔，集合全体战士开会，商量进入塔哈尔的方案。

马占江撤退之前，塔哈尔一片混乱，国民党士兵趁火打劫，土匪江罕达尔看见古兰丹姆年轻貌美，顿起歹意，劫持了古兰丹姆，没想到给假古兰丹姆看见，假古兰丹姆为了利用她的身份潜伏塔哈尔，要江罕达尔放了古兰丹姆。

杨排长带领战士悄悄摸到山口，拿下国民党岗哨，迅速占领塔哈尔城。马占江和江罕达尔带着抢来的牛羊牲口，押着莫尼一家前往边境金沙川，在城边，国民党士兵向不愿意离开塔哈尔的牧民们开枪，假古兰丹姆躲在人群中装着中弹倒地，被纳乌鲁兹救回去在家里养伤。阿米尔也在枪战中受伤，被战士救起。

纳乌鲁兹上山采药为假古兰丹姆疗伤，在回来的路上，看见进城的解放军战士，充满仇视。杨排长告诫战士们一定要注意和当地群众搞好关系。

杨排长去清真寺拜访阿訇，被纳乌鲁兹带领群众围在清真寺门口，杨排长再三解释山口抢驼队的事不是解放军干的，可群众不明真相依然不依不饶，特别是纳乌鲁兹情绪激昂，最后还是阿訇帮杨排长解围。

因为山口惨案造成的影响，解放军虽然住进了城里，但是城里的居民对解放军仍然有很大的戒备心理，在混乱中丢失的牛羊没有人敢去认领，群众也不敢和解放军战士接触，加上少数特务的破坏，工作开展得很艰难。

杨排长、三班长和几个战士考察冰山哨卡，在冰山哨卡布岗。卡拉去金沙川之前和杨排长告别。

假古兰丹姆和潜伏在塔哈尔城里的特务沙比尔接上头，在沙比尔家里接收发报，真神指示她两个月内务必拿下塔哈尔，保证南北疆道路畅通。假古兰丹姆把消息发给马占江。卡拉来到金沙川，见到莫尼老爷，卡拉的歌声引起了马占江的怀疑。

在塔哈尔城内，牧民们都不敢领回自己的牲口，战士们只好天天帮着放养，有一个老牧民刚刚领回自己的牛，就被特务杀死，这更引起牧民的恐慌。纳乌鲁兹带领群众包围了排部，要杨排长交出杀人凶手，阿訇赶到，劝阻冲动的纳乌鲁兹，说真相总有一天会弄清楚的。

一班长抓到一个特务，据特务交待，他的上司代号山鹰，是个长大胡子的人，县长拜克尔根据这个线索，把城里所有长大胡子的人都抓了起来，包括纳乌鲁兹的父亲尼牙孜，杨排长及时赶到，释放了所有的人并批评了拜克尔鲁莽的行为，杨排长感到形势的严重。

果然，拜克尔的此举激起群众的不满，被抓的群众带领自己的家人和牲口，准备离开塔哈尔，被杨排长劝回。

民族小学建好了，但教室是空的，只有桌椅板凳，小解放拿着刘芳给的糖果去街上哄小孩子，可是小孩子吃了糖果就跑了，刘芳暗自着急。

假古兰丹姆听纳乌鲁兹说草料就是牛羊的命根子，心生一计，指使特务在牧民的草料场放了一把火，企图制造混乱，结果大火被解放军战士扑灭，一班长带着战士为牧民家重新盖了新房。杨排长和阿訇商量，把莫尼家的草料场暂借给牧民的牲口过冬，阿訇答应，牧民很感激，阿訇从此改变了对解放军的看法。

战士的水井被特务投毒，小解放和很多战士中毒，刘芳找到尼牙孜，尼牙孜拿出一种中草药，为战士们解了毒。

耿中向杨排长传达紧急命令，南疆部分地区有叛乱企图，平叛部队要经过塔哈尔，要杨排长保证部队顺利通过。同时，假古兰丹姆也接到真神的指令，要马占江趁机夺回塔哈尔，马占江部队摩拳擦掌，跃跃欲试。随着解放军顺利经过塔哈尔，平息了南疆的叛乱，马占江也偃旗息鼓。

杨排长和阿訇商量在塔哈尔举办一次叼羊大赛，纳乌鲁兹参加比赛，却输给了三班长，他不服气，开枪打死了和三班长相依为命的大黑。三班长把纳乌鲁兹绑回排部，杨排长却命令他放人。

三班长因为打纳乌鲁兹被杨排长关禁闭，三班长不服，杨排长帮三班长埋葬大黑，纳乌鲁兹看见心中有愧，但碍于面子，没有走过去。尼牙孜让纳乌鲁兹去向三班长道歉，纳乌鲁兹不去，杨排长亲自登门向尼牙孜道歉，纳乌鲁兹看到解放军的光明磊落，终于承认自己的错误。假古兰丹姆为了给杨排长一个好印象，刻意表现，反而引起了杨排长的怀疑。

耿中给杨排长发来绝密电报，新疆又有反动军官和土匪暴乱，要杨排长严防马占江乘机反攻，马占江果然按照真神的指令进攻塔哈尔，三班长严阵以待，将马占江打回了金沙川。马占江无可奈何。

为了彻底清查敌人的破坏，杨排长和拜克尔县长商量在全城进行人口登记，登记的结果是包括假古兰丹姆在内的七个人身份可疑。纳乌鲁兹迷恋假古兰丹姆的美色，向假古兰丹姆求婚，假古兰丹姆乘机提出要回叶城，安排特务为自己的假身世作掩护，并要纳乌鲁兹去叶城提亲，纳乌鲁兹喜不自禁。

纳乌鲁兹迎亲回来的路上，遇到刚从喀什养伤回来的阿米尔，阿米尔在喀什养好了伤，并加入了解放军，成为一名光荣的解放军战士。