担任华北北线作战任务的是中共晋察冀军区聂荣臻部和晋绥军区贺龙部，他们在分析情况后认为，如果同时出击三路四城，恐兵力不足；根据国民党军有保存实力、协同不好的弱点，他们建议先打国民党在华北三个战区结合部的大同，打通晋绥到晋察冀根据地的交通，然后再出击平汉路和正太路。此建议得到了中共中央的同意。大同为山西北部重镇，由于其地处孤立而又地位重要，阎锡山派第8集团军副总司令楚溪春坐镇大同，指挥3个师2万余人负责守城。楚溪春对大同将被攻击早有困守的心理准备，命令在大同城池内外布下四郊、外廓和内城三道防线，并主动放弃城外据点，收缩至城郊，准备依托核心据点和坚固工事，逐渐消耗攻方力量，争取时间以待援兵。中共攻打大同的部队为晋察冀的5个旅和晋绥的4个旅，其中以4个旅攻城、5个旅打援，攻城部队总数不到2万人，略少于大同守军的人数，不能确保以多数优势压过对手；而且作战准备时间较短，武器装备欠缺，尤其是用于攻坚的火力严重不足，又是两个方面军联合作战，联络协同有所不周，为攻击不利埋下了伏笔。8月初，中共部队开始攻击大同外围，国民党军陆续收缩至城郊。自中旬开始，中共部队对城关外的各据点发起攻击，国民党军“依托坚固工事、充足的弹药和复杂交错的碉堡群进行抵抗”；而中共部队“由于没有攻坚经验，火力不强，仅用手榴弹和梯子攻敌人的碉堡”，“每前进一步都要付出很大代价，许多据点得而复失，形成拉锯”，结果用了20天的时间，直至9月初才攻至城垣。