年，抗日战争全面爆发。这年的10月，杨成武率八路军一一五师独立团向敌后挺进，收复了广灵县。广灵县在山西省的东北部，物产丰富，地势险要，是山西的东北门户，历来为兵家必争之地。上级派时任晋察冀军区第一分区政治部敌工科科长的曾雍雅任广灵县委书记、县长。曾雍雅上任后，大力抓好发展党员、建立党组织和各种抗日群众组织的工作，广泛发动和组织群众起来抗战，支援抗战。他刚到广灵时，手中无一兵一卒，不到一个月，他就组织起第一支游击队，经过训练后，除留下部分骨干外，其余都补充到了晋察冀一分区主力部队。他在广灵县工作的半年时间里，先后成功地建起了3支游击队，一次又一次地向抗日主力部队送兵，被称为“革命的兵贩子”，在晋察冀抗日根据地传为佳话，多次受到杨成武司令员的表扬。
他还千方百计筹集款项，支援部队。八路军一一五师和一分区司令部曾多次派人来广灵补充给养，曾雍雅都按指示一一办理。可他们不知道，曾雍雅和县政府的工作人员，宁愿天天吃莜麦面、玉米糊，也分毫不沾千方百计筹来的款项。年10月，曾雍雅奉命率晋察冀一分区游击队第三支队到河北涞源城以北金家井地区进行休整后，作为分区机动部队，在河北易县一带进行游击活动，打击敌人。到这年年底，曾雍雅带领的游击支队已发展壮大到多人。由于曾雍雅重视并善于做思想政治工作，战士们纪律严明，与人民群众结下了鱼水般的深情，当地群众都亲切地称曾雍雅率领的三支队为“曾支队”。“曾支队”运用机动灵活、能打善藏的游击战术，不断打击敌人，使日伪军不敢轻举妄动，“曾支队”因此也成为日伪军的眼中钉、肉中刺。
年11月3日，日军大佐辻村宪吉率日军余人从涞源城方向向鼻子岭、银坊方向进犯，妄图包围寻歼“曾支队”。曾雍雅得知这一情报后报告了晋察冀军区聂荣臻司令员、一分区杨成武司令员。根据两位司令员的指示，曾雍雅率游击队且战且退，把日军诱至雁宿崖峡谷内，然后与埋伏在雁宿崖东西两侧的分区主力部队一起开火，将其全部歼灭。辻村是日军驻张家口蒙疆驻屯军司令兼独立混成第二旅团长阿部规秀中将的亲信和得力干将，他的死令这位有“名将之花”之称的中将司令官恼羞成怒，暴跳如雷。阿部规秀决定亲自出马，进行报复。11月4日，阿部规秀率领多人，出动数百辆大卡车，由张家口沿着辻村走过的路线，向我根据地进行报复性的“扫荡”。
曾雍雅根据聂、杨两位首长的指示，采用麻雀战战法，冷枪冷炮袭扰敌人，慢慢地将敌人诱到黄土岭、司各庄一带，然后与主力部队一起，将敌人团团围住，压缩在上庄子附近的山沟里，打得日军鬼哭狼嚎，“名将之花”阿部规秀也在我八路军的迫击炮弹爆炸声中命归黄泉。战斗结束后，一分区杨成武司令员对曾雍雅说：“你们支队给敌人‘带路’带得好啊！部队战斗力很强，任务完成得非常出色！”聂荣臻元帅后来在回忆录中也说：“击毙日军中将指挥官，在华战场上这是第一次，在中国人民抗战史上也是第一次。”