公元204年（建安九年）二月，曹操利用袁绍死后袁谭和袁尚争立后嗣的矛盾，发兵北上攻打冀州。

曹操包围了邺城，攻破了邯郸，易阳令韩范诈降而自守，曹操派徐晃前去攻打，徐晃兵临城下，给韩范写了封信，用箭射入城中，陈明利害，劝韩范投降。韩范被说服后改变主张，决定以全城投降。

徐晃劝告曹操说：“如今袁谭、袁尚还没有被击败，没有攻下的城池都等待消息，如果今日灭了易阳，明日那些城池都会死命防守，河北就没有平定的那一天了。请求您招降易阳来给各城看，那样他们都会望风归顺。”曹操采纳他的意见，封韩范为关内侯。接着，又收降了涉县（今河北涉县西北）长梁岐，同样赐爵关内侯。曹操能够很快翦除邺城羽翼，攻克邺城，夺得翼州，和他听取了徐晃的这一建议是分不开的。徐晃旋即徐晃又攻毛城（今河北涉县东南），设伏兵大败袁军，破三屯。之后，随曹操在南皮（今河北南皮）大破袁谭，袁谭被曹军所杀。徐晃又平定平原叛贼。建安十二年（207年），徐晃随曹操北征乌桓，在白狼山之战中，大败敌军，蹋顿及名王以下10余人被杀，曹操最终讨平乌桓，彻底铲除袁氏残余。徐晃被为拜横野将军。

公元208年（建安十三年）七月，曹操在基本统一北方后，亲统大军十余万南征荆州，欲吞并江南、统一天下。徐晃随曹操出征，攻中庐、临沮、宜城地，又与满宠在汉津征讨关羽。后曹操在赤壁之战中为孙刘联军所败，曹操留徐晃与征南将军曹仁共守江陵，折冲将军乐进守襄阳，引军北还。同年，徐晃还与曹仁在江陵共同抗击吴将周瑜的进攻。