公元196年（建安元年），汉献帝在河内太守张杨、兴义将军杨奉等残余朝官的保护之下，回到了洛阳。杨奉被拜为车骑将军，驻兵大梁。徐晃见大将军兼司隶校尉韩暹和卫将军董承之间争斗日益加剧，就劝杨奉归附曹操，杨奉决定听从徐晃的建议。公元197年（建安二年），曹操保护着汉献帝要迁都许昌的时候，杨奉在韩暹的挑拨下又改变了归附曹操的主意，而是跟韩暹一起出兵去劫驾。杨奉在梁（今开封）被曹军杀得大败。徐晃则趁机投奔了曹操。从此，他便成为曹操的一名忠实战将，跟随曹操转战南北，为曹魏的创建屡立功勋。曹操分兵给徐晃，派其攻打卷、原武两地，破之，被拜为裨将军。又随曹操攻吕布，降吕布将领赵庶、李邹等。后与史涣在河内斩杀眭固。
