徐晃年轻时曾做河东郡小吏，因随车骑将军杨奉讨伐贼寇有功，被升为骑都尉。公元192年（初平三年），王允和吕布诛杀董卓。董卓部将李傕、郭汜等攻破长安城，杀王允等人，后又自相火并，在长安大肆屠杀。徐晃说服杨奉护送汉献帝东入洛阳。汉献帝渡河至安邑时（今山西夏县北），封赏保驾有功人员，徐晃封为都亭侯。