明合肥(今属安徽)人。洪琥中袭父职,为副千户。洪武二十五年(1392)应募持檄谕鞑靼,迁密云卫指挥佥事。燕王(即成祖)起兵“靖难”,他率所部降。屡立战功,累迁中府左都督,封武安修,留守北京。永乐元年(1403)充总兵官,出镇宣府、开平,规划周详,战备完固。曾从成祖五次出塞北征。仁宗即位,拜征西前将军,移镇大同。