宣德十年（公元1435）年，奴尔干都司撤销，下属的卫所则继续存在。不过由于上一级建置取消了，明朝对这些卫所的控制也减弱了，尤其是在明朝国力衰弱以后。为了防止羁縻地区的部族和西部的鞑靼进入它的直接统治区——辽东都司，从永乐、宣德开始陆续建起了边墙。边墙东起今辽宁丹东市东北鸭绿江边，向北经宽甸东、本溪西，折东至本溪北，又北经抚顺东、铁岭东、开原东、昌图东，东折至昌图北，南折至昌图西、开原西，以后大致沿辽河而西南至三岔口（今辽宁海城市西北），又自三盆口向西北，经台安、黑山，折东经阜新南，折西南经义县西、锦州西、锦西西、绥中西，折南至山海关止。这道边墙并不是明朝的边界，甚至也不是直接统治区的界线，因为边墙的东北是奴尔干都司辖境，即使在都司撤销后，也还是明朝疆域的一部分。而且由于军事防卫的需要，边墙也没有完全筑在辽东都司的边缘，它的一部分辖境就在边墙之外。由于辽东边墙通过山海关连接着明朝的另一道边墙（长城），所以它的起点——丹东市东北鸭绿江边，也就是万里长城的起点。