漢武帝置，因西域輸入玉石取道於此得名；關城方形如盤，北、西兩面有門，北門外不及百米即到疏勒河；和西南的陽關合稱「二關」，同為當時通往西域各地的交通門戶，出玉門關為北道，出陽關為南道。六朝時自今安西通哈密一道日益重要，關址東移至安西雙塔堡附近；唐朝再次建立，現在的玉門關是漢代玉門關的遺址；宋以後中國同西方的陸路交通逐漸衰落，關廢圮。