玉门关，始置于汉武帝开通西域道路、设置河西四郡之时，因西域输入玉石时取道于此而得名。汉时为通往西域各地的门户，故址在今甘肃敦煌西北小方盘城。元鼎或元封中（公元前116年一前105年）修筑酒泉至玉门间的长城，玉门关当随之设立。
玉门关的设立，始自西汉武帝时，距今已有2千多年的历史。秦汉以来，好战的匈奴对汉民族威胁很大。汉初，匈奴东败东胡，西逐大月氏，占据河西，并以河西为基地，屡犯汉境。汉王朝开始曾对匈奴采取和亲政策，希图换取暂时的安宁。汉武帝时，放弃了和亲政策，对匈奴发动了大规模的军事反击。
元狩二年，骠骑将军霍去病率兵西征，沉重打击了匈奴右部。同年，汉分河西为武威、酒泉两郡。元鼎六年，又增设张掖、敦煌两郡，建玉门关和阳关。从此，玉门关和阳关就成为西汉王朝设在河西走廊西部的重要关隘。
玉门关，俗称小方盘城。现存关城呈方形，四周城垣保存完好，为黄胶土夯筑，开西北两门。城堡平面呈方形，东西长24米，南北宽26.4米，总面积630多平方米。城北坡下有东西走向的一条大车道，是历史上中原和西域诸国来往过乘及邮驿之路。现存城墙高9.7米，上宽约3米，墙基最宽处5米，上有城墙，城东南角有马道可以登顶。
