关城所在的峡谷，属太行余脉军都山地，地形极为险要。早在春秋战国时代，燕国就要扼控此口，时称居庸塞。汉朝时，居庸关城已颇具规模。南北朝时，关城建筑又与长城连在一起。此后历唐、辽、金、元数朝，居庸峡谷都有关城之设。
现存关城，始建于明洪武元年(公元1368年)，系大将军徐达、副将军常遇春规划创建，明景泰初年(公元1450-1454年)及其后又屡经缮治。城垣东达翠屏山脊，西驶金柜山巅，周长4000余米，南北月城及城楼、敌楼等配套设施齐备。关城内外还有衙署、庙宇、儒学等各种相关建筑设施。
清末以后，居庸关关城建筑逐渐荒废，但雄伟的关城及众多的历史遗迹，却为人们了解中国古代军事文化敞开了一个窗口。1992年昌平县十三陵特区办事处为保护文物，对关城建筑进行了全面修复，再现了昔日的雄姿。
关城附近自然景观十分壮美，早在金明昌年间(公元1190-1195年)居庸叠翠之名即已列入燕山八景。1982年，居庸关又以其重要的人文和自然景观价值，划入八达岭-十三陵风景名胜保护区，成为其中重要的景点。
居庸关是万里长城最负盛名的雄关之一，其地绝险，自古即为北京西北的屏障。居庸关建在一条崇山夹峙，长达约20公里的沟谷之中，这条沟谷就是京畿著名的 关沟。
居庸关城两侧皆高山耸立，峭壁陡不可攀，关城雄踞其中，扼控着南下北京的通 道。这种绝险的地势，决定了它在军事上的重要性，古代军事家，称其为控扼南北之古今 巨防。唐代边塞诗人高适，在描叙居庸关路险关雄时写道：绝坡水连下，群峰云其高。
居庸之名，据元代人记载是秦始皇修长城时，徙居庸徒于此而得名。庸就是强征来的民夫士卒。其实居庸之名早于秦始皇统一全国之前就有了。成书于战国时期的《吕氏春秋》中就有：天下九塞，居庸其一的记载。在著名的太行八陉中，居庸关排列第八，即控扼军都山的军都陉。居庸关在漫长的岁月中，虽始终是兵防重镇，但却屡易其名，三国时称西关，北齐时改纳款关，唐时又先称蓟门关，后改军都关。由辽以后金、元、 明、清至今，便始终称居庸关。
朱元璋灭掉元朝建立朱氏政权后，于洪武三年(公元1370 年)便派开国元勋徐达修筑了居庸关城，这是明代修建长城关隘最早的记载。由此可见，居庸关战略地位之重要。
在历史上，居庸关虽饱经了战火，但更多的时候，这里则是一派和平的景象。1971年在内蒙古和林格尔发现的一座东汉墓中，有一幅《使君从繁阳迁度关时》的壁画，生动地描绘了当时居庸关车马往来繁华情景。这幅珍贵的壁画足以说明，居庸关两千余年前，就已是沟通长城内外的重要门户了。
