举世闻名的“天下第一关”山海关，远在六亿年前的地球少年时期，就是“山海关古陆”的所在地。早在五千年前的新石器时期，先民们就在此定居生息繁衍。

        这里商属孤竹，周属燕。秦统一全国后，归属幽州辽西郡。功成名就后的秦始皇，向往长生，于公元前215年，东巡碣石，考察求取长生不死之药的碣石方士，并在现山海关东姜女坟一带修建庞大的碣石行宫，告祭大海、设置国门、派方士入海求仙。行宫出土的文物品种丰富、等级高，为世上所罕见。秦始皇驻跸于此，留下了许多奇闻轶事，修建万里长城的惊世壮举，也萌生于此。

        两汉时期，此地设临渝县，在今山海关城南古城村有“五花城”遗址留存。西汉时，汉武帝在元封元年(前110)到此跨海求仙；东汉建安十二年(207)，曹操东征乌桓,得胜班师路经临榆,登碣石，观沧海,赋《观沧海》,成为千古绝唱。

        公元6世纪的南北朝时期，山海关便开始了长城的兴建。北齐天保四年(553)由西河总秦戌(今山西临汾西北)起，沿燕山山脉筑长城三千里，从这里入海。现山海关境内里峪、老边沿、长寿山石门岭上的长城，都是北朝长城遗迹。

        隋唐时期，这里为北平郡所辖。隋开皇三年在此设渝关（另有临渝关、临闾关、临渝宫之说），唐初此地属临渝县。隋唐时期，征伐高丽的大军频繁往来于古代中原通往东北地区的唯一交通孔道——山海关古碣石道。唐贞观十九年（645年），唐太宗统率千军万马亲征高丽，驻跸渝关，下榻“临渝宫”，登“汉武台”，吟诗作赋，山海间遗下千古佳作《春日观海》。而一代名将白袍薛礼，面对这里的瑰丽景色，舒放豪情，至今留有遗迹传说。

        宋辽时期，山海关是移民重地，从今天河北南部的望都县、安喜县等地迁入移民，定居农耕，同时辽圣宗将渤海遗民迁到这里建了迁州，在此设迁民县。金元时期改为迁民镇。

        明朝建立之初，元朝残余势力不断派兵南下，企图夺回昔日失去的江山。面对形势，明廷在多次派大军伐元的同时，还命戍边大臣整修北方边备。洪武十四年（1381年），镇守北平的大将军徐达奉旨发燕山等卫屯戍官兵一万五千一百名，修永平、界岭等三十二处关隘，筑长城以防御来自北方的蒙古骑兵。当年九月，在朝廷的批准下又设置了隶属于中央军事系统的卫所“山海卫”。洪武十五年（1382年），在原元代迁民镇地，新筑的山海关关城完工落成。山海关建关，体现了创建者的科学眼光及高瞻远瞩，终明一世，山海关固若金汤，发挥了东北方国家门户的重要作用。

        明代中叶，世居东北的女真族崛起，辽东形势进一步恶化，山海关成为保卫明王朝京师的门户，成为关系到明王朝和女真族命运兴衰的要塞。明代后期，随着后金势力的步步西进，明王朝动员全国“竭尽四海之物力以奉榆关”。然而朝廷腐败，权臣谗害，袁崇焕下狱磔死，孙承宗罢官，洪承畴，祖大寿相继降清。

        崇祯十七年(1644)，闯王李自成正式宣布建国，改西安为西京，国号“大顺”，年号“永昌”。三月十九日，李自成的农民军在群众的欢呼声中由德胜门浩浩荡荡地开进了北京城，崇祯帝吊死在煤山，统治中国276年的大明王朝宣告结束。崇祯十七年四月二十二日，大明、大顺、大清三股军事力量在山海关石河上演了一场改写中国历史的“甲申之战”。闯王李自成不敌明清联军，在山海关惨败。吴三桂引清兵入关，史称清王朝“定鼎中原，实石河(即山海关)一战”。

        清入关后，顺治元年设卫，二年设关。乾隆二年（1737）撤卫设临榆县，仍属永平府。山海关便成为清代两京重要御路，康熙、雍正、乾隆、嘉庆、道光等皇帝由北京回沈阳祭祖，必经山海关。

        1948年11月27日山海关解放，后几经行政区属的变迁。1952年至今，划为河北省秦皇岛市。