相传大禹治水，挥神斧将高山劈成“人门、神门、鬼门”三道峡谷，引河水东去，三门峡由此得名，这大约是从《尚书.禹贡》说大禹导河“东至于厎柱，又东至于孟津”演绎而来的。至于这个传说从何时开始演绎，已很难考证。中流砥柱一词也来自于此。

历史上，人们常以“三门”指代这段峡谷，它是沟通关中与东南地区黄河漕运的必经之地。公元733年，唐玄宗根据京兆尹裴耀卿建议，“三门东置集津仓，西置盐仓。”（《新唐书》）。

三门峡在西周时属虢国，北魏置陕州后一直延续至明清。新中国成立前夕，曾设陕州专员公署等。以三门峡作为行政区的名字，是因为三门峡大坝的修建。其坝址的发现，要归功于一个中国人和一个外国人，直接诱因为一场大水。

1933年8月，黄河中上游普降暴雨，黄河下游大堤数十处决口，受灾人口达273万人，凸显黄河统一管理的重要性和紧迫性。9月1日，黄委会正式成立。黄委会委员长李仪祉聘挪威人安立森为工务处测绘组主任、工程师， 月薪 800元。根据国民政府当年颁布的《暂行文官官等官俸表》，安氏工资水平竟然与最高领导人蒋介石的完全一样，可见当时对于人才是很重视的。 安氏成为治黄机构任职的第一位外籍水利专家。

李仪祉对黄河治理 作了 很多思考。在该年撰写的《黄河治本的探讨》中提出， “预备在中上游黄河支流山谷中设水库，停滞过分的洪水量”。在 《黄河水利委员会工作计划》等文中提出， “三门、壶口等处设闸”。设想“三门设坝闸，二百里而及潼关”，“ 可使舟楫便利 ”， 还有润泽土壤、减淤之利等。

1935年8月23日-9月2日， 安立森与黄委技术人员，查勘河南孟津县至陕县河段，提出三门峡、八里胡同、小浪底三个坝址的查勘报告。安氏认为： “就地势言之，三门诚为一优良库址。”1935年11月14日 ，李仪祉在清华大学作《黄河流域之水库问题》演讲中提出： “最近测黄河之安立森氏，主张在三门以下五十公里处建防洪水库，余颇赞其说。因三门以上地质地形皆极相宜，若设水库于是，而减少黄河洪水峰，诚堪欣幸也。” 就这样，三门峡坝址开始浮出水面。

新中国成立后，黄委会、水利部、水电工程局先后组织查勘了龙门至孟津和潼关至孟津黄河干流。 1953年10月黄委会提出《治理黄河初步意见》，主张多目标开发三门峡水利枢纽。1954年3月，中苏专家查勘团对黄河干流自入海口至刘家峡进行查勘。苏联专家组长柯洛略夫指出，“从龙门到邙山，我们看过的全部坝址中，必须承认三门峡坝址是最好的一个坝址。任何其他坝址都不能代替三门峡为下游获得那样大的效益。都不能像三门峡那样能综合地解决防洪、灌溉、发电等各方面的问题。”  

1954年黄规会提出《黄河综合利用规划技术经济报告》，将三门峡列为黄河干流开发第一期工程。全国人大一届二次会议于次年7月30日通过决议，批准关于根治黄河水害和开发黄河水利的综合规划的原则和基本内容，要求国务院迅速成立三门峡水库和水电站建筑工程机构。

1956年1月，三门峡工程局成立，含省级干部6人、地厅级48人。从坝址区到史家滩和大安村直至会兴镇，大量人力、物力，集中到昔日人烟稀少、交通不便、干旱荒瘠的黄土原野，铁路、对外公路、黄河公路桥及各种用房等陆续兴建。1957年3月国务院批准设立三门峡市，市委书记由三门峡工程局党委书记、局长刘子厚担任。

1960年，三门峡水库建成并投入运用。60多年来，水库发挥了防洪、防凌等效益，三门峡市也由荒山秃岭变成了美丽的天鹅之城。