遂宁历史久远，根据在射洪县仁和镇马鞍山南山采集到的人顶头骨化石初测，至少在公元1万年前，遂宁就有人类活动。

夏商时期，全国划为九州，遂宁县境（指今遂宁市船山区、安居区和重庆市潼南县境）属梁州管辖。  春秋初年，四川境内出现巴国和蜀国两个奴隶制国家，遂宁县境属蜀国管辖区，秦统一后为蜀郡所辖。

   

  东汉末年（220年），置德阳县，治所在今城区内，境内置县也由此开始。西晋后期（约303年），流民李雄起义建立成汉国，置德阳郡，辖德阳县，郡、县治所仍在今城区内，境内置郡也由此开始。

“遂宁”作为地名，始于东晋。东晋与十六国并存，而遂宁则属于十六国中的成汉国。当时，各国统治者之间连年混战，成汉国统治者内部也为争权夺位斗争不息，人民痛苦不堪。公元347年，东晋大将桓温伐蜀，大败李雄遗部李势，灭成汉国，结束了四川长达50多年的混战。

当桓温凯旋而归，途经县境时，但见风和日丽，歌舞升平，一派和平安宁的气氛。这位长年征战沙场的将军感慨万端，一种厌恶战乱、渴望太平的思绪由然而生，因而在这里设郡，定郡名为“遂宁”，表示 “平息战乱，达到安宁”的意思。从此，川中丘陵中的这片红土地，便有了一个吉祥的名字——“遂宁”。