隋开皇十六年（596年）置榆山县，大业二年（606年）改称平阴县。因境内地处古东原（东平）之北、古济水之南而得名。
平阴，春秋为鲁地，战国属齐邑，秦代属济北郡。汉属泰山郡。 三国属魏兖州剌史部。两晋属济北国。 南北朝刘宋时为济北郡辖地。隋开皇十六年（596年）置榆山县。大业二年（606年）设平阴县，此系以“平阴”命名之始。公元607年隋炀帝改州为郡，平阴县属济北郡。公元627年（唐贞观元年）属济州，公元754年（唐主十三年）属郓州，公元832年（唐太和六年），废平阴析入卢县与东阿县。公元837年（唐开成二年）复平阴县，仍属济州。五代时期（公元907-960 年），统用军号，平阴属天军所辖。公元1119年（宋宣和元年）属东平府。元初，属山东西路，后属燕河北道东表路总管府。明代属东平州。公元1735年（清雍正十三年）属泰安府。民国五年设图书馆于南关槐荫亭；八年设讲演所于文庙后院；十九年图书馆与讲演所合为“民众教育馆”，分图书、演讲两部，并设阅览室。
民国十六年，我县成立妇女协会，任务是：宣传妇女解放，男女平等，妇女放脚，抵制日货，组织妇女学习文化等。
1950年5月属泰安专区。1958年11月平阴县并入东平县，属聊城专署。1959年10月恢复平阴县，属济南市。1960年4月属菏泽专区。1961年2月12日属济南市，同年4月18日由济南复属泰安专区。1985年3月27日属济南市至今。（以上出处）
清代，县辖24个里，333个村。民国前期（1912-1936年）辖5个区，192个乡镇，1937年日伪政权沿用民国区、乡。民主政府建立后，于1939年冬，原平阴县四、五区（牛角区、旦镇）划归肥、阴、阿办事处。1940年4月肥、阴、阿办事处撤销，同年5月建立阿办事处。于1943年1月将平阴县与东阿县合并，称平阿县，辖7个区。
1947年春，两县分置，平阴县辖4个区。1949年调整为6个区。1950年区下建88个乡。1952年又调整为7个区。1956年撤区并乡，辖21个乡。1958年3月调整为13个乡，9月又调整为8个乡、镇；11月成立4处人民公社。1959年10月撤销东平县，恢复平阴县，辖9处公社。1961年4月辖10个公社。1962年1月恢复东平县，平阴辖4处公社，同年3月划为9处公社。1963年调整为12处公社。1984年5月撤社建区、乡，辖8个区31个乡、镇。
1985年3月，设平阴、栾湾、玫瑰、孙村、孝直、东阿、旧县、洪范8个区，博士、三湟、毛铺、安城、庄科、夏沟、站西、子顺、李沟、陈老、前大峪、店子、展洼、亓集、湿口山、白塔、太和、旧县、吉城、尹村、洪范池、石碑子、阎庄23个乡，平阴、栾湾、刁山坡、孔村、孝直、东阿6个镇。
1985年9月20日撤区并乡，辖5个镇、7个乡：平阴、孝直、东阿、孔村、刁山坡5个镇，安城、旧县、店子、玫瑰、栾湾、洪范池、李沟7个乡，辖421个自然村，371个村委会。面积900平方千米。
1993年4月21日，玫瑰乡和洪范池乡撤乡设镇。至此平阴县辖7镇5乡。（以上出处）
1996年1月23日，将平阴县旧县乡整建制划归东平县管辖，旧县乡的行政区域边界以济政[1996]3号文所附的1：5万地形图上标绘的界线为准（鲁政字[1996]24号）。
1999年，平阴县辖平阴镇、栾湾乡、安城乡、玫瑰镇、刁山坡镇、东阿镇、洪范池镇、李沟乡、孔村镇、孝直镇、店子乡。
2002年辖11个乡（镇），346个行政村。年底全县总人口36.36万人，其中非农业人口7.29万人。辖7个镇、4个乡：平阴镇、玫瑰镇、刁山坡镇、东阿镇、洪范池镇、孔村镇、孝直镇、栾湾乡、安城乡、李沟乡、店子乡。
2003年，设立新西直沟村委会。2003年底，全县总面积827平方千米。辖11个乡（镇），346个行政村。年底全县总人口36.31万人，其中非农业人口10.04万人。
2005年12月12日，济南市人民政府《关于平阴县部分乡镇行政区划调整的通知》：根据《山东省人民政府关于同意调整平阴县部分乡镇行政区划的批复》（鲁政函民字[2005]34号），同意平阴县调整部分乡镇行政区划。一、撤销栾湾乡，将其行政区域并入安城乡，办公场所在安城乡；二、撤销刁山坡镇，将其行政区域并入玫瑰镇，办公场所在玫瑰镇；三、撤销李沟乡，将其行政区域并入孔村镇，办公场所在孔村镇；四、撤销店子乡，将其行政区域并入孝直镇，办公场所在孝直镇。平阴、东阿、洪范池三镇保持现有行政区划不变。
2010年5月[2]，经省政府批准，撤销安城乡，设立安城镇，镇政府驻原安城乡政府驻地，撤销平阴镇，设立榆山、锦水2个街道办事处。2011年，将锦水街道的胡山口、尹庄、葛庄、于庄4个行政村划归榆山街道管辖[3]。
