1949年5月，為山灣、西源、張?zhí)�、彭山鄉(xiāng)行政區(qū)域，隸屬二、三區(qū)管轄。

1951年，增設葛洪鄉(xiāng)。

1952年，增設賀山鄉(xiāng)。

1956年，合并為彭山、葛洪、山灣、賀山鄉(xiāng)，同年7月又合并為山灣、吳山二鄉(xiāng)，成立葛洪、五臺、紅橋、山灣等初級農業(yè)社。

1957年，轉為葛洪、五臺、紅橋、林居、蔡河、張?zhí)�、山灣七個高級農業(yè)社。

1958年，樟樹鄉(xiāng)（為1956年成立）并入，成立山灣人民公社，轄山灣、張?zhí)�、吳山、林居、紅橋、葛洪、五臺、竹蓬、楊柳、樟樹、大嶺、蔡河、河鋪13個大隊。

1962年，拆分為山灣、吳山、樟樹三個公社。

1968年，三社又合并為山灣公社。

1972年，樟樹公社析出。

1981年，山灣公社更名為吳山公社。

1984年機構改革，撤公社更名為吳山鄉(xiāng)。

2002年，樟樹鄉(xiāng)撤銷并入吳山鄉(xiāng)。

2012年，撤鄉(xiāng)設鎮(zhèn)，為吳山鎮(zhèn)。