清代，屬凌云縣管轄。

民國二十四年（1935年），劃歸鳳山縣，設(shè)為金牙鄉(xiāng)。

1950年2月，屬第四區(qū)。

1951年8月，為第四區(qū)駐地。

1957年1月，第四區(qū)改稱金牙區(qū)。

1958年8月，設(shè)金牙公社。

1961年6月，金牙公社分為金牙、杭東、巴軒3個公社。

1962年7月，3個公社合并復(fù)設(shè)金牙區(qū)。

1970年7月，金牙區(qū)復(fù)改為金牙公社。

1984年9月，金牙公社撤銷，分設(shè)金牙、更沙、中亭3個鄉(xiāng)。

2005年，金牙鄉(xiāng)改為金牙瑤族鄉(xiāng)。