西漢至十六國“五涼”時期，金羊鎮(zhèn)境域?qū)傥渫す藐翱h。
北魏至隋初，屬武威郡林中縣。
唐宋年間，復(fù)歸姑臧縣。
元時，屬永昌路西涼州。
明清時期，先后歸涼州衛(wèi)和武威縣。
民國元年（1912年），分屬武威縣金羊、金塔鄉(xiāng)。
1949年9月后，屬金羊區(qū)。
1952年1月，屬第一區(qū)（金羊）。
1956月，撤區(qū)并鄉(xiāng)，為金羊鄉(xiāng)。
1958年10月，金羊、金沙、中壩鄉(xiāng)合并成立金羊公社。
1962年，劃分為金沙、中壩、金羊、新鮮公社。
1983月，設(shè)金羊、新鮮鄉(xiāng)。
1984年，金羊、新鮮、金沙鄉(xiāng)合并為金羊鄉(xiāng)。
1991年11月，分設(shè)為金羊、金沙鄉(xiāng)。
1997年10月，金羊撤鄉(xiāng)建鎮(zhèn)。