臥牛石鄉(xiāng)舊屬科爾沁左翼前旗。
1949年,撤銷科左前旗,劃入法庫(kù)縣第七區(qū)。
1956年,分屬臥牛石、大屯2鄉(xiāng)。
1958年,屬包家屯公社。
1961年,調(diào)整公社體制,劃出包家屯東境的孫家屯、臥牛石、哈戶碩、大屯、陳家卜、邢家屯、麻子泡、拉馬荒、尖山子、劉丙卜、葦子溝11個(gè)大隊(duì),同時(shí)增加李家卜大隊(duì),以駐地臥牛石村命名,建立臥牛石公社。
1968年6月,成立臥牛石公社革命委員會(huì)。
1981年,改公社管委會(huì)。
1984年,改臥牛石鄉(xiāng)。