夏、商時(shí)屬揚(yáng)州。
西周至春秋時(shí)先后屬弦國、黃國。
戰(zhàn)國時(shí)先后屬秦弦地、楚國。
秦代屬九江郡。
漢代屬江夏郡。
三國時(shí)屬魏國弋陽郡。
晉代屬豫州弋陽郡。
南北朝時(shí)先后屬豫州弋陽郡、光城左郡、光州、沙州、豫州廣陵郡、弋州弋陽郡。
隋代至元代屬光州光山縣。
明代屬光山縣南鄉(xiāng)沙城里。
清代屬光山縣南鄉(xiāng)沙城里山河保。
1914年屬光山縣沙城區(qū)。
1919年屬沙城里。
1929年夏屬弦南區(qū)。
1932年10月劃歸經(jīng)扶縣沙城區(qū)。
1941年屬沙城鎮(zhèn)。
1947年10月復(fù)屬沙城區(qū)。
1947年12月屬新縣沙城區(qū)。
1949年7月分屬陡山河鄉(xiāng)、柳林河鄉(xiāng)。
1953年4月屬四區(qū)。
1955年10月復(fù)屬沙城區(qū)。
1958年5月屬陡山河鄉(xiāng)。
1958年8月分屬蘇區(qū)人民公社陡山河、柳林河2個生產(chǎn)大隊(duì)。
1960年屬陡山河人民公社。
1961年8月屬陡山河區(qū)。
1962年6月復(fù)屬陡山河人民公社。
1967年1月析陡山河、柳林河2個生產(chǎn)大隊(duì)部分區(qū)域，置連康山生產(chǎn)大隊(duì)。
1979年11月12日部分區(qū)域劃入柳林河生產(chǎn)大隊(duì)。
1983年5月更名為連康山村民委員會，屬陡山河鄉(xiāng)。