上山村：清代屬十四都，民國時期為十保，1956稱凡山高級社，1961年稱上山大隊，1984年政社分設(shè)時，置上山村委會；上凡村：清代屬十四都，民國時期為十一保，1956稱凡山社，1961年稱上凡大隊，1984年政社分設(shè)時，置上凡村委會，1992年5月“撤擴并”時，撤凡塘鄉(xiāng)建制后，改屬清港鎮(zhèn)。
2018年8月22日行政村規(guī)模調(diào)整，根據(jù)玉政函〔2018〕93號文件，撤銷上凡村、上山村2個村村民委員會，將原2個行政村的轄區(qū)進行合并，設(shè)立上凡村村民委員會，辦公地點設(shè)在原上凡村。