黄河水利职业技术学院始建于1929年3月，原名河南省建设厅水利工程学校，1931年6月，升格为国立黄河流域水利工程专科学校。1958年11月，升格为黄河水利学院。1961年9月，改建为黄河水利学校。1998年3月，改制为黄河水利职业技术学院。
