哈尔滨工程大学源自1953年创办的中国人民解放军军事工程学院（哈军工），陈赓大将为首任院长，毛泽东主席为学院颁发《训词》，1959年被中共中央确定为全国重点大学。1966年退出军队序列更名为哈尔滨工程学院。1970年在哈军工原址以海军工程系为主体组建哈尔滨船舶工程学院（哈船院），1978年被国务院确定为全国重点大学。1994年更名为哈尔滨工程大学（哈工程）。学校先后隶属于第六机械工业部、中国船舶工业总公司、国防科工委，现隶属于工业和信息化部。2007年，成为国防科工委、教育部、黑龙江省人民政府、海军共建高校。2019年，成为工业和信息化部、教育部、黑龙江省人民政府、哈尔滨市人民政府共建高校。
学校是首批具有博士、硕士学位授予权单位，1996年被确定为首批“211工程”重点建设高校，2002年经教育部批准设立研究生院，2011年被确定为国家优势学科创新平台项目建设高校，2017年进入国家“双一流”建设行列。学校坚持“三海一核”（船舶工业、海军装备、海洋开发、核能应用）办学方略，为我国船舶工业、核工业、国防现代化和经济社会发展做出了重要贡献，已成为我国船海核领域高水平研究型大学。