哈尔滨工业大学图书馆建于1920年。建馆初期，馆舍面积只有七、八十平方米，藏书仅几百册。1950年初，中华人民共和国政府接管哈工大，从此哈工大图书馆在党和政府关怀及学校重视下，逐步发展壮大。1954年，哈工大图书馆迁至西大直街169号之后，馆舍面积达到3200平方米，馆藏图书增加到40万册。20世纪60年代中期，图书馆已逐渐形成了中外文兼顾、理工并重，以机、电、仪书刊为主体的，具有哈工大专业学科特色的藏书体系。