中华书局1916年设立图书馆,陆续收藏各类中西文书刊五十余万册。建国前图书馆所藏图书目前大部分留在上海辞书出版社。中华书局到北京后也开始建设图书馆,现收书几十万册,编辑查阅资料方面十分便利,甚至有的作者还特地到中华书局图书馆来查阅版本资料。善本室里藏有宋版图书,成为全国重点古籍保护单位之一。
1916年,中华书局静安寺路总厂建成,附设藏书楼于编辑所楼上。至1925年藏书楼改称中华书局图书馆,编制属于编辑所。1930年,舒新城任编辑所所长,兼任图书馆馆长。1935年,澳门路新厂落成,图书馆迁入新厂四楼。1975年10月中华书局印刷厂业务扩展,图书馆迁让,图书一度存放在北京东路原四明银行旧址,至1978年4-6月,陕西北路辞海编辑所新建大楼竣工,全部图书移入新址,现附属于上海辞书出版社(原中华书局辞海编辑所)。
——吴铁声《解放前中华书局琐记》
1947年,图书馆应联合国文教委员会之请,在馆举办基本教育展览会,陈列近代基本教育图书数万册,集国内近代教育史料之大成。