Первая библиотека была открыта еще во времена Киевской Руси. Ее основание датируется 1037 годом. Инициатива принадлежала князю Ярославу Мудрому, по распоряжению которого в киевском Софийском соборе были собраны уникальные письменные памятники государства. Библиотека насчитывала около 500 томов, что больше, чем в любой европейской библиотеке того времени. В нее вошли Евангелия, Книги пророков, жития святых и важные государственные документы. Однако, все это было утеряно. Историки предполагают, что библиотека либо сгорела во время большого пожара, случившегося в 1124 году, либо погибла во время нападения князя Батыя на Киев.
На территории современной России первые библиотеки стали появляться в 11-12 веках. Они находились в соборах и монастырях. Известно, что в это время были основаны первые библиотеки в Новгороде и Владимире. Причем большая часть книг того времени хранилась именно в Новгороде, который на тот момент считался культурным центром Руси.