Библиотека открылась 22 августа 1832 года. В 1877 году получила название Городской публичной библиотеки, в 1918—1940 годах имела статус центральной, а с 1944 по 1990 год называлась Республиканской государственной библиотекой МССР им. Надежды Константиновны Крупской.
Начиная с 1950 года библиотека получает обязательный экземпляр, который включает книги, периодические издания, аудиовизуальные документы и другое.

В 1961 году библиотека была переведена в специально построенное для нее здание по проекту Агаси Еремовича Амбарцумяна, в котором находится и в настоящее время.
В 1990 году библиотека получила статус национальной.

В 1992-м началось проведение основных библиотечных реформ, в результате которых произошли изменения в структуре и содержании деятельности библиотеки. Они выражались во внедрении международных стандартов, раскрытии национального книжного наследия, реорганизации издательской и культурной деятельности, изменении форм и методов работы в сети библиотек, информатизации библиотеки, организации интернет-доступа к мировым информационным ресурсам.