Первой попечительницей библиотеки стала дочь поэта Мария Александровна Гартунг, выполнявшая эти обязанности в течение десяти лет.
Сначала она размещалась в небольшом здании на Немецкой (Бауманской) улице.
С 1912 года библиотека располагается на Елоховской площади в особняке — архитектурном памятнике «городская усадьба XVIII-XIX веков».
Выдающуюся роль в становлении и дальнейшем развитии библиотеки сыграл известный библиотековед, библиограф, организатор библиотечного дела Александр Александрович Покровский, который заведовал библиотекой в 1916-1918 годах.
Особый импульс работе библиотеки придала подготовка к 100-летней годовщине со дня смерти великого русского поэта: были приобретены дореволюционные собрания сочинений Александра Сергеевича Пушкина под редакцией Демьяна Бедного, Анатолия Васильевича Луначарского, А. Сакулина и Полное собрание сочинений под редакцией Ю. Оксмана и А. Цявловского, а также бесценные раритеты — прижизненные издания поэта: «Кавказский пленник» (1826), «Братья-разбойники» (1827), «Бахчисарайский фонтан» (1830).
Гордость библиотеки — книжный фонд, насчитывающий около 240 тысяч экземпляров изданий по различным отраслям знаний.
В её структуре самые разные отделы: информационно-библиографический, нотно-музыкальный, отдел комплектования и обработки, отдел периодических изданий, абонементы книг на русском и иностранных языках, а также читальные залы, один из которых носит имя Александра Сергеевича Пушкина.
Ежегодно библиотека обслуживает 13 тысяч читателей, число посещений составляет 280 тысяч.
Широко отмечалось в библиотеке 100-летие со дня смерти поэта Александра Сергеевича Пушкина. В рамках этого мероприятия здесь выступили известные пушкинисты Мстислав Александрович Цявловский, Дмитрий Дмитриевич Благой и Леонид Петрович Гроссман.
Библиотека Пушкина не закрывалась даже в тяжёлые первые годы Великой Отечественной войны 1941-1945 годов. В этих стенах, в тот период, сумели провести несколько читательских конференций, на одной из которых выступал Илья Григорьевич Эренбург.
После Великой Отечественной войны здесь организовали кружок по изучению творчества поэта.
В 1975 году начал работу клуб под названием «Пушкинист», который помог объединиться знатокам и просто ценителям литературного наследия А.С. Пушкина.
В 1996 году было заявлено о создании клуба потомков великого поэта.
В 1937 году перед главным домом бывшей усадьбы Мамонтова, а ныне библиотеки имени А.С. Пушкина по улице Спартаковская, 9 (станция метро «Бауманская») был установлен бюст классика.
Работу выполнил скульптор Владимир Николаевич Домогацкий.