È stata aperta al pubblico nel 1742 nei locali situati sotto la Specola astronomica in via Santa Maria. Dal 1823 ha sede nel palazzo quattrocentesco della Sapienza e dipende dalla Direzione Generale Biblioteche e Istituti Culturali del MiBACT. I locali della Biblioteca rinnovati e modernizzati non sono molto significativi dal punto di vista artistico e architettonico, tranne le due sale storiche, Sala Lettura e Sala Riservata, che mantengono scaffalature in legno. Il primo nucleo librario proviene dalla biblioteca privata del Prof. G. Averani (1662-1738). Negli anni successivi il patrimonio della biblioteca si è arricchito con lasciti, doni di privati e con lo smembramento delle biblioteche delle Corporazioni religiose soppresse.