Nel 1451 papa Niccolò V aprì alla consultazione degli studiosi la raccolta di codici posseduta dal Vaticano appositamente sistemata in una sala del suo palazzo alla quale si accedeva dal cortile del Pappagallo. Da quel momento alla morte del pontefice (1455) la collezione passò da 350 a 1200 codici.
L'istituzione fu ufficializzata da Sisto IV con la bolla Ad decorem militantis Ecclesiae del 15 giugno 1475 e la biblioteca ebbe come primo prefetto l'umanista Bartolomeo Sacchi detto il Platinba.
La sede della Biblioteca, la stessa scelta da Niccolò V, fu decorata con affreschi di Melozzo da Forlì, Antoniazzo Romano, Domenico Ghirlandaio, Davide Ghirlandaio. L'affresco di Melozzo che rappresenta il conferimento della nomina al Platina da parte del papa è stato staccato e trasferito nella Pinacoteca Vaticana.
In poco tempo la collezione venne raddoppiata e alla raccolta dei preziosi codici antichi si aggiunse quella dei libri stampati tanto che nel XVI secolo fu necessario frasferire la biblioteca in una nuova sede.
Nel 1587 il papa Sisto V commissionò all'architetto Domenico Fontana l'edificio che attraversa il grande Cortile del Belvedere per ospitare la biblioteca. La costruzione fu completata nel 1589, al piano superiore il Salone Sistino, lungo 70 metri e largo 15 venne riccamente decorato.
Nel corso del tempo numerose collezioni si sono aggiunte a quella originale ed oggi il patrimonio dell'istituzione conta circa 1.600.000 volumi stampati di varie epoche, 150.000 manoscritti, 9.000 incunaboli, migliaia di oggetti d'arte e una collezione numismatica di 300.000 pezzi.
L'accesso è riservato a docenti e studiosi accreditati ma da diversi anni è in corso un progetto di digitalizzazione per divulgare online le opere della biblioteca.