1835 richtete der Oberbibliothekar Constantin Carl Falkenstein für die größten Kostbarkeiten der Königlichen Öffentlichen Bibliothek ein Zimelienzimmer ein. Die heutige Museumskonzeption, bestehend aus Dauer- und Wechselausstellungen, geht auf Erhart Kästner zurück, unter dessen Leitung das Buchmuseum im Japanischen Palais (dem damaligen Domizil der Sächsischen Landesbibliothek) entstand und 1935 eröffnet wurde. Nach der Zerstörung des Gebäudes 1945 waren die Bibliothek und das Buchmuseum bis 2002 in einer ehemaligen Kaserne untergebracht. Am 14. Januar 2003 wurde das Buchmuseum im Bibliotheksneubau der SLUB eröffnet. Neben dem bekanntesten Exponat, der Dresdner Maya-Handschrift aus dem 13. Jahrhundert, sind u.a. das Skizzenbuch von Albrecht Dürer, Musikautographe von J.S. Bach und Antonio Vivaldi sowie ein Gutenbergdruck ausgestellt.