První písemné doklady o vlastnictví knih pocházejí z počátku devatenáctého století. „Po zřízení Františkova muzea roku 1817 se knihovna stala jeho součástí," popsala mluvčí knihovny Barbora Buchtová.
Od roku 1883 sloužila i veřejnosti. Později sídlila na několika místech.
Ze třicátých let minulého století pocházejí první plány na stavbu nové budovy, v soutěži tehdy zvítězil projekt brněnského funkcionalisty Bohuslava Fuchse, ze stavby ale v důsledku hospodářské krize sešlo. Nová budova vznikla až v roce 2001 podle návrhu firmy Onex Praha.
Knihovna má už téměř osmdesát let právo povinného výtisku.