První písemné doklady o vlastnictví knih pocházejí z počátku devatenáctého století. „Po zřízení Františkova muzea roku 1817 se knihovna stala jeho součástí," popsala mluvčí knihovny Barbora Buchtová. Moravská zemská knihovna půjčuje knihy už 130 let.

Od roku 1883 sloužila i veřejnosti. Později sídlila na několika místech.

Ze třicátých let minulého století pocházejí první plány na stavbu nové budovy, v soutěži tehdy zvítězil projekt brněnského funkcionalisty Bohuslava Fuchse, ze stavby ale v důsledku hospodářské krize sešlo. Nová budova vznikla až v roce 2001 podle návrhu firmy Onex Praha.

Knihovna má už téměř osmdesát let právo povinného výtisku.