Nel corso della sua storia, a partire dal 1574, l’Archivio Arcivescovile ha cambiato tre volte di sede. Della prima, voluta dal card. Gabriele Paleotti, sappiamo solo che si trovava all’interno del palazzo arcivescovile e che la prima pietra fu posta da mons. Ascanio Marchesini, visitatore apostolico.
Una sede più moderna fu approntata dal card. Carlo Oppizzoni fra il 1818 ed il 1826, e occupava tutto l’ultimo piano dell’ala meridionale del palazzo arcivescovile, in pratica quella compresa fra via Altabella e il cortile dell’arcivescovado. Furono così riadattati quei grandi saloni che, in tempi precedenti, avevano visto conferire al loro interno le lauree dell’Università di Bologna, essendo stati sede del Collegio dei Dottori. Le pareti delle diverse sale furono ricoperte da grandi scaffalature di oltre 6 metri di altezza, ed evidentemente anche la profondità doveva essere notevole, perché esse potevano ospitare più file di unità archivistiche. Al centro delle aule furono disposti vari ripiani di appoggio, mentre le scaffalature più alte erano rese accessibili da una sorta di torri dotate di scalette e ripiani interni, nonché di ruote, che motivavano l’appellativo di “torri mobili”. Ogni scaffalatura era identificata univocamente tramite lettere e numeri, cosicché le unità archivistiche non erano confondibili e risultavano facilmente rintracciabili. In più di un secolo di attività, però, la mole di documenti pervenuti all’archivio era diventata veramente ingente, così che esso ne risultò saturo; inoltre la sede era stata in parte sfruttata da altri uffici di curia come deposito per quelle carte che al momento non si sapeva dove collocare.
Si decise pertanto di risolvere questi problemi individuando una nuova sede, tuttora in uso. Questa fu creata su impulso del card. Giacomo Lercaro: fra il 1960 e il 1961 una nuova zona del palazzo arcivescovile, sul lato settentrionale del cortile dell’arcivescovado, fu dotata di un deposito a torre di otto piani, con scaffalature metalliche, per 3100 metri di sviluppo lineare. Al termine dei lavori ebbe luogo il trasloco dei documenti, cosicché l’inaugurazione poté avvenire il 5 ottobre 1961 e l’apertura al pubblico a partire dal febbraio successivo. Dieci anni dopo, nuovi ingrandimenti dotarono l’archivio di una sala studio separata dal deposito, il quale fu contestualmente ampliato tramite l’aggiunta di un locale ricavato da un attiguo scantinato. Infine, un ulteriore ampliamento della sala di consultazione avvenne nel 1992 e furono acquisite all’archivio anche due stanze attigue, destinate a ospitare la biblioteca e parte dei sempre più numerosi fondi.