Les primeres referències de l'arxiu daten del segle XIV, si bé el primer inventari localitzat és del 1729, obra del notari, i aleshores secretari de Berga, Josep Altarriba i Godolà. Es conserven d'altres inventaris del 1784 i del 1805, el darrer abans de la destrucció parcial duta a terme el 1822 pel cap absolutista Tomàs Costa. Degut a diversos saquejos i expolis, es troben volums berguedans en arxius de la resta de Catalunya i àdhuc de l'Estat Francès. Això sense tenir en compte el material malauradament desaparegut. Durant la Guerra Civil de 1936-1939, l'Arxiu va rebre la protecció del servei de Recuperació dels Arxius Històrics a càrrec del senyor Agustí Duran i Sanpere, essent ordenat i indexat l'any 1955 pel Doctor Lluís Pont; tasca que completà el senyor Ramon Casafont. D'ençà del 1987 se'n feu càrrec, com a arxiver, el senyor Xavier Pedrals. La primera ubicació de l'Arxiu degué ser a l'antiga casa consular, coneguda actualment com a Cal Fàbregas, situada al carrer Ciutat número 2. En traslladar-se, l'any 1580, l'Ajuntament al seu emplaçament actual, a la plaça de Sant Pere, 1, l'arxiu canvià d'ubicació. En aquest edifici hi romangué fins que el 1993 es va traslladar a un nou estatge, al carrer Mossèn Huch, 8. L'any 2000, ja com a Arxiu Comarcal, es va inaugurar la seva nova ubicació al Pavelló de Suècia.