Sembla que el nucli es va formar com una sagrera a l'entorn de l'església de Sant Andreu. Es fa referència en el precepte del rei Lotari l'any 982 (Et in loco qui dicitur Suburbano alodem cum Ecclesiis, et villa quae dicitur Gargalaz) (AADD, 1985), essent possessió del monestir de Ripoll. Al segle XIV formaba part de l'antic comtat de Cardona: "est in territorio villa Cardone". Era una quadra o explotació agrícola, i no hi havia castell ni un senyoriu associat, essent el primer senyor l'abat de Ripoll. Abans del 1312 el monestir, per mitjà del paborde del Berguedà, rebia els delmes de Gargallà a més dels de Sorba, la Serra de Fígols, el Quer de Lluelles i de can Vidal de Sant Feliu. El 1424 estava sota domini del paborde de Berga fra Ramon Miquel. Al fogatge de 1553 (IGLESIES, 1978), Gargallà tenia 5 focs: Bernat Joan Company, Macia Illella, Pere Mujol, Antoni Vinia i Gabriell Lobet, tots ells de cases properes a l'església. Des del 1958, amb les noves divisions diocesanes, forma part de l'arxiprestat de Cardona.