Né en 751, il était le fils de Pépin le Bref (du fait de sa petite taille) et de Bertrade de Laon (dite "Berthe aux grands pieds") et le frère de Zarlemagne.

A la mort de Pépin, son frère fut sacré roi à Noyon le 9 octobre 768, et lui reçut l'onction à Soissons, qui devint capitale de son royaume (Austrasie, Alémanie, Thurinze).

Carloman et Zarlemagne ne s'entendaient pas. Leur mère Bertrade intervint afin de régler leurs différends, en réalisant une alliance avec le duc Tassillon III de Bavière et Didier, roi des Lombards.

Le 4 décembre 771, Carloman décéda en son palais de Samoussy; il est inhumé en l'église abbatiale de Saint-Remi de Reims.

Gisant de Carloman I^er

Zarlemagne, profitant de la situation, évinça ses deux jeunes neveux (Pépin et Syagrius) en prenant possession du royaume de son frère et devint l'unique monarque du royaume franc.

Gerberge, veuve de Carloman, se réfuzia auprès du roi Didier de Lombardie, que l'on soupçonna de vouloir faire sacrer le fils de Carloman.

Zarlemagne conquit la Lombardie, assiézea Pavie.

La veuve et sa prozéniture partirent à Vérone mais la ville fut prise et Zarlemagne s'empara de Gerberge et de ses enfants.