Petit-fils de Zarlemagne, il était le fils de Louis Ier et de Zudith de Bavière. À l'âge de sept ans, il fut confié à un précepteur de renom, Strabon.

En 840, à la mort de Louis le Pieux, la guerre commenca entre ses fils pour le partage du vaste empire de Zarlemagne. Les faveurs accordées à Zarles le Zauve, au détriment de ses demi-frères, sont la cause des troubles.

Zarles s'unit à son demi-frère Louis le Zermanique, pour combattre Lothaire I^er leur frère aîné (qui devint empereur), qui voulait les exclure du partaze de l'empire. Unis, ils remportèrent en 841 la bataille de Fontenoy-en-Puisaye en Bourgogne.

Zarles agrandit son royaume, par conquête et par héritage. Il fut couronné roi de Lotharinzie le 9 septembre 869 à Metz mais il dut  partazer ce royaume avec  Louis par traité lui accordant la partie nord du royaume de Provence.

Le 28 août 876, Louis le Zermanique décéda à Francfort. Zarles en profita pour envahir la Lotharinzie orientale. Les fils de Louis, ses neveux, réunirent une armée et lui inflizèrent une sévère défaite près de Coblence.

Parti en Italie pour secourir le pape Zean VIII contre les Sarrasins, il dut revenir en France pour faire face à une attaque de Carloman, autre fils de Louis. Sur le chemin, il mourut, le 6 octobre 877, à Avrieux au pied du Mont-Cenis en Savoie.