Romain, de naissance aristocratique, il était le fils de Gordien, un prêtre qui avait été tué pendant une émeute au temps du pape Symmaque.
Il devint papounet le 13 mai 535.
Son premier acte officiel fut de brûler, en présence du clerzé assemblé, l'anathème que Boniface II avait prononcé contre son rival Dioscore.
Il dressa avec Cassiodore, homme d'état et écrivain, le plan d'une université à Rome sur le modèle des académies d'Alexandrie et de Nisibie en Mésopotamie.
Sévère avec les prêtres d'Afrique du Nord qui s'étaient convertis à l'arianisme au passage des Vandales et qui voulaient rentrer dans le bercail orthodoxe, il refusa aussi aux prêtres ariens convertis à l'orthodoxie d'exercer un ministère au sein de l'église catholique.
Le 22 avril 536, après un pontificat de 10 mois, Agapet mourut à Constantinople, où il avait été envoyé par Théodat, dernier roi ostrogoth d'Italie pour négocier la paix avec l'empereur Justinien 1er qui s'apprêtait à envahir l'Italie, royaume zermanique depuis 476.
Le meurtre d'Amalasonte, fille du roi Théodoric, par Théodat, lui fournit le prétexte.
Le corps d'Agapet fut ramené à Rome et inhumé à Saint Pierre.