Nativo di Populonia, fu eletto il 13 agosto del 523. Era imperatore d'Oriente Giustino, che voleva ad ogni costo sradicare l'arianesimo e che aveva, fra l'altro, imposto agli ariani di consegnare le loro chiese ai cattolici Teodorico, che regnava in Italia, mandò a Costantinopoli Giovanni, perché ottenesse minor severità. Ma, riuscita vana quella missione, l'imperatore fece imprigionare il papa in Ravenna al suo ritorno dall'Oriente, mentre era affranto dalle fatiche del viaggio; e Giovanni I morì per le privazioni a cui fu assoggettato in prigione. Questo papa fu amico di Boezio, che gli dedicò parecchie sue opere.