Giovanni era un cortigiano bizantino che si ornava del titolo di silenziario, titolo che nell'ottavo secolo aveva significato puramente onorifico. Doveva comunque essere vicino all'imperatore Costantino V Copronimo che nel 753 gli affidò una missione in Italia su richiesta del papa Stefano III.
Il re dei Longobardi Astolfo che aveva conquistato gran parte dei domini bizantini in Italia, aveva violato la pace con la Chiesa firmata l'anno precedente e stava minacciando il Ducato Romano. Non essendo riuscito a indurre Astolfo a rispettare gli accordi il papa si era rivolto all'imperatore nonostante i non buoni rapporti che in quel periodo Roma intratteneva con Costantinopoli.
Giovanni Silenziario si recò a Ravenna presso Astolfo accompagnato dal diacono Paolo, il fratello del papa, che aveva partecipato alle trattative di pace del 752 ma Astolfo, più che mai deciso ad espellere i Bizantini dalla Penisola, rimase inamovibile sulle proprie posizioni.
Qualche tempo dopo Giovanni accompagnò il papa Stefano III a Pavia per incontrare ancora una volta Astolfo ma neanche questo tentativo ebbe successo. Il papa proseguì verso il confine francese per concludere l'accordo con Pipino il Breve al quale aveva segretamente richiesto di intervenire mentre Giovanni, verosimilmente, tornò a Costantinopoli ma non si hanno altre notizie sulla sua vita dopo queste missioni.