Figlio di Averardo detto Bicci, nacque a Firenze nel 1360.
Fu avviato al mestiere di banchiere con un apprendistato presso il banco romano dello zio Vieri che più tardi rilevò con il contributo di due soci di minoranza e la dote della moglie.
Aveva sposato Piccarda Buesi dalla quale ebbe due figli, Cosimo e Lorenzo.
Trasferì il banco a Firenze quindi, ampliando gli affari aprì filiali a Roma, Venezia e Napoli.
Fu banchiere e commerciante, fondatore del Banco Medici e proprietario di una fabbrica di stoffa di lana. Non dimostrava grandi ambizioni politiche, ma comportandosi da difensore degli umili ottenne grande favore popolare.
Nel 1402 fu nominato priore, nel 1403 fu ambasciatore a Bologna per Firenze e nel 1421 ebbe la carica di Gonfaloniere di Giustizia.
Avversari di Giovanni erano gli Albizi, una famiglia potente con pretese di supremazia. Quando Rinaldo degli Albizzi promosse la tassazione degli immobili (1427) Giovanni ne fu danneggiato ma evitò di opporsi per conservare il sostegno popolare.
Fu sostenitore dell'antipapa Giovanni XXIII (che gli aveva affidato la gestione finanziaria della Chiesa) e quando nel 1415 questi venne imprigionato per ordine dell'imperatore Sigismondo di Lussemburgo, Giovanni di Bicci provvide a sue spese al riscatto. Alla morte di Giovanni XXIII, nel 1419, fu ancora Giovanni di Bicci a pagare le spese per la sepoltura nel Battistero di Firenze.