Figlio naturale di Costanzo I Sforza, nacque nel 1466.
Costanzo I morì nel 1483 senza lasciare eredi legittimi e Giovanni divenne signore di Pesaro.
Il 27 ottobre 1489 Giovanni sposò Maddalena Gonzaga figlia del marchese di Mantova Federico I la quale morì di parto l'8 agosto 1490.
Il 2 febbraio 1492 Giovanni sposò per procura Lucrezia Borgia, allora adolescente. Questo matrimonio faceva parte della politica del papa Alessandro VI, padre di Lucrezia, che era in cerca di alleanze contro la minaccia francese.
Il 24 giugno 1492 le nozza furono celebrate a Roma, quindi Lucrezia si trasferì a Pesaro per tornare pochi mesi dopo sostenendo che l'unione non era stata consumata.
Dopo una serie di indagini e di polemiche, Giovanni dovette rassegnarsi ad ammettere ufficialmente di non essersi unito a Lucrezia e ad accettare l'annullamento del matrimonio.
Nel 1500 Cesare Borgia occupò Pesaro esiliando Giovanni Sforza che riprese possesso dei suoi domini solo dopo la morte del duca avvenuta nel 1507.
Giovanni si sposò per la terza volta con Ginevra Tiepolo dalla quale ebbe un figlio, Costanzo II, che nacque a Gradara il 24 febbraio 1510. Pochi mesi dopo, il 27 luglio 1510, Giovanni morì nella stessa città, gli successe il piccolo Costanzo II sotto la tutela dello zio Galeazzo Sforza il quale divenne signore di Pesaro quando nel 1512 il bambino morì.