Figlio di Alfonso I d'Este e di Lucrezia Borgia nacque a Ferrara il 4 aprile 1508.
Nell'aprile 1528 sposò a Parigi Renata di Francia, figlia del re Luigi XII, dalla quale ebbe cinque figli: Anna, Alfonso, Lucrezia, Eleonora e Luigi.
Nel 1534 successe al padre nel titolo di duca di Ferrara, Modena e Reggio.
Nei primi anni condusse una politica equilibrata nei rapporti con Francesi e Spagnoli mentre si verificarono dissidi con la Chiesa in merito al bando dei protestanti dal ducato ed alla riscossione dei tributi destinati a finanziare la guerra contro i Turchi.
Nel 1556 Ercole II si alleò con la Francia e con papa Paolo IV contro gli Spagnoli con i quali concluse poi un accordo nel 1558.
Morì a Ferrara il 3 ottobre 1559 lasciando il ducato al figlio Alfonso II.