Hertz 1857. február 22-én született Hamburgban. Mérnöki pályára készült, de később a természettudományok érdekelték már. Mindössze 23 évesen, 1880-ban doktorált.
1886-ban mutatta ki, hogy az elektromos szikra kisülése közben elektromágneses hullámok keletkeztek. Később bebizonyította, hogy a fény és a hősugárzás is elektromágneses sugár, valamint igazolta, hogy ezek a sugarak légüres térben is terjednek.

Hertz adott le és fogott fel először rádióhullámokat, de nem hitt a jelenség gyakorlati alkalmazásában. Munkásságával ugyanakkor ő vetette meg a rádiózás, a televíziózás, a radar és a mikrohullámú sütő alapjait.
Összegyűjtött művei három kötetben jelentek meg 1894-95-ben. Ma nevét viseli a frekvencia (rezgésszám) mértékegysége (Hz), valamint egy német híradástechnikai intézet is.
Hertz magyar tanítványa Lénárd Fülöp volt, aki 1905-ben Nobel-díjat kapott.