Gyermekkorát a svájci Nyonban töltötte, ahol apja egy klinika főorvosa volt, itt járt iskolába is. 1949-ben beiratkozott a Sorbonne etnológia szakára, az egyetemen gyakran látogatta a diáknegyed filmklubját, a filmarchívum vetítéseit. Itt ismerkedett meg André Bazinnel, Francois Truffaut-val és Jean Rouch antropológussal, aki a "cinéma vérité" elnevezésű dokumentumfilm-stílus első alkalmazója és elméletének megfogalmazója volt.

Pályája kezdetén Godard filmkritikákat írt a Cahiers du Cinéma című filmes szaklapba, 1956-ban már a legjelentősebb francia filmkritikusok közé tartozott. Ami azonban jobban érdekelte, az a filmkészítés volt, és ehhez elő kellett teremtenie az anyagi eszközöket. 1954-ben Svájcban egy völgyzárógát építkezésénél vállalt munkát, és a fizetéséből kezdett rövidfilmeket készíteni.

Első nagyjátékfilmje, az 1959-ben Jean-Paul Belmondo és Jean Seberg főszereplésével készült Kifulladásig" megkapta a Jean Vigo-díjat. A rögtönzésszerű, eredeti technikával leforgatott filmhez nem készült forgatókönyv, Godard egyik napról a másikra írta meg a vázlatos dialógusokat, amelyeket a próbák között, sőt azok során is átdolgozott. Improvizációs munkamódszerét később már odáig fejlesztette, hogy felvétel közben, a kamera mögül súgta a szereplőknek, hogy mit kell mondaniuk: ez azután a vásznon különös, elvont hatásokat eredményezett.

A következő években rögeszmésen foglalkozott a gyökértelenné váló, eszményt kereső hősök ábrázolásával (A kiskatona 1960) csakúgy, mint az emberi állhatatlanság témájával (Éli az életét 1962). Ekkorra í hírnév már annyira szárnyára kapta, hogy Hollywoodból megkeresték, rendezze meg a Bonnie és Clyde című, sikerszagú filmet. Godard nemet mondott, mert előítéletei voltak az
amerikai filmgyártás rendszerével szemben. Ezekben az években készült filmjei (Made in USA, Két-három dolog, amit tudok róla) általános kiábrándultságot jeleznek, A kínai lány (1967) pedig már nyilvánvalóvá tette vonzódását a baloldali eszmékhez.

1968 tavaszán aktívan részt vett a párizsi diáklázadásokban és egyéb demonstrációkban. Alkotásai azt mutatták, hogy egyáltalán nem érdekelte, tetszik-e a közönségnek, amit csinál, vagy sem, véleménye szerint filmjei "nem show-k, hanem a harc részei" voltak. Az ideologikus fordulat nem csak azt bizonyította, hogy Godard vakmerő rendező és fejlődése kiszámíthatatlan, de sok híve is elpártolt tőle. Aztán egy motorbaleset miatt két év kihagyásra kényszerült, ezalatt átgondolta eszméit és gyakorlati munkásságát.

A hetvenes években visszatért a nagyközönség igényeit jobban kiszolgáló mozifilmek készítéshez, a hagyományos történet-elbeszéléshez (Minden rendben, 1972). Közben elköltözött Párizsból Grenoble-ba, ahol a Sonimage nevű audiovizuális céget vezette, ekkoriban született művei nagyrészt a televízió számára készültek, nem egyszer sorozat formájában.

Később újra forgatott sikeres nagyjátékfilmeket, neves színészekkel (Mentse, aki tudja, 1979, Üdvözlégy, Mária, 1985). A 80-as években Amerikában és Mozambikban vett részt különféle filmes vállalkozásokban. 1990-ben Alain Delonnal a főszerepben készítette az Új hullám című filmet, amelyben a provokatív cím ellenére éppen annak a módszernek fordított hátat, amelyet az új hullám képviselői - köztük ő maga is - a hatvanas évek elején kialakítottak.

Godard-nak óriási hatása volt - és maradt - a világ minden táján a fiatal filmművészekre. Mint a francia avantgárd képviselőjét, életművéért Frankfurt városa 1995-ben Adorno-díjjal tüntette ki.