Keith Jarrett a pennsylvaniai Allentownban született német származású apától és szlovéniai származású anyától (utóbbi ágon magyar felmenői is vannak). Hároméves korában kezdett zongorázni, ötévesen már egy televíziós tehetségkutatóban szerepelt, s két évvel későbbi első szólókoncertjén Bach, Beethoven, Mozart és Saint-Saëns darabjait, illetve két saját szerzeményét is eljátszotta.

Klasszikus zenei képzésben részesült, a híres Berklee College of Music hallgatója is volt. Bár lehetősége lett volna rá, visszautasította, hogy Nadia Boulanger-nál tanuljon Párizsban zeneszerzést.

Húszévesen a dzsessz mellett kötelezte el magát, azonban klasszikus zenei karrierjét ezzel párhuzamosan folytatta. 1964-ben New Yorkba költözött, és még abban az évben csatlakozott Art Blakey együtteséhez, ebből a kétéves időszakból csak egy koncertfelvétel maradt fenn. Ezután két évig Charles Lloyd kvartettjében zenélt, első szólólemeze Restoration Ruin címmel 1968-ban jelent meg, ezen a folk-rock korongon a szaxofontól a dobig minden hangszert ő szólaltatott meg, sőt még saját szövegeit is énekelte. Ugyanebben az évben alapította meg egy évtizedig működő, később kvartetté bővülő trióját.

A hetvenes évek elején termékeny együttműködés fűzte a trombitás Miles Davishez, akinek több lemezén is közreműködött. Az évtized közepén több nagy sikerű albumot is jegyzett Jan Garbarek norvég szaxofonossal (Belonging, Luminessence).

Ekkoriban kezdett teljes egészében rögtönzésből álló koncerteket adni, az 1975-ben a kölni operaházban rögzített, improvizációs albuma (The Köln Concert) minden idők legkelendőbb dzsesszszólólemeze lett. Érdekesség, hogy a zongorista csak hosszas kapacitálás után, 1990-ben egyezett bele a kotta megjelentetésébe, de azzal a megjegyzéssel, hogy előadáskor a lemez az irányadó. A dupla lemez idén bekerült a Kongresszusi Könyvtár legfontosabb hangfelvételeket őrző nyilvántartásába (National Recording Registry), és 2025 februárjában a Berlinalén bemutatták a legendás koncertről szóló, Köln 75 című német filmet, amely idén májusban az Artmozik éjszakáján is látható lesz a Puskin moziban.

1983-ban egy album erejéig a stúdióba invitálta Gary Peacock bőgőst és Jack DeJohnette dobost, az együtt muzsikálás olyan jól sikerült, hogy ott helyben három lemezt vettek fel, és több mint három évtizeden át zenéltek és turnéztak együtt. Az improvizált free jazzt új magaslatokra emelő három zenész annyira egymásra hangolódott, hogy rögtönzéseik megkomponált daraboknak hatottak. A Keith Jarrett Trio búcsúkoncertjét 2014-ben adták.

Több alkalommal is fellépett Budapesten, triójával és szólóban is. 2020-ban lemezen is megjelent négy évvel korábbi szólókoncertje, amelyet a Műpában adott. A hangverseny előtt bemondták, hogy a közönség ügyeljen a teljes csendre, a köhögést is mellőzze.

Jarrettet a kilencvenes évek elején krónikus fáradtság szindrómával diagnosztizálták, évekig arra is képtelen volt, hogy elhagyja az otthonát, ezalatt karácsonyi ajándékként népszerű szerzeményeket tartalmazó, feleségének ajánlott zongoraalbumot vett fel (The Melody at Night, with You).

2018-ban egymás után két szélütés is érte, a második után részlegesen megbénult, és a rehabilitáció után is csak bottal tud járni, bal kezével pedig képtelen játszani, azóta régebbi felvételeinek kiadásán fáradozik. Utolsó koncertjét 2017-ben a New York-i Carnegie Hallban adta. 2020 őszén bejelentette visszavonulását.

Jarrett játék közben öntudatlanul is nehezen definiálható hangokat ad ki, nyög, hümmög, dúdolgat, szavai szerint azért, mert nem tud minden hangot lejátszani, amit szeretne, lábaival veri a ritmust, és néha teljesen feláll, mert nem bír ülve maradni. Híres arról is, hogy néha megáll előadás közben, vagy akár ki is sétál, ha a közönség soraiban valaki köhög vagy más zavaró dolgot művel.