Harvey a hetvenes évek közepe óta zenélt Nick Cave-vel: együtt alakították meg középiskolásként a Boys Next Doort, majd az abból kinövő Birthday Partyt, s az énekes mellett ős-tag volt az 1983-ban alakított Nick Cave and The Bad Seedsben is, melynek 2009-ig volt tagja.

A több hangszeren is játszó Harvey mindemellett – leginkább a nyolcvanas években - zenélt egy másik Ausztráliából Berlinbe költözött együttesben, a Simon Bonney vezette Crime & The City Solutionsben is. Közreműködő zenészként játszott ausztrál zenekarok és Bad Seeds-, meg Crime & The City Soultions-közeli együttesek és előadók lemezein (mások mellett: Lydia Lunch, Die Haut, Robert Forster, The Go-Betweens), de producerként is több albumot jegyez, többek közt PJ Harvey nagyszerű Stories From The City, Stories From The Sea és Let England Shake című csúcslemezeit, ráadásul kiváló névrokona több lemezéhez zenészként is hozzájárult.

Első két szólólemezét (Intoxicated Man – 1995, Pink Elephants – 1997) Serge Gainsbourg feldolgozásaival töltötte meg, aztán közel tíz év szünet után kiadott 2005-ös One Man’s Treasure című albuma és a 2007-es Two of Diamonds ismét főleg átértelmezett számokból (többek közt Tim Buckley-, Lee Hazlewood-, Emmylou Harris-, vagy Manu Chao-szerzeményekből) áll. Legutóbbi sorlemeze, a 2013-as Four főleg saját dalok gyűjteménye.

Diszkográfiáját mindezek mellett számos filmzene gazdagítja: az első az 1990-es Ghosts… Of The Civil Dead, melyet Nick Cave-vel és az Einstürzende Neubauten-vezér Blixa Bargelddel készítette el, a legutóbbi soundtrackje a 2006-os Motion Picture Music.

Harvey, aki visszatérő vendég Budapesten, hiszen legutóbb az A38-on koncertezett, ezen az estén egy szál gitárral játszik, s megelőző teljes zenekaros In Dreams - The Music of David Lynch turnéja illetve szólóéletműve anyagából válogat.