Hall röviddel halála előtte is aktívan zenélt. Novemberben a Lincoln Centerben koncertezett együttesével, amely ezúttal két vendéggitárossal, John Abercrombie-vel és Peter Bernsteinnel egészült ki. Januárra japán turnét tervezett Ron Carter dzsesszbőgőssel, régi zenésztársával.

2004-ben Hall lett az első modern dzsesszgitáros, aki elnyerte az Egyesült Államok legrangosabb dzsesszkitüntetését, a Nemzeti Művészeti Alapítvány Dzsessz Mestere elismerést.

"Jim egyike volt a dzsessztörténet legfontosabb improvizáló gitárművészeinek. Zenei zsenialitása mély humanitással párosult" – méltatta Pat Metheny, aki fellépett és lemezt is készített Hall-lal.

Egy 2003-ban adott interjújában Hall arról beszélt, hogy olyan kompozícióknak szeret részese lenni, amelyek játék közben születnek.

Joachim-Ernst Berendt, dzsesszkönyvek elismert német szerzője egyszer úgy fogalmazott, hogy "Hall a tökétetes zenei partner". Az elmúlt hatvan évben a dzsessz számos nagyságával duóban vagy kisebb zenei formációban készített felvételeket. Partnerei között volt a szaxofonon játszó Sonny Rollins, Gerry Mulligan, Ornette Coleman és Paul Desmond, a zongorista Bill Evans, a dzsesszbőgős Red Mitchell és Ella Fitzgerald énekesnő is.  

Hall 1930. december 4-én született Buffalóban, családjával később Clevelandbe költözött. Tízévesen vett kezébe gitárt, és három évvel később, amikor meghallotta Charlie Christian gitárjátékát, beleszeretett a dzsesszbe.

Clevelandi zenei tanulmányai után Los Angelesben kötött ki, ahol előbb a Hamilton kvintett, majd a Giuffre trió tagja lett. Saját együttesének vezetőjeként első lemezét 1957-ben Jazz Guitar címmel készítette el. New Yorkba költözve olyan ismert sztárokkal zenélt, mint Evans, Fitzgerald, Ben Webster és Lee Konitz. Art Farmer trombitaművésszel együtt vezetett egy kvartettet, és saját triót alapított Tommy Flanagan zongoristával és a dzsesszbőgős Carterrel.

Lánya és menedzsere, Devra Hall Levy szerint apja nemcsak mesteri dzsesszgitáros volt, hanem nagyszerű zenei rendező és komponista, amit a kilencvenes évek közepén megjelent olyan lemezei is jeleznek, mint a Textures és a By Arrangement.