Abbász 1935-ben Galileában született alsó középosztálybeli palesztinai arab családban, amely Izrael 1948-as megalakulásakor annak ellenére a szíriai fővárosba menekült, hogy a sajtkereskedő apának zsidó üzlettársa is volt. Mahmúd a Damaszkuszi Egyetemen jogászként végzett, közben tanított és burkolóként dolgozott, majd az 1950-es évek második felében Katarban vállalt közalkalmazotti munkát. Ott találkozott Jasszer Arafattal, és alapító tagja lett a Fatah világi mozgalomnak, a Palesztinai Felszabadítási Szervezet (PFSZ) legerősebb frakciójának. Tanulmányait később Moszkvában folytatta, ahol doktori fokozatot szerzett történelemből azzal a sokak által bírált disszertációjával, amely szerint a cionisták kollaboráltak a nácikkal a holokauszt során.