Gazneli Devletinin kurucusu Sebük Tegin'in oğlu olan Mahmut, genç yaştan itibaren devlet idaresinde görev aldı.
997'de Gazne tahtına geçen Mahmud, Buhara, Horasan, Herat, Belh, Büst ve Kabil'i Samanilerden aldı. Daha sonra, bugünkü Afganistan ve Belucistan ile Harezm'e kadar tüm Maveraünnehir'i ele geçirdi.
Ardından Rey, İsfehan, Save, Kazvin, Zencan ve Ebher'i alarak, İran topraklarının büyük bölümüne hakim oldu. Eylül 1000'de ilk Hindistan seferine çıkan Sultan Mahmut, 1027'ye kadar Hindistan'a 17 büyük sefer yaptı.
Bu seferler sırasında Hindistan'da birçok cami yaptıran ve İslamiyeti öğretmek üzere alimler yerleştiren Mahmut, İslam Dininin Hindistan'da yayılıp, kabul görmesini sağladı.
Cihangirliği yanında, alim bir kişiliği de olan Mahmud sarayında alim ve şairlere sohbet ve tartışmalar da yaptırırdı. Firdevsi'nin meşhur Şehname'si de dahil devrinin pekçok kitabı Gazneli Mahmud'a takdim edildi. 33 yıl hükümdarlık yapan Sultan Mahmut, 1030'da Gazne'de vefat etti ve burada defnedildi.
Türk dünyasının yetiştirdiği en büyük hükümdarlardan biri olan Sultan Mahmut İslam dünyasında yayılma istidadı gösteren sapık Batınilik akımlarına karşı da mücadele etti.
İmar faaliyetlerine büyük önem veren Sultan Mahmut, Gazne'nin yanısıra Belh ve Nişabur gibi önemli şehirleri mamur hale getirdi.