1818 yılında İstanbul'da doğdu. Şam ve Bağdat valiliklerinde vazife yapan Mehmet Necip Paşa'nın oğludur.
Normal öğreniminden sonra Babıali'de Sadaret Mektubi Kaleminde vazifeye başladı. Devletin çeşitli kademelerinde çalışarak, 1847'de Sadaret ve aynı yıl Hariciye Müsteşarı oldu. 1855'te Sayda ve Şam, 1856'da İzmir valiliklerinde bulunduktan sonra, 1858'de Tanzimat Meclisi üyesi oldu.
Bundan iki sene sonra kendi isteği ile Trablusgarp Valiliğine getirildi. Burada yedi sene valilikten sonra saraya yanaşmanın çarelerini arayan Mahmut Nedim Paşa, önce Bahriye Nazırlığına, Ali Paşa'nın ölümü üzerine sadrazamlığa getirildi (1871). Önceleri Ali Paşa'ya karşı duyduğu kinini onun adamlarını vazifeden alıp, başka yerlere tayin etmekle açığa çıkardı.
Bu arada Hüseyin Avni Paşa'yı Isparta'ya sürdürerek, ileride şehit edilecek olan Sultan Abdülaziz Han'ın başına gelecek hadiselerin tohumunu attı. O günkü şartlarda her zamankinden daha fazla Avrupa devletlerine duyulması icab eden yakınlık, onun Rusya tarafını tutması ile yalnızlığa döndü.
Rus elçisinin bütün isteklerinin sadrazam tarafından eksiksiz yerine getirilmesi, kendisinin halk arasında “Nedimof” gibi küçültücü bir lakapla anılmasına yol açtı.
On bir ay süren sadrazamlığı sırasında, beş serasker, dört bahriye, dört adliye, beş maliye nazırı, altı tophane müşiri, beş sadaret, altı serasker müsteşarı, sayılamayacak kadar vali ve taşra memurlarını değiştirmesi, devlet işlerini karıştırması bakımından dikkat çekici hususlardır.
Valiliklerin ödeneklerini kesmesi, lüzumsuz yeni valilikler kurarak idareyi karıştırması, 1872'de görevinden alınarak Kastamonu Valiliğine gönderilmesine sebep oldu.
Adana Valiliğinde de bulunduktan sonra İstanbul'a getirtilerek önce Şura-yı devlet danıştay başkanlığına, ardından 1875'te ikinci defa sadrazamlığa getirildi.
Hersek isyanına, Sırbistan ve Bulgaristan'daki ayaklanmalara mani olamayan Mahmut Nedim Paşa, bütçe açığını kapamak için aldığı tedbirlerle işleri büsbütün karıştırdı. Rus elçisinin telkinlerine kapılarak Bulgaristan İhtilaline karşı askeri tedbir almaması, Balkanlardaki çeşitli hadiseler, büyük devletlerin müdahale etmesine zemin hazırladı.
Can düşmanı gibi olan Hüseyin Avni ve Mithat Paşaların talebeyi nümayişe kışkırtmaları, Bosna-Hersek isyanlarındaki başarısızlıkları, mali krizin artması sebepleriyle, 12 Nisan 1876'da vazifeden alındı. Çeşme, Sakız'da ikamete memur edildikten sonra Sultan İkinci Abdülhamit Han zamanında affedilerek İstanbul'a döndü. 1879'da İçişleri Bakanlığına getirilince eskisinin aksine halka ve memurlara çok iyi davrandı.
Fakat hastalandığı için bu vazifeden alındı. 14 Mayıs 1884'te öldü. Cağaloğlu'ndaki bir arsaya gömülerek sonra üzerine türbesi yapıldı.
