Voronej, askeri kolejde okundu ve başarıyla bitirdi. 1861 - 1867 yılları arasında Moskova'da Aleksandr Askeri Binasında, daha sonra Mikhaylovskaya Topçu Akademisi'nde eğitim aldı.
1875 yıllında Mikhaylovskaya Topçu Akademisi'ni altın madalyası ile bitirerek, yüzbaşı rütbesi terfi etti ve Tula Askeri Fabrikası'na gönderildi.
1880 yıllında alet yapımevine müdür olarak atandı. 1883 yıllında Mosin ilk hazineli tüfeği geliştirdi, Berdan tüfeğe 8 kurşunluk hazineyi ilave ederek mükemmelleştirmiştir.
16 Nisan 1891 yıllında tüfeğin modeli onaylandı, bu modelin temelinde Mosin tarafından geliştiren tüfeğin temeli alındı. İlk ismi; Rus üç namlulu tüfek model 1891 yılı.
III. Aleksandr zamanında isim üç namlulu tüfek model 1891 yılı' olarak değiştirildi. Böylece silahın geliştiren kişinin ismi almanın geleneği bozuldu. Tüfek 1944 yıllına kadar üretildi ve 1970'ların ortalarına kadar ordu hizmetinde kaldı.
1900 yıllında Paris'te gerçekleşen Uluslararası Sergi'de (Fr. Exposition Universelle) tüfeğe Grand Prix Ödülü verildi.
1894 yıllında Mosin, Sestroretsk Askeri Fabrikası'nın müdürlüğüne atandı. 8 Şubat 1902 yıllında tuğgeneral rütbesinde iken akciğer iltihabından öldü.
