Родился в Курске в купеческой семье.
Пристрастился к игре на балалайке в последнем классе учительской семинарии. Родители не одобрили увлечение сына и отказались оплачивать его учебу, за что Успенский исключен из семинарии; работал грузчиком.
С 1908 г. играл в оркестре народных инструментов В. В. Андреева, который познакомился с Успенским и ввел его в состав оркестра во время гастролей в Курске. С этим оркестром в России, Англии, Франции, Америке Н. Т. Ольховиков уже выступал под фамилией «Успенский».
В. В. Андреев высоко ценил Успенского и считал его своим преемником. За год до смерти он подарил ему личную концертную балалайку с дарственной надписью. Она звучала на сценах многих больших и малых российских городов, с ней пройдены дороги гражданской войны в рядах Красной армии.
В 1920-е гг. по завету Андреева Успенский создал в Курске оркестр народных инструментов.
В 1925–1927 гг. этим оркестром наиграно несколько патефонных пластинок.
В 1928–1929 гг. Музторг МОНО издал ряд его обработок и переложений для балалайки и фортепиано. Пьесы, переложенные Успенским, до сих пор используются как в концертной, так и в педагогической практике. Так унисон балалаек Свердловской консерватории исполняет Вторую мелодию А. Рубинштейна в переложении Успенского.
С 1931 г. жил в Ленинграде, работал в объединении «Ленгосэстрада» как солист-балалаечник, стал членом Союза композиторов, много гастролировал.
В 1934 г. Ленинградское издательство «Тритон» выпустило школу-самоучитель Успенского для балалайки. В этом труде им подобраны по возрастающей трудности упражнения и пьесы и, что самое главное, впервые, опубликованы во всех тональностях гаммы для балалайки.
Последние годы жизни музыканта прошли в осажденном Ленинграде, где на передовых рубежах обороны он выступал перед воинами Советской Армии.
Погиб со всей концертной бригадой при переправе через Неву.
Успенский является автором переложений для балалайки многих произведений отечественных и зарубежных композиторов, аранжировки русских народных песен, а также самого популярного самоучителя для балалайки, который используется в педагогической практике до сих пор.
Ист.:
Пересада Л. И. Справочник балалаечника. М., 1977, с. 20 – 21;
Юсов А. Балалайка в его руках — чудный инструмент //Советская музыка, 1990, 7, 125 — 125.