Родился в г. Душатин Черниговской губернии (ныне Брянской области) в крестьянской семье.
Первым учителем игры на скрипке стал дядя.
В 12 лет оставляет семью и работает в мелких канцеляриях, одновременно беря уроки у конотопского скрипача-еврея.
В конце 1890-х гг., оказавшись в Курске, поступает в Музыкальные классы А. М. Абазы.
В 1901 г. поступает в Московскую консерваторию по классу скрипки И. В. Гржимали и по классу композиции С. Н. Василенко.
В 1912 г. заканчивает консерваторию с Большой серебряной медалью.
Погрузившись в водоворот различных течений российского искусства, Рославец увлёкся поэтами А. Блоком и В. Маяковским, художником К. Малевичем, и начал сотрудничество с футуристами.
Известен каламбур Маяковского, обращённый к неофиту: "Сколько лет росла овца, а не знает Рославца".
В первые годы после Октябрьской революции Рославец становится директором и преподавателем музыкальной школы в Ельце, его избирают первым председателем Совета рабочих, крестьянских и солдатских депутатов г. Ельца (1917-1918).
В 1919 г. он возглавляет Московское губернское управление Всерабиса.
В 1921-1923 гг. — профессор и ректор Харьковского музыкального института.
Затем снова Москва — редактор Главреперткома, ответственный редактор журнала "Музыкальная культура", активист Ассоциации современной музыки (АСМ).
За пятнадцать лет (с 1913 по 1928) он создал оперу-кантату "Небо и земля", симфонические поэмы "Человек и море", "Конец света", произведения для скрипки, инструментальные сонаты, множество вокальных и фортепианных циклов, несколько трио для фортепиано, скрипки и виолончели (в их числе и знаменитое четвёртое).
Рославец независимо от австрийского композитора А. Шёнберга, исследовал проблемы композиторской техники XX-го века, изучил новые неординарные возможности оркестровых инструментов.
Свои идеи Рославец сформулировал в работе "Новая система организации звука и новые методы преподавания теории композиции".
Но вскоре начались гонения на инакомыслящих, и Рославец становится "персоной нон грата". После нескольких лет "проработок" он сломался.
Осенью 1929 г. пишет открытое покаянное письмо и навсегда отказывается от творений своего художественного мира, от самого себя.
Лишённый средств к существованию, он едет по приглашению в Узбекистан, где создаёт первый узбекский балет "Хлопок". Спектакль, которым дирижировал сам автор, а главную роль исполняла Тамара Ханум, имел большой успех у официальной критики.
В последние годы Рославец, чтобы выжить, вынужден был писать такие "произведения", как "Попурри-фантазия для художественного свиста с фортепиано на русские темы".
Скончался в Москве. Похоронен на Ваганьковском кладбище.