Николай Михайлович рано остался сиротой. В автобиографии Николай пишет, что отец ушёл на фронт и погиб в том же 1941 году. Но на самом деле Михаил Андрианович Рубцов выжил и после войны женился вторично, оставив собственных детей от первого брака в интернате, жил в Вологде. Николай написал эти строки в своей биографии, желая забыть о своём отце, который не пожелал найти своего сына и взять его к себе после возвращения с фронта.
В 1940 году переехал вместе со своей многочисленной семьёй в Вологду, где Рубцовых и застала война. Вскоре умерла мать Рубцова, и детей распределили в интернаты. С октября 1943 года и до июня 1950 года жил и учился в Никольском детском доме, где он окончил семь классов школы. Здесь родилась его дочь Елена в гражданском браке с Меньшиковой Генриеттой Михайловной.
С 1950 года по 1952 год будущий поэт учился в Тотемском лесотехническом техникуме. Затем с 1952 года по 1953 год работал кочегаром в архангельском траловом флоте треста «Севрыба», с 1953 года по 1955 год учился в горно-химическом техникуме Минхимпрома в г. Кировск (Мурманская область). С марта 1955 Рубцов был разнорабочим на опытном военном полигоне.
С октября 1955 года по 1959 год проходил армейскую службу на Северном флоте (в звании матроса и старшего матроса). После демобилизации жил в Ленинграде, работая попеременно слесарем, кочегаром и шихтовщиком на Кировском заводе.
Рубцов начинает заниматься в литобъединении «Нарвская застава», знакомится с молодыми ленинградскими поэтами Глебом Горбовским, Константином Кузьминским, Эдуардом Шнейдерманом. В июле 1962 года с помощью Бориса Тайгина выпускает свой первый машинописный сборник «Волны и скалы».
В августе 1962 года Рубцов поступает в Литературный институт им. М. Горького в Москве и знакомится с Владимиром Соколовым, Станиславом Куняевым, Вадимом Кожиновым и другими литераторами, чьё дружеское участие не раз помогало ему и в творчестве, и в делах по изданию стихов. С пребыванием в институте вскоре возникли проблемы, однако поэт продолжает писать, и в середине 1960-х у него выходят первые сборники.
В 1969 году Рубцов оканчивает Литературный институт, получает первую в своей жизни отдельную однокомнатную квартиру.
Будучи в состоянии алкогольного опьянения, погиб 19 января 1971 (в день Крещения) в Вологде на улице Яшина в доме номер 3, в результате семейной ссоры с начинающей поэтессой Людмилой Дербиной (Грановской), на которой собирался жениться (5 января они подали документы в ЗАГС). Судебным следствием установлено, что смерть наступила в результате удушения. Людмила Дербина была осуждена на 7 лет.
Биографы упоминают о стихотворении Рубцова «Я умру в крещенские морозы» как о предсказании даты собственной трагической смерти.
В своих последующих воспоминаниях и интервью об этом трагическом случае Людмила Дербина высказала гипотезу, по которой смерть Николая Рубцова могла произойти в результате случившегося сердечного приступа. Вполне возможно, что очень сильное эмоциональное переживание и алкогольное опьянение могли этому способствовать.
Похоронен в Вологде на Пошехонском кладбище.
Архангельский краеведческий музей открыл «Сезон белых ночей»
Юные спортсмены Поморья вернулись с россыпью наград с первенства мира по универсальному бою
«ЭкоИнтегратор» подвел итоги экологического конкурса рисунков
Молодые учёные со всей страны съедутся в Архангельск 
Когда в краны архангелогородцев вернётся горячая вода?
Регоператор «ЭкоИнтегратор» полностью обновил контейнеры в Плесецком округе
В Поморье обсудили поддержку ветеранов СВО и развитие беспилотной морской авиации