Никакие знаки препинания здесь не нужны. Так и пишется: решил было уходить, собрался было спать.

Интересна история подобных форм. Формы с было представляют собой остатки сложной древнерусской формы прошедшего времени – плюсквамперфекта. Плюсквамперфект обозначал прошедшее действие, которое завершилось раньше другого прошедшего действия, а также отнесенный к прошлому результат еще ранее совершенного действия (ср. англ. Past Perfect). Пример: у ярополка жена грекини бе и бяше была черницею – «у Ярополка жена была гречанка (прошлое состояние), которая (еще раньше) была монахиней». В поздний этап своего существования в русском языке (XVI–XVII века) плюсквамперфект образовывался путем сочетания изменяемого по родам и числам причастия на -л от глагола быть и причастия на -л смыслового глагола: Земля была высохла, да опять промокла – «Земля стала (в прошлом) мокрой, хотя (еще раньше) высохла». Впоследствии плюсквамперфект пережил в истории русского языка несколько преобразований. Причастие на -л от быть превратилось в неизменяемую форму было. А значение стало таким: действие, готовящееся в прошлом, но не осуществившееся или начавшееся в прошлом, но прерванное другим действием. Отсюда формы: решил было уходить (но передумал); собрался было спать (но расхотелось).