Тире нужно поставить.
В справочниках указано, что вводные слова и сочетания обычно не отделяются запятой от союзов, стоящих в начале предложения, однако в качестве примеров на это правило приводятся только случаи, когда вводное слово находится рядом с сочинительным союзом, например: И смею вас уверить, вы не ошибётесь в своём выборе; Но так или иначе, предложенный вариант вполне приемлем. Случаи с подчинительными союзами типа ведь, потому что и т. д. в справочниках не рассмотрены. Пока нет чёткой рекомендации справочников, можно посоветовать опираться на интонацию.
В каком контексте?
Верен второй вариант.
Варианты равноправны, выбираете Вы.
См. в наших словарях.
Литературный вариант: за знаниями.
Второй вариант корректен.
Оба слова (весь день) являются обстоятельством времени.