В первом предложении обстоятельственный оборот с предлогом начиная с уточняет обстоятельство со следующей недели и выделяется запятыми, во втором предложении он находится в начале предложения и не обособляется: 1) Иванов со следующей недели, начиная со вторника, приступил к выполнению обязанностей; 2) Начиная с 1 февраля 2015 года действуют новые тарифы на проезд в городском транспорте.

В этих случаях сочетание начиная с потеряло глагольное значение и перешло в разряд предлогов, а потому обороты с ним не обособляются: Получаете призы начиная с пятой чашки кофе; Используете начиная с натуральной базы 3. Сравним: Начиная с пятой чашки кофе свой день, я готовился к худшему (слово начиная сохраняет глагольное значение и является деепричастием).

Многозначные целые числа делят пробелами на группы (по три цифры справа налево). Технические правила набора дают указание разбивать на группы числа только начиная с 5-значных, а «Основные математические обозначения (СЭВ PC 2625–70)» не делают исключения и для 4-значных чисел. Например:

Верно без обособления: Убедившись, что аудитория разделяет его юмор, он наконец решился выступать сам.

В подобных контекстах сочетание начиная с играет роль предлога, оборот с ним не требует обособления (см. параграф 73 полного академического справочника «Правила русской орфографии и пунктуации» под ред. В. В. Лопатина): Следует заметить, что начиная с войны во Вьетнаме на них стремились возложить выполнение разведывательных задач по уничтожению объектов противника. Оборот может быть обособлен «для попутного пояснения или смыслового выделения» (см. параграф 74 того же справочника).

Действительно, в школьных учебниках обычно пишут, что также и тоже входят в состав сочинительных соединительных союзов. Это характеристика, которая дается, так сказать, «не от хорошей жизни» — потому что, строго говоря, не вполне ясно, куда еще их можно отнести.

В академической «Русской грамматике» используется понятие функционального аналога союза — и вот эта квалификация применительно к словам тоже и также намного более удовлетворительна. По функции эти слова действительно близки к союзам, но от подлинных сочинительных союзов их отличает то, что они не могут занимать позицию между связываемыми компонентами, а должны находиться внутри второго из них. Между тем подлинные сочинительные союзы (одиночные) находиться внутри какого-либо из конъюнктов (связываемых компонентов) не могут. Кроме того, эти слова выражают идею тождества (полного или неполного), и их способность заменять собой союз опирается на эту особенность их значения — в то время как у подлинных соединительных союзов подобных семантических особенностей нет.

Однако применение к словам тоже и также квалификации, предложенной в «Русской грамматике», не решает вопроса о морфологической природе этих слов. И этот вопрос остается открытым. И останется открытым, по всей вероятности, еще очень долго. Дело в том, что в языке довольно много слов, морфологическая природа которых противоречива, а функции слишком разнообразны, чтобы можно было однозначно отнести их к какой-либо определенной части речи. Об этом многократно писали крупнейшие отечественные лингвисты, начиная с Л. В. Щербы.

По поводу усилительной частицы можно заметить следующее. В вашем примере можно видеть усиление. Но в примере Папа очень любит мороженое, я, кстати, тоже его люблю усиление увидеть затруднительно. Следовательно, системно у слова тоже усилительной функции, присущей частицам, нет. Это оттенок смысла, вносимый в вашем примере контекстом. Что же касается присутствия в одном предложении более одного союза, эта ситуация не уникальна: союзы могут сочетаться друг с другом (ср.: Спектакль прекрасный, но и ужасный, я до сих пор не могу прийти в себя).

Я бы охарактеризовал слово тоже так: это служебное слово местоименного происхождения, регулярно выступающее как функциональный аналог союза.

В данном случае оборот является несогласованным определением (затрат (каких?) начиная с 1 июня 2024 г. по 1 мая 2025 г.), не нуждающимся в обособлении.

Рекомендация нашего «Справочника по пунктуации» состоит в том, что присоединяемые предлогом «начиная с», обычно обособляются. Обособление не требуется, если предлог «начиная с» в буквальном смысле указывает на время, дату начала чего-либо (при этом слово «начиная» обычно можно опустить). Следовательно, в данном случае правильный вариант: Все члены ряда, начиная с пятого, больше нуля.

Обороты структуры начиная с (чего-либо) и заканчивая (чем-либо) не кодифицированы справочниками по пунктуации, однако для постановки сразу двух знаков нет оснований. Рекомендуемый вариант: Начиная с первого и заканчивая последним курсом — все они были на своих занятиях.

В полном академическом справочнике «Правила русской орфографии и пунктуации» под ред. В. В. Лопатина о подобных случаях говорится: 

«§ 73. Обороты со словами смотря по, начиная с, потерявшими свое глагольное значение и перешедшими в предлоги и предложные сочетания, не обособляются: Будем действовать смотря по обстоятельствам (ср.: по обстоятельствам); Начиная со вторника погода резко изменилась (ср.: Со вторника погода резко изменилась). Если же эти обороты имеют значение уточнения или присоединения, то они обособляются: Будем действовать умело и быстро, смотря по обстоятельствам; На прошлой неделе, начиная со вторника, погода резко изменилась».

В приведенном контексте оборот с предлогом начиная с не имеет значения уточнения или присоединения, он образует смысловой центр предложения и не нуждается в обособлении.