Правильно: в онлайн- и офлайн-формате.
Правилен первый вариант.
Вы написали правильно: онлайн- и офлайн-школы математики.
Да, дефис нужен. Первая часть сложных слов онлайн- присоединяется дефисом.
Часть слова онлайн- пишется через дефис: онлайн-обсуждение.
Первая часть сложных слов онлайн- присоединяется дефисом: онлайн-редакторы.
Согласно "Русскому орфографическому словарю", сложные слова с первой частью онлайн- пишутся через дефис: онлайн-бронирование.
Сложные слова с первой частью онлайн- пишутся через дефис: онлайн-каталог.