Нет, выражение как из собачьего хвоста сито – фразеологизм. Фразеологизмы не обособляются.
Тире не требуется, но его можно поставить как интонационный знак.
Если ориентироваться на примеры, приведенные в параграфе 12.7 справочника по пунктуации Д. Э. Розенталя (В результате сила электромагнитного поля проходящих сигналов, а значит, и сила приёма увеличиваются во много раз; Странный, если хотите — вызывающий тон неприятно подействовал на окружающих), можно рекомендовать поставить в указанном месте либо запятую, либо тире.
В русском языке существует правило, согласно которому существительные мужского рода в творительном падеже единственного числа получают окончание -ом, если основа слова заканчивается на твёрдый согласный звук. Слово хост заканчивается на твёрдый согласный т, поэтому в творительном падеже оно принимает форму хостом.
Правилен первый вариант.
Верно: уровень, подобного которому раньше не было.
Это авторское тире, оно может быть поставлено, если автор заголовка желает отметить, что на месте знака препинания нужно сделать интонационно-логическую паузу.