Слово пока не фиксируется академическим орфографическим словарем. По правилу о сложных словах с иноязычной первой частью, которая оканчивается на гласную и самостоятельно не употребляется, нужно писать слитно: датасет (дата- от англ. data 'данные'), ср. датаграмма. 

Словарной фиксации пока нет, но правильным следует считать написание андрагогика: гласный а – часть второго греческого корня. Слово образовано от греч. aner (andros) 'мужчина' и ago 'веду, воспитываю', ср.: педагогика – от греч. pais (paidos) 'дитя, мальчик' + ago 'веду, воспитываю'.

Древнерусские слова подьяконъ, подьякъ, подьячии восходят к греч. ὑποδιάκονος (ср. иподьякон), где содержится приставка ὑπο- ‘под’, и образованы путем отсечения начального и. Названные слова встречались в прошлом и в народно-этимологическом написании типа поддьяк, поддьякон.

Слово вселенная представляет собой старославянскую кальку греческого ἡ οἰκουμένη (γῆ) ʽнаселенная (земля)ʼ (ср. ​​​​​​​ойкумена). В историческом аспекте это слово представляет собой субстантивированное страдательное причастие прошедшего времени, образованное с помощью суффикса -енн- от глагола вселить в старом значении ʽпоселитьʼ. В современном русском языке слово вселенная субстантивированным причастием не является, слабо осознается как таковое даже в историческом аспекте, поэтому написание этого слова нужно запомнить.

Такое оформление возможно при передаче на письме разговорной речи. В документах это нежелательно.

Действующие правила правописания не предусматривают написание каких-либо отдельных слов полностью прописными буквами. Как правило, таким способом последовательно пишутся только заголовки, логотипы, а также некоторые наименования, функционирующие вне текстовой среды (например, так написаны названия станций метро на стенах самих станций, названия магазинов на вывесках и др.). В остальных случаях caps lock обычно неуместен.

Однако мы должны отметить, что в последнее время написание прописными буквами входит в число приемов графического выделения текста - наряду с курсивом, полужирным написанием, подчеркиванием, использованием разных шрифтов и кавычек. В свою очередь приемы шрифтового выделения регулируются не правилами правописания, а нормами редакционно-технического оформления.

Дело не в словообразовании, а в графике. Все слова такого рода являются заимствованиями, и при "переводе" их на кириллическое написание используется принцип транслитирации, то есть побуквенной передачи слов одной графической системы средствами другой системы. Ср.: паранойя — греч. παράνοια; маракуйя — тупи mara kuya и т. п. Да, написание таких слов нарушает слоговой принцип графики, согласно которому гласные и согласные буквы пишутся и читаются с учетом соседних букв. Иначе говоря, в основе этого принципа лежит графический слог как единица чтения и письма: поэтому, например, мы пишем сарая (Р. п. ед. ч.), хотя в этом слове корень сарай (совпадающий с формой Им. п. ед. ч. существительного) и окончание -а. 

Написания типа паранойя, фойе, йогурт нарушают слоговой принцип графики, однако позволяют подчеркнуть иноязычную природу подобных слов. 

Да, названия, написанные латиницей, обычно не заключаются в кавычки. Именно по той причине, что кавычки – выделительный знак, а написание латиницей в русском тексте само по себе является выделительным. Но если в тексте несколько подряд названий, оформленных латиницей, и их границы не видны, то выделительная функция латиницы пропадает. В этом случае кавычки как раз уместны, чтобы показать границы названий.