Мы подробно писали об этом в вопросе 273911.
Употребительно: ИИ (как аббревиатура). При сокращении значимых частей слов до слогов следует писать строчными: искин.
Для написания через дефис оснований нет, следует писать раздельно.
Запятую ставить не нужно.
Корректно с тире: Как освоить два разных направления: виртуальную/дополненную реальность и искусственный интеллект – в рамках одной магистратуры?