Корректно: Государство словенцев, хорватов и сербов (с большой буквы первое слово исторического названия государственного образования).
Сабж и сабдж (от англ. subject) - жарг. 1) тема электронного сообщения; строка в заголовке письма для указания его темы (Что указано в сабже письма?); 2) обсуждаемый в письмах, форуме, телеконференции предмет, вопрос (Не уходите в сторону, поговорим о сабже).
Названия племен, народов пишутся без кавычек и со строчной буквы, приведем несколько примеров из академического «Русского орфографического словаря»: апачи, гунны, дауры, манси, маори, мещера, мурома, словене, тонга. Так же пишутся и названия, состоящие из двух частей, см., например, статью мяо в «Большой российской энциклопедии».