Слово мат в значении «грубая брань» формы множественного числа не имеет.
Предложение построено корректно. Запятая не нужна.
Вот рекомендации из справочника Д. Э. Розенталя «Управление в русском языке»:
ЖАЛКО (жаль) — 1. [о чувстве сострадания, жалости по отношению к кому-чему-л.] кого-что. Жалко / жаль девочку; Мне стало невыразимо жалко его (Гарш.); Жалко / жаль увядшую розу. 2. [о чувстве грусти, горечи, сожаления по поводу отсутствия, утраты кого-чего-л.] кого-что / кого-чего. Жалко / жаль мне всех рано ушедших из жизни; Жалко / жаль потерянного времени. 3. [о нежелании тратить, отдавать что-л., лишиться чего-л.] чего. На минуту становилось жалко богатства (Горб.); Сахару больно жалко: много его у них выходит (Остр.).
А через какую букву его следовало бы писать? И здесь передает ударный звук.
См. в Справочнике по фразеологии.
См. словарную статью:
Книжн. Обычно несов. Чаще 3 л. наст. вр. или прош. вр. Недосточно хорош, не удовлетворяет, не соответствует определенным требованиям. С сущ. неодуш.: проект, книга, настроение… оставляет желать лучшего.
Статья оставляет желать лучшего, ее необходимо доработать.
Иногда засядет и в месяц окончит картинку, о которой все кричат как о чуде, находя, впрочем, что техника оставляет желать лучшего… (В. Гаршин.)
Да и сам ассортимент, качество пищи в этом заведении оставляли желать лучшего. (Е. Попов.)
Указанная запятая не требуется.
Возможно: Парень хотел убедиться в том, что ему не послышалось, он не сошел с ума, точно его мать, и его никто не ударил по голове, и это не просто галлюцинации.