Правильно: стейк-хаус. См.: Русский орфографический словарь РАН / Под ред. В. В. Лопатина, О. Е. Ивановой. – 4-е изд., испр. и доп. – М., 2012.
Да, кавычки в этом случае нужны.
Написание артхаус проверяется в словарном порядке. Проведем аналогию с первой частью сложных слов бизнес: эта часть присоединяется дефисом к последующей части слова (бизнес-идея, бизнес-ланч), но в составе слов бизнесмен, бизнесвумен пишется слитно. Причина слитного написания - отсутствие в русском языке самостоятельных слов мен и вумен (ср.: шоумен, шоувумен).
Хаус употребляется как самостоятельное слово только в виде омонима со значением "камышовая кошка". В другом значении его самостоятельное употребление невозможно. Этим и следует объяснить слитное (вместо ожидаемого дефисного) написание слова артхаус.