Эти буквы так называются, потому что выполняют в русском языке разделительную функцию. У твердого знака эта функция – единственная (после отмены этой буквы на конце слов в 1917–18), у мягкого знака – одна из трех. В чём состоит эта разделительная функция? Твердый знак указывает, что после согласного йотированная гласная буква обозначает не мягкость согласного, а два звука: я – [йа], е – [йэ], ё – [йо], ю – [йу]: объять, съезд, съёмка.  Мягкий знак выполняет аналогичную разделительную функцию перед я, ю, е, ё, и внутри слова не после приставки (вьюга, соловьиный) и в некоторых иноязычных словах перед о: (бульон, компаньон). Итак, разделительный знак – сигнал читать следующую букву как «й + гласный».

Кроме разделительной функции, мягкий знак выполняет еще одну важную работу: он служит для обозначения самостоятельной мягкости парного согласного на конце слова и в середине слова перед согласным: конь, банька. Наконец, после непарного по твердости/мягкости согласного мягкий знак пишется по традиции в определенных грамматических формах, не неся никакой фонетической нагрузки (ср.: ключ – ночь).

Добавим, что лингвисты не раз отмечали: наличие в русском письме двух разделительных знаков основано только на традиции (см., например: Еськова Н. А. О разделительных знаках // О современной русской орфографии / Отв. ред. В. В. Виноградов. М.: Наука, 1964), такую избыточность невозможно объяснить, исходя из системы современного русского языка. Не раз выдвигалось предложение избавиться от двух разделительных знаков и оставить либо только ъ (т. е. писать съезд и въюга), либо только ь (т. е. писать сьезд и вьюга). Второе предложение звучало гораздо чаще. Принять его мешает именно то обстоятельство, что буква ь используется в совершенно разных функциях. Она указывает на мягкость согласного, и при употреблении ее в роли разделительного знака у нас возникает неизбежная графическая иллюзия, что разделительный ь одновременно смягчает. В таких случаях, как сверхьестественный, подьем, трансьевропейский эта графическая ассоциация с обозначением мягкости была бы особенно нежелательна. Поэтому пока в русском письме остаются два разделительных знака.