Чтобы написать мягкий знак в середине числительного, прежде определим его состав. Все числительные по составу делятся на простые, сложные, составные и дробные.
Так вот, у простых числительных, а это слова с одним корнем, мягкий знак пишется на конце, смягчая предыдущий согласный. Это можно уловить даже по произношению таких слов-числительных, например:
семь, восемь, одиннадцать, двадцать, тридцать.
Существует такая "примета": мягкий знак пишется только один раз. Если он присутствует в конце числительного, то в середине таких числительных, как "семнадцать", "восемнадцать", "девятнадцать", он не пишется.
Иное дело сложные числительные, обладающие двумя корнями. Это числительные, называющие числа 50 -80, 500 - 900. В середине их пишется мягкий знак во многих падежных формах.
Для наглядности просклоняем числительное шестьдесят и восемьсот:
и.п. что? шестьдесят, восемьсот
р.п. чего? шестидесяти, восьмисот_
д.п. чему? шестидесяти, восьмистам
в.п. шестьдесят, восемьсот_
т.п. чем? шестьюдесятью, восемьюстами
п.п. о чем? о шестидесяти, о восьмистах.