Почему в русском языке существует разное склонение для слов дом и домишко?

Возможно, имелось в виду склонение слова «домишко». Оно относится к мужскому роду, но по виду похоже на существительное среднего рода, поэтому склоняется как слово среднего рода. rus.stackexchange.com

При этом в разговорной речи слово «домишко» может изменяться по женскому склонению. rus.stackexchange.com Обе формы имеют право на существование: в нормативной книжно-письменной речи используют формы второго склонения, в свободной устно-разговорной речи — формы первого склонения. rus.stackexchange.com

Слово «дом», в свою очередь, относится ко второму типу склонения, так как это существительное мужского и среднего рода с нулевым окончанием и с окончанием -о, -е. foxford.ru