Некоторые математические проблемы, которые могут возникнуть в процессе разработки алгоритмов машинного обучения:

• Проблема континуума Кантора. 13 Она заключается в том, что существует бесконечно много способов выбрать из бесконечно большого набора данных меньший набор, но размер этой бесконечности неизвестен. 3 Если гипотеза континуума верна, то для экстраполяции достаточно небольшой выборки. 3 Но если же она ложна, то не может существовать конечной выборки, которая была бы достаточной. 3
• Неопределённо долгий процесс обучения. 5 В сложных задачах для обучения сети могут потребоваться дни или даже недели, она может и вообще не обучиться. 5
• Большие значения весовых коэффициентов. 5 В результате коррекции значения весов могут стать очень большими величинами, из-за чего процесс обучения может стать парализованным. 5
• Нет гарантии, что получаемый в результате обучения локальный минимум является хорошим решением задачи обучения. 5

Для решения этих и других математических проблем в машинном обучении необходимы знания в области математического анализа, линейной алгебры, теории вероятностей и статистики, а также основ многомерного анализа. 4