Какие математические проблемы могут возникнуть в процессе разработки алгоритмов машинного обучения?

Некоторые математические проблемы, которые могут возникнуть в процессе разработки алгоритмов машинного обучения:

• Проблема континуума Кантора. vk.com habr.com Она заключается в том, что существует бесконечно много способов выбрать из бесконечно большого набора данных меньший набор, но размер этой бесконечности неизвестен. habr.com Если гипотеза континуума верна, то для экстраполяции достаточно небольшой выборки. habr.com Но если же она ложна, то не может существовать конечной выборки, которая была бы достаточной. habr.com
• Неопределённо долгий процесс обучения. is.ifmo.ru В сложных задачах для обучения сети могут потребоваться дни или даже недели, она может и вообще не обучиться. is.ifmo.ru
• Большие значения весовых коэффициентов. is.ifmo.ru В результате коррекции значения весов могут стать очень большими величинами, из-за чего процесс обучения может стать парализованным. is.ifmo.ru
• Нет гарантии, что получаемый в результате обучения локальный минимум является хорошим решением задачи обучения. is.ifmo.ru

Для решения этих и других математических проблем в машинном обучении необходимы знания в области математического анализа, линейной алгебры, теории вероятностей и статистики, а также основ многомерного анализа. proglib.io