Чем отличается формат математической задачи от математической проблемы?

Возможно, имелись в виду различия между понятиями «математическая задача» и «математическая проблема».

Математическая задача — это ситуация с известным начальным и конечным состоянием системы, при этом алгоритм достижения конечного состояния от начального известен. mooc.do.altspu.ru В задаче есть чётко определённые условия, цель и требование, на которое нужно найти ответ. disshelp.ru mooc.do.altspu.ru

Математическая проблема, в свою очередь, — это неполная задача, в которой неизвестен алгоритм достижения конечного состояния системы. mooc.do.altspu.ru Часто такие проблемы имеют форму гипотез, которые предположительно верны, но нуждаются в доказательстве. ru.wikipedia.org

Таким образом, основное отличие в том, что в задаче есть известный алгоритм, а в проблеме — неизвестный.