В чем заключается применение квадратичных форм в криптографии?

Возможно, имелись в виду латинские квадраты и квадратичные решётки в контексте криптографии. 23

Латинские квадраты используются для построения шифров, например, для многоалфавитного шифрования. 23 Так, в шифре Тритемия первая буква открытого текста шифруется первым алфавитом (первой строкой таблицы), вторая — вторым и так далее. 23

Квадратичная решётка — ключ к определённому шифру. 1 Стороны такой решётки содержат чётное число ячеек. 1 Чтобы зашифровать текст, решётка с прорезями накладывается на расчерченный квадрат, после чего буквы текста последовательно записываются в прорези. 1

Ещё один пример —  «Квадрат Полибия». 5 Это квадрат 5×5, столбцы и строки которого нумеруются цифрами от 1 до 5. 5 В каждую клетку квадрата записывается одна буква, расположенная в алфавитном порядке. 5 В результате каждой букве соответствует пара чисел, и шифрованное сообщение превращается в последовательность пар чисел. 5 Расшифровывается путём нахождения буквы, стоящей на пересечении строки и столбца. 5