Для испытания собственного алгоритма шифрования и проверки его на стойкость можно использовать следующие методы и инструменты:

• Начальная оценка. 1 Основывается на вычислительной сложности, которая может быть выражена во времени, деньгах и требуемой производительности вычислительных ресурсов. 1 Для вновь созданного алгоритма это может быть единственная существующая оценка. 1
• Криптоанализ. 13 Исследует алгоритм с целью поиска слабостей и уязвимостей. 1 Можно оценить стойкость по отношению к известным криптографическим атакам (линейный, дифференциальный криптоанализ и другим). 13
• Атаки на реализацию. 13 Выполняются для конкретного программно-аппаратно-человеческого комплекса. 13

Для автоматизации процесса можно использовать, например, следующие инструменты:

• Nmap. 2 Сетевой сканер, который может обнаруживать открытые порты и запущенные службы, а также слабые алгоритмы шифрования, используемые в соединениях SSL/TLS. 2
• Qualys SSL Labs. 2 Веб-инструмент, который проверяет реализацию SSL/TLS на наличие уязвимостей и выявляет слабые алгоритмы шифрования. 2
• SSLScan. 2 Инструмент командной строки, который сканирует службы SSL/TLS на наличие слабых алгоритмов шифрования и уязвимостей. 2
• OpenSSL. 2 Библиотека с открытым исходным кодом, предоставляющая функции шифрования и дешифрования. 2 Её можно использовать для проверки надёжности алгоритмов шифрования и их реализации. 2
• Burp Suite. 2 Инструмент тестирования безопасности веб-приложений, который может обнаруживать слабые алгоритмы шифрования, используемые в веб-приложениях. 2
• Metasploit Framework. 2 Популярная платформа тестирования на проникновение, которая включает модули для тестирования реализации SSL/TLS и надёжности шифрования. 2

Также можно участвовать в соревнованиях Capture The Flag (CTF), которые часто включают в себя задачи, связанные с криптографией и слабыми алгоритмами шифрования. 2

Для более глубокого и экспертного анализа алгоритма и его реализаций рекомендуется обратиться к специалистам.