Несколько способов оптимизации работы сетевого соединения в Java:

• Кэширование соединений, а не потоков. 1 Основная идея — не привязывать соединение к одному потоку, а использовать библиотеки, поддерживающие эффективный подход чтения из TCP. 1
• Подтверждение нового TCP-соединения. 1 Если нет возможности использовать постоянное соединение, то созданные соединения нужно ставить в очередь и ждать сигнала от приложения. 1
• Использование реактивных клиентов. 14 Они автоматически регистрируют для входящего ответа обратный вызов. 1
• Использование протокола для связи service-2-service, например, RSocket. 14
• Проверка, содержит ли приложение постоянно низкое количество потоков. 14 Также нужно убедиться, что у него есть пулы потоков и оно способно выдержать необходимую нагрузку. 14
• Использование пакета NIO в неблокирующем режиме. 3 С его помощью для операций ввода-вывода можно минимизировать блокировку. 3
• Использование программной библиотеки, разработанной для низкой задержки. 2 Например, можно использовать сетевую карту с низкой задержкой. 2

Также для автоматизации поиска оптимальных параметров сетевого соединения можно использовать программный комплекс, который учитывает размер буфера сокетов, скорость передачи пакетов, закон распределения размера пакетов и межпакетных интервалов, количество потоков. 5