Ошибка из заголовка возникает в Firefox-подобных браузерах, в Chrome-подобных ошибка будет несколько иная, но суть одна – невозможно установить соединение с сайтом. Рассматриваем сайт, живущий в сервере приложений на основе Java (Jetty, Jboss, Tomcat, Karaf,***)
Трассировка заголовков покажет, что в браузер клиента приходит ответ от сервера с 0 байтами информации. Трассировка, дебаг (-Djavax.net.debug=***) сети на предмет рукопожатия результатов тоже не даёт. Может быть ситуация, когда коннект старыми версиями браузеров или через openssl успешен, а новые версии браузеров и curl покажут результат отрицательный. Ситуация может запутываться тем, что дамп трафика покажет согласование версии протокола TLS, cipher-suites и тп в ServerHello, но результат будет нулевой.
Для решения этой проблемы попробуйте отключить набор шифров RSASSA-PSS на стороне сервера – для JDK это будет по пути ${JAVA_HOME}/jre/lib/security/java.security в параметре jdk.tls.disabledAlgorithms , например:
jdk.tls.disabledAlgorithms=SSLv3, RC4, DES, MD5withRSA, DH keySize < 1024, \
EC keySize < 224, 3DES_EDE_CBC, anon, NULL, RSASSA-PSS
