Как читать TLS-хендшейк в tcpdump
Когда соединение «просто не открывается», полезно посмотреть на байты, а не на сообщение клиента. Один и тот же симптом — таймаут — дают три разные причины: потеря пакетов, блокировка на Middlebox и несовпадение параметров протокола. Различить их можно по тому, сколько байт хендшейка дошло до сервера.
Снимаем дамп
tcpdump -i any -s 0 -w /tmp/cap.pcap 'tcp port 443'
Полезно сразу ограничить фильтр портом и одним адресом клиента — иначе на живом сервере дамп быстро разрастётся.
Что искать
Первый байт записи — 16 (handshake), дальше версия
03 01 и длина записи. Увидев в дампе
16 03 01 07 c0 01 00 07 bc
мы знаем: запись объявлена длиной 0x07c0 = 1984 байта, а доехало,
скажем, 1320. Значит остаток отброшен по дороге, и перебирать настройки клиента
бессмысленно — проблема в пути.
Если до сервера доходят все байты, а ответа нет — смотрите уже не сеть, а конфигурацию сервиса: несовпадение ключей, сертификата или SNI.
Обратный случай тоже информативен: сырые 20 000 байт на тот же порт доходят целиком, а хендшейк обрывается. Значит дело не в MTU и не в потерях, а в содержимом первого пакета.