Да.

telnet на порт проходит с проблемной машины ?

всё на одной машине. Да по этим портам конектится.

что в логах при этом ?

той же самбы

А можно подробней? Я настраивал по инструкции REDOS по сути первый раз сталкиваюсь с продуктом.

[2021/02/09 15:57:27.348170,  2] ../source4/dsdb/kcc/kcc_periodic.c:785(kccsrv_samba_kcc)
 Calling samba_kcc script
[2021/02/09 15:57:27.531611,  0] ../lib/util/util_runcmd.c:327(samba_runcmd_io_handler)
 /usr/sbin/samba_kcc: ldb_wrap open of secrets.ldb
[2021/02/09 15:57:27.728538,  3] ../lib/util/util_runcmd.c:291(samba_runcmd_io_handler)
 samba_runcmd_io_handler: Child /usr/sbin/samba_kcc exited 0
[2021/02/09 15:57:27.728674,  3] ../source4/dsdb/kcc/kcc_periodic.c:770(samba_kcc_done)
 Completed samba_kcc OK
[2021/02/09 15:59:17.596578,  3] ../lib/ldb-samba/ldb_wrap.c:332(ldb_wrap_connect)
 ldb_wrap open of secrets.ldb
[2021/02/09 15:59:26.928526,  1] ../source4/lib/tls/tls_tstream.c:1439(tstream_tls_retry_handshake)
 TLS ../source4/lib/tls/tls_tstream.c:1439 - An unexpected TLS packet was received.
[2021/02/09 15:59:26.928700,  3] ../source4/smbd/service_stream.c:67(stream_terminate_connection)
 stream_terminate_connection: Terminating connection - 'ldapsrv_accept_tls_loop: tstream_tls_accept_recv() - 5:Input/output error'
[2021/02/09 15:59:41.558440,  3] ../lib/ldb-samba/ldb_wrap.c:332(ldb_wrap_connect)
 ldb_wrap open of secrets.ldb
[2021/02/09 15:59:59.716712,  3] ../source4/smbd/service_stream.c:67(stream_terminate_connection)
 stream_terminate_connection: Terminating connection - 'ldapsrv_call_loop: tstream_read_pdu_blob_recv() - NT_STATUS_INVALID_BUFFER_SIZE'

An unexpected TLS packet was received.

Это telnet или предыдущий вопрос был к попыткам DogTag подключить?

Ну если по инструкции, то я её точно не видел. Могу только выдвигвать гипотезы.

это из лога

попробовать не пользовать LDAPS

и прикрутить к LDAP

I’ve been playing with dogtag and I just cannot get it to play nicely with samba. I suspect it’s an ldap schema thing.

может оно с самбой и не дружит?

нашел мануал с 389 Directory server

Конфиги идентичны как в этой инструкции:
https://redos.red-soft.ru/server-configuring/domain-config/install-samba-dc/

Угу я таких тоже нашел)) Только заказчик хочет SambaAD + Dogtag... Ярость тысячи солнц!!
И это при том что рядом FreeIPA

С уже всем готовым.