Я бы попробовал сначала с клиентской машины сделать
- nslookup
domain.name, чтобы увидеть, как и на каком сервере резолвится имя
- traceroute до DNS сервера, чтобы посмотреть, как идёт трафик.
Возможно, он заворачивается на squid. Трафик на порт 53/UDP, 53/TCP.