[AlGol]

Попробуйте еще в настройках конфигурационной утилиты клиента указать вместо имени сервера его ip-адрес.
Instance name можно вообще не указывать, но нужно указать корректный tcp-порт.