Дмитрий Стародубцев
Как выяснилось, это ожидаемое поведение. Все параметры членства в группе, кроме контейнера, нужно сразу задавать в одной команде и просто поменять один параметр нельзя. Пока так и не получилось добавить UserMailbox вместе с MailUser
Правильный вариант:
Get-DynamicDistributionGroup "testgrp" | Set-DynamicDistributionGroup -RecipientFilter {(RecipientType -eq 'UserMailbox') -and (RecipientType -eq 'MailUser') -and (-not(CustomAttribute1 -eq "EXT"))}