Да, надо плагин, чтобы он по факту каждого "положения в корзину", запускал проверку. И, если итоговое количество превышает количество в параметре quantity, то уменьшал бы количество до quantity, при этом, например, выводил бы сообщение над корзиной о том, что такой-то товар уменьшен в количестве.