(PORTB & ~PORTB_DATA_MASK) - этим вы сохраняете, что там записано в остальных битах | (num<<1 & PORTB_DATA_MASK) - а этим записываете только те биты, которые используются для вывода числа
(PORTB & ~PORTB_DATA_MASK) - этим вы сохраняете, что там записано в остальных битах | (num<<1 & PORTB_DATA_MASK) - а этим записываете только те биты, которые используются для вывода числа