"Хабр квартерионы" полно статей
Насчет вращения я бы для "разобраться" сделал кубик на экране, вертикальный и горизонтальный ползунки иои даже тупо поля ввода значений меняющие нужный показатель квартериона или угол эйлера и добился того что оно крутит как надо. Влево вправо и вверх вниз. Потом элементарно будет поменять ползунки на ввод данных с motion event от пальца.
Останется проблема с третьей осью, как ее пальцами крутить, как до этого дойдет, заходи, придумаем.
А вооюще для юнити отдельный чат есть