Портируешь алгоритм TEA, сцепляешь блоки, берешь в качестве результата последний. Потом тюнишь внутреннюю функцию и оцениваешь качество хеширования. Только вот зачем?
Читаешь статьи про петлю Фейстеля, алгоритм AES ,свойства симметричных шифров: рассеивание и перемешивание, режимы шифрования. Там не особо много и статей на русском хороших много