Смотри, можно с двух сторон рассматривать.

1. Формально. Есть матрица отношения R = [1, 0; 0, 0]. Берем композицию:

R∘R = [1, 0; 0, 0] * [1, 0; 0, 0] = [1, 0; 0, 0].

Получилось то же самое? Транзитивное.

2. По смыслу. Есть множество X из двух элементов x и y. На множестве задано отношение R. Отношение — это просто упорядоченная пара элементов. Отношение R очень простое: (x, x), и матрица простая:

  x y
x 1 0
y 0 0

Можно даже граф нарисовать, где от элемента x будет стрелочка к самому себе, элемент y без стрелочек.

Давай проверять свойства? Отношение рефлексивное, если все элементы множества связаны в отношении с самим собой. У нас выпадает элемент y, у него никаких стрелочек.

Симметричность? Это значит, что если есть стрелочка от a к b, то должна быть и обратная стрелочка. Ну, у нас все просто, в отношении есть только (x, x). Как не меняй их, все то же будет. :)

Транзитивность? Если есть стрелка в графе от a к b и от b к c,  то должна быть и от a к c. В нашем случае все тупо, у нас есть только от x к x. И как не крути, то x всегда к x будет вести.

Человечище, вот ты запарился это набирать, наверное...

Привет!

в octave есть аналогичный пакет?

если f(g(h))(x)=g(x), то f^-1(g(h(x)))=g^-1(x) ?