Бессполезная затея. Всё, что ты через java вызываешь всё хукакется;) Даже если ты намутить свою проверку, то уже системные fopen и другое тоже можно хукнуть и подсунуть оригинал сертификата:)
там результат java вызова отдавался в нативный код, где сравнивался с получаемым через рефлексию и определённые части подписи использовались как ключ для расшифровки строк на основе которых генерился ключ