в общем, надо собрать воедино: сервер на хостинге и клиента на esp, у клиента жестко зашитый сертификат сервера, меж собой должны делать криптованниое соединение, это все как framework для своих IoT конструкций
Из модуля crypto можно стянуть encrypt и hmac, но это все ещё не защищает от replay-атак. В TLS это решается тем, что каждый раз генерируется сессионный ключ.
Footprint sizes (compiled binary size) for wolfSSL range between 20-100kB depending on build options and the compiler being used. Typically on an embedded system with an embedded and optimized compiler, build sizes will be around 60kB. This will include a full-featured TLS 1.2 client and server.