Я если честно раньше с nginx дел не имел, поэтому туплю немного. Скачал послденюю стабильную версию. Заметил ошибку с msgpuck.h. Скопировал msgpuck файлы в корень third_party и это помогло
In file included from ../nginx_upstream_module-2.5-stable//src/tp_ext.h:40:0,
from ../nginx_upstream_module-2.5-stable//src/tp_transcode.c:41:
../nginx_upstream_module-2.5-stable//third_party/tp.h:10:21: fatal error: msgpuck.h: No such file or directory
#include <msgpuck.h>
^
compilation terminated.
make[1]: * [objs/addon/src/tp_transcode.o] Error 1
make[1]: Leaving directory `/home/ec2-user/nginx-1.12.1'
make: * [build] Error 2