в формулировке задачи на сайте написано, что нужно только 1 и 0, тогда логично accuracy. если вопреки этому все же принимаются не целые значения, то логичнее RMSE и надо поменять формулировку. и добавить всем попытку на сегодня! по-моему, так. :)
Мы просмотрели 120+ присланных решений, из них видно, что все ориентировались на accuracy (0vs1), поэтому самым лучшим вариантом кажется просто поменять метрику и пересчитать по ней решения, тем более что top в этом случае останется неизменным