Я хочу вот такой большой код сделать в отдельном файле, но тогда я не смогу обращаться к уже созданной модели GameBoardModel в главном файле
Зачем тебе для кнопок mouseArea? Не понял про какую ты gameModel, тут вроде нет ее. А вообще сделай в отдельном файле и вынеси нужные вещие через проперти