S
Будет в 30 раз быстрее? Или в 10?
Size: a a a
2020 February 18
AZ
Сравнение тренировки на одной машине с одной видяхой против тренировки той же сети на тех же данных но на 30 таких же машинах
это наверное не про kubeflow а в целом про распределенный тренинг tf, нет?
S
это наверное не про kubeflow а в целом про распределенный тренинг tf, нет?
ну да) про него
AZ
ну да) про него
если данных мало и все помещается в память одной машины - распределенный не даст линейного прироста, если данных очень много - распределенное обучение будет выгоднее
S
линейного не даст, это понятно) я как раз за эту просадку и хотел узнать, насколько там далеко от линейного прироста
S
но да, данные помещаються в память пода, то есть датасет небольшой
AZ
хоровод обещает близкое к линейному скейлингу, эстиматоры там https://towardsdatascience.com/distributed-tensorflow-using-horovod-6d572f8790c4
AZ
(сам хоровод не использовал)
S
спасибо за линк 👍 то шо нада
2020 February 19
V
у меня есть ярая идея люто бешено наделать мелких таблиц и каждую партицию спарковскую туда сливать
Если вы не единственный пользователь комплекса, а его нагрузка близка к максимуму допустимого - эта идея самая правильная
V
А если есть две-три терадаты)))
V
Лить в менее загруженую, джойнить на второй
V
Разумеется с tdqg между
OT
Всем привет! 27 февраля в Москве будет митап по DE, можно ли кидать в этом чате ссылки и будет ли вам интересна эта инфа?
K
Кидайте
AZ
Vasiliy
Если вы не единственный пользователь комплекса, а его нагрузка близка к максимуму допустимого - эта идея самая правильная
это в смысле что фастлоад сессий может нехватать?
V
В смысле что надо контролировать нагрузку на комплекс. Когда он большую часть времени нагружен на 90+ в гипотетической системе.
Это ж не виртуальная сферическая инсталляция в вакууме
Это ж не виртуальная сферическая инсталляция в вакууме