b
дык ладно что там больше памяти, ты думаешь ты сможешь достаточно быстро ее загружать?
Size: a a a
2021 August 19
b
я где-то читал что тензорные ядра настолько быстрые, что буквально 90% времени они "простаивают" без дела, ждут VRAM.. 3090 имеет пропускную способность 936 GB/s, это немало. ты уверен что твоя модель и твое железо во время тренировки сможет так быстро выплевывать данные?
b
понимаешь о чем я говорю? какая польза от более мощной карты, если ты реально не можешь утилизировать эту ее мощность. в данном случае горлышком может оказаться кокрастоке скорость оперативной памяти
bx
возьми в аренду за 2 бакса и попробуй нагрузи)
П.с. я без всяких сложностей 2х2080ti загружаю на 99% - просто запускаешь чужие неоптимизированные сетки и готово) Когда эфир майнят - меньше нагружены
П.с. я без всяких сложностей 2х2080ti загружаю на 99% - просто запускаешь чужие неоптимизированные сетки и готово) Когда эфир майнят - меньше нагружены
b
цены кусаютсо!
z
может знает кто, как в markdown сделать пустую строку?
МО
Вроде пробел экранировать надо, через \
KL
что-то не понял проблемы ( в джупитере не настоящий МД ? там без проблем пустая строка делается
b
ааааааа стоп! это 2 доллара за ЧАС? тогда нормально...
b
спасибо попробую этот vast.ai
b
они надежные чуваки? по шкале от 1 до gandi.net
bx
юзаю периодчески. Там минимум надо 10 баксов закинуть на счёт(так было)
b
ну это понятное дело. если я уже буду арендовать rig, то понятно что туда сразу надо 200 баксов заливать... а если языковые модели тренить, то и все 500
b
$500 это всего лишь прокрутить 6x3090 rig недельку. (неполных 7 дней)
bx
я предлагал только посмотреть на скок ты загружаешь эти 3090(и, может, похвастаться тут статистикой)
b
не думаю что я достаточно компетентный чтобы делать такие бенчмарки
bx
nvtop? хотя бы
b
и вводить людей в заблуждение тоже не хочу.. но если буду тренить что–то в ближайшее время, статистикой поделюсь обязательно!
b
интересно сможет ли pytorch дать на этом железе полную загрузку?
b
или нужно кастомный cuda код писать? мордобой на сишке. опять–таки, еще futhark надо потестить