Size: a a a

2020 October 29

АА

Алексей Артамонов... in Data Engineers
Andrey Smirnov
так его надо скопировать на все ноды @scooby18
сейчас сделаем
источник

AZ

Anton Zadorozhniy in Data Engineers
кстати я тут еще не спрашивал: а кто что-то использует для k8s на эджах? microk8s, k3s, vanilla?
источник

AZ

Anton Zadorozhniy in Data Engineers
Алексей Артамонов
сейчас сделаем
все что находится в HADOOP_CONF должно быть одинаковым на всех нодах
источник

АА

Алексей Артамонов... in Data Engineers
Алексей Артамонов
сейчас сделаем
сделал, такая же ошибка
источник

АА

Алексей Артамонов... in Data Engineers
вот конфиг на обеих нодах
источник

АА

Алексей Артамонов... in Data Engineers
это когда я юпитерхаб запускаю от рута
источник

AZ

Anton Zadorozhniy in Data Engineers
Алексей Артамонов
это когда я юпитерхаб запускаю от рута
почему от рута?
источник

AZ

Anton Zadorozhniy in Data Engineers
Алексей Артамонов
вот конфиг на обеих нодах
и сделали рестарт всех сервисов после?
источник

АА

Алексей Артамонов... in Data Engineers
Алексей Артамонов
@dartov вот такая сейчас ошибка, в core-site.xml я добавил следующие:
<property>
 <name>hadoop.proxyuser.jupyterhub.hosts</name>
 <value>*</value>
</property>
<property>
 <name>hadoop.proxyuser.jupyterhub.groups</name>
 <value>*</value>
</property>


и сделал hdfs dfsadmin -refreshNodes
ну когда от jupyterhub запускаю, вот это ошибка
источник

AZ

Anton Zadorozhniy in Data Engineers
просто рут в хадуп сервисах не имеет каких-то особенных привилегий
источник

SS

Sergey Sheremeta in Data Engineers
господа инженеры! как вы миритесь с петониздами-сотониздами?
пусть пишут свою математику на петоне, а вы потом при продукционализации пайплайна переписываете на scala/java?
или все вот эти Apache Arrow?
источник

ME

Max Efremov in Data Engineers
Sergey Sheremeta
господа инженеры! как вы миритесь с петониздами-сотониздами?
пусть пишут свою математику на петоне, а вы потом при продукционализации пайплайна переписываете на scala/java?
или все вот эти Apache Arrow?
А пайспарк как же?)
источник

AS

Andrey Smirnov in Data Engineers
Sergey Sheremeta
господа инженеры! как вы миритесь с петониздами-сотониздами?
пусть пишут свою математику на петоне, а вы потом при продукционализации пайплайна переписываете на scala/java?
или все вот эти Apache Arrow?
у нас да, Apache Arrow (да и как тут перепишешь все эти pytorch и т.д.)
источник

AE

Alexey Evdokimov in Data Engineers
Sergey Sheremeta
господа инженеры! как вы миритесь с петониздами-сотониздами?
пусть пишут свою математику на петоне, а вы потом при продукционализации пайплайна переписываете на scala/java?
или все вот эти Apache Arrow?
а я вот переписываю. но у нас её во-первых немного, а во-вторых оно сильно CPU-bound и скорость расчёта самый бизнес-критичный параметр.
источник

AS

Andrey Smirnov in Data Engineers
Alexey Evdokimov
а я вот переписываю. но у нас её во-первых немного, а во-вторых оно сильно CPU-bound и скорость расчёта самый бизнес-критичный параметр.
у вас видимо нет нейронок?
источник

AE

Alexey Evdokimov in Data Engineers
слава яйцам, и не предвидится
источник

AE

Alexey Evdokimov in Data Engineers
а вообще, уже выдумали нейронки, которые можно повторить и доказать?
источник

AS

Andrey Smirnov in Data Engineers
Alexey Evdokimov
а вообще, уже выдумали нейронки, которые можно повторить и доказать?
что значит повторить и доказать?
источник

AZ

Anton Zadorozhniy in Data Engineers
Alexey Evdokimov
а вообще, уже выдумали нейронки, которые можно повторить и доказать?
в смысле explainable?
источник

AA

Anton Alekseev in Data Engineers
может все проще и речь про фиксацию сида?:)
источник