Size: a a a

2019 June 03

A

Alex in Data Engineers
@krivdathetriewe webhdfs + knox
источник

GG

George Gaál in Data Engineers
фишка в том, что ты кормишь реквайрементс. Они обычно по алфавиту. у тебя какой-нибудь nmslib, который зависит от pybind11
источник

GG

George Gaál in Data Engineers
угадай что и в каком порядке ставится
источник

GG

George Gaál in Data Engineers
Uncel Duk
ну типичная боль, любая либа с нативными зависимостями
+100
источник

A

Alex in Data Engineers
Uncel Duk
ну типичная боль, любая либа с нативными зависимостями
с нативными насколько помню только condo поможет, но и то не всегда
источник

UD

Uncel Duk in Data Engineers
ну типа тензорфлоу
источник

UD

Uncel Duk in Data Engineers
воркс он май машин, а прод на каком-нибудь центосе6
источник

GG

George Gaál in Data Engineers
Alex
с нативными насколько помню только condo поможет, но и то не всегда
ты легко можешь въехать в ту же проблему, что и с нативными пакетами питон для операционки (apt install, yum install)
источник

UD

Uncel Duk in Data Engineers
или нампу, для сборки которого нужен компилятор фортрана
источник

GG

George Gaál in Data Engineers
нампи обычно из вилов ставится. Но если ставится из исходников. Проще застрелиться
источник

UD

Uncel Duk in Data Engineers
ну или докер образ в пару гигов 🙂
источник

A

Alex in Data Engineers
у нас второе =)
источник

GG

George Gaál in Data Engineers
нампи и прочее говно, по-моему, в 800МБ вписать можно
источник

A

Alex in Data Engineers
докер образы
источник

GG

George Gaál in Data Engineers
тензорфлоу - да, + еще фиг знает скольок. Итого образы по 1.5-2-5ГиБ
источник

GG

George Gaál in Data Engineers
Alex
докер образы
это не решает полностью проблему с зависимостями.  А только проблему с повторяемостью и засиранием хостовой системы
источник

K

KrivdaTheTriewe in Data Engineers
Alex
@krivdathetriewe webhdfs + knox
Pyarrow
источник

A

Alex in Data Engineers
эм, а каким боком pyarrow к доступу на hdfs?
источник

GG

George Gaál in Data Engineers
источник

GG

George Gaál in Data Engineers
но оно как-то не так взлетало
источник