Size: a a a

2019 July 17

A

Alex in Data Engineers
Он отработает батч быстро, дальше будет ждать следующей итерации
источник

Н

Никита in Data Engineers
Всем привет, у нас cloudera 5.10. Поставлен Sqoop 1.99.5.
На ноде, там где он установлен, cli такой же как у Sqoop 1.
Когда ставим клиент на своей тачке, cli как у Sqoop 2, очень не удобный.

Вопрос: как поставить клиент от Sqoop 1?
источник

AZ

Anton Zadorozhniy in Data Engineers
Никита
Всем привет, у нас cloudera 5.10. Поставлен Sqoop 1.99.5.
На ноде, там где он установлен, cli такой же как у Sqoop 1.
Когда ставим клиент на своей тачке, cli как у Sqoop 2, очень не удобный.

Вопрос: как поставить клиент от Sqoop 1?
источник

Н

Никита in Data Engineers
не, у нас стоит Sqoop2, но cli у него, как у sqoop 1
да вот так
источник

Н

Никита in Data Engineers
источник

AB

Alexey Belov in Data Engineers
Никита
Всем привет, у нас cloudera 5.10. Поставлен Sqoop 1.99.5.
На ноде, там где он установлен, cli такой же как у Sqoop 1.
Когда ставим клиент на своей тачке, cli как у Sqoop 2, очень не удобный.

Вопрос: как поставить клиент от Sqoop 1?
Может вопрос немного в сторону, а Вам точно нужен 1.99.5, а не 1.4.6 или 1.4.7? Цитата: Latest stable release is 1.4.7 (download, documentation). Latest cut of Sqoop2 is 1.99.7 (download, documentation). Note that 1.99.7 is not compatible with 1.4.7 and not feature complete, it is not intended for production deployment.
https://sqoop.apache.org/
источник

Н

Никита in Data Engineers
Да, к сожалению, cloudera 5.10 позволяет только эту версию поставить
источник

AB

Alexey Belov in Data Engineers
Никита
Да, к сожалению, cloudera 5.10 позволяет только эту версию поставить
У нас 5.14.2, там в поставке идёт 1.4.6 с патчами Cloudera. http://archive.cloudera.com/cdh5/cdh/5/sqoop-1.4.6-cdh5.14.2.releasenotes.html
источник

AB

Alexey Belov in Data Engineers
В 5.8.3 аналогично, скорее всего в 5.10 тоже.
источник

Н

Никита in Data Engineers
я просто шокирован тем, что на тачке, где он установлен я могу написать:
sqoop import --connect jdbc:postgresql://0.0.0.0.0.0.0.0:000/mydb --table company --username myuser --password mypass --target-dir /user/asd/asd

а на своей тачке ставлю apt get sqoop2-client
и там совсем другой шелл
источник

SK

Sergey Kabanov in Data Engineers
Никита
я просто шокирован тем, что на тачке, где он установлен я могу написать:
sqoop import --connect jdbc:postgresql://0.0.0.0.0.0.0.0:000/mydb --table company --username myuser --password mypass --target-dir /user/asd/asd

а на своей тачке ставлю apt get sqoop2-client
и там совсем другой шелл
попробуйте собрать из исходников
источник

Н

Никита in Data Engineers
вот так и делаю сейчас, больно ппц
источник

AZ

Anton Zadorozhniy in Data Engineers
Никита
не, у нас стоит Sqoop2, но cli у него, как у sqoop 1
да вот так
сервис Sqoop 1 client вроде и дает обычный скуп, вы его можете добавить?
источник

Н

Никита in Data Engineers
Alexey Belov
В 5.8.3 аналогично, скорее всего в 5.10 тоже.
источник

Н

Никита in Data Engineers
Anton Zadorozhniy
сервис Sqoop 1 client вроде и дает обычный скуп, вы его можете добавить?
Лично у меня нет, мб прав не хватает и не вижу
источник

AZ

Anton Zadorozhniy in Data Engineers
надо быть Full Admin
источник

神風 in Data Engineers
Всем привет. Использовал ли кто-нибудь snakeyaml в своих spark джобах? Встречались ли с ошибкой парсинга по причине class not found exception?
источник

OB

Oleg Basmanov in Data Engineers
Всем привет. Ребят, скажите такой курс стоящий для становления дата инженером? https://otus.ru/lessons/data-engineer/
источник

В

Вадим in Data Engineers
Полно ведь курсов на udemy.  За что деньги то платить?
источник

DZ

Dmitry Zuev in Data Engineers
Вадим
Полно ведь курсов на udemy.  За что деньги то платить?
Школа жизни, школа капитанов
источник