Size: a a a

2021 February 05

D

Dmitry in Data Engineers
Товарищи, расскажите то такое winutils с хадупом для винды ? это какая-то заглушка от хадупа или полноценный ?
источник
2021 February 06

E

El-Yaz in Data Engineers
парни, как можно запринтить контект команды в терминале/в файл в маке? гуглю, но видимо, запрос не правильно формулирую
источник

С

Сергей in Data Engineers
El-Yaz
парни, как можно запринтить контект команды в терминале/в файл в маке? гуглю, но видимо, запрос не правильно формулирую
Что значит "запринтить"?
источник

UR

Uncle Ruckus in Data Engineers
Dmitry
Товарищи, расскажите то такое winutils с хадупом для винды ? это какая-то заглушка от хадупа или полноценный ?
Смотря что считать полноценным. Но жабье приложение которое должно думать, что на машине есть хадуп - так думает
источник

С

Сергей in Data Engineers
cat /some/file | grep "some_filter" >> /to/other/file

что то такое я так понимаю?
источник

UR

Uncle Ruckus in Data Engineers
Спарк например, который почему-то считает, что чтобы писать в какой-нибудь паркет обязательно нужен хадуп
источник

E

El-Yaz in Data Engineers
Сергей
Что значит "запринтить"?
Хороший вопрос)
Есть репка https://github.com/welcoMattic/kymsu
После инсталляции доступна команда 'kymsu'. Вот ее содержимое я и хочу посмотреть)
источник

E

El-Yaz in Data Engineers
Сергей
cat /some/file | grep "some_filter" >> /to/other/file

что то такое я так понимаю?
Не, не содержимое файла, а содержимое, которое упаковано в одной команде)
Если я вообще правильно изъясняюсь))
источник

С

Сергей in Data Engineers
El-Yaz
Не, не содержимое файла, а содержимое, которое упаковано в одной команде)
Если я вообще правильно изъясняюсь))
Ну так тут вместо файла что-то другое может быть, в частности с грепом - тут две команды, как самый ходовой пример, по такому же принципу идёт редирект любого output программы

Некая_команда & >> /some/file

Обычно как-то так делается, с амперсандом
источник

D

Dmitry in Data Engineers
Uncle Ruckus
Смотря что считать полноценным. Но жабье приложение которое должно думать, что на машине есть хадуп - так думает
он может работать в паралель ? я mr джобу подсунул несколько файлов, но вижу что лишь один мапер работает, то же самое с редюсорами, создается столько, сколько файлов сколько я редюсеров попросил, но занято лишь одно ядро
источник

С

Сергей in Data Engineers
El-Yaz
Не, не содержимое файла, а содержимое, которое упаковано в одной команде)
Если я вообще правильно изъясняюсь))
источник

E

El-Yaz in Data Engineers
Так это аутпут в файл(
источник

GP

Grigory Pomadchin in Data Engineers
Dmitry
Товарищи, расскажите то такое winutils с хадупом для винды ? это какая-то заглушка от хадупа или полноценный ?
наверное полноценное, сикнь ссылку; а вообще они обычно не нужны, я не помню чего-то необходимого в навтиных либах
источник

GP

Grigory Pomadchin in Data Engineers
Uncle Ruckus
Спарк например, который почему-то считает, что чтобы писать в какой-нибудь паркет обязательно нужен хадуп
IO спарка абстрагировано через хадуп как минимум ¯\_(ツ)_/¯
источник

D

Dmitry in Data Engineers
Grigory Pomadchin
наверное полноценное, сикнь ссылку; а вообще они обычно не нужны, я не помню чего-то необходимого в навтиных либах
источник

GP

Grigory Pomadchin in Data Engineers
старье какоето) но похоже что прям все настоящее
источник

GP

Grigory Pomadchin in Data Engineers
я только не понимаю зачем оно тебе
источник

D

Dmitry in Data Engineers
Grigory Pomadchin
я только не понимаю зачем оно тебе
я думал mr job без них не запустить
источник

GP

Grigory Pomadchin in Data Engineers
Dmitry
я думал mr job без них не запустить
запустить
источник

D

Dmitry in Data Engineers
правда может это я унаследовал от спарка ощущение
источник