Size: a a a

2019 July 20

O

Oleg in Data Engineers
Sergey Pechenko
Это вполне решаемый вопрос:
https://askubuntu.com/questions/14328/where-can-i-look-up-my-update-history

Все обновы записаны в файл, необновы вроде там же должны быть.
спасибо поизучаю
источник
2019 July 22

p

panda in Data Engineers
kik ego
источник

YI

Yukari I in Data Engineers
Откуда они лезут
источник

EA

Evgeny A in Data Engineers
Подскажите пожалуйста, можно ли в jmx console выдавать собранную информацию (например по http) только определенно интересующие меня данные? (а не весь лог)
источник

EA

Evgeny A in Data Engineers
вернее настроить jmx consloe что бы app по jmx выдавал то что мне нужно
источник

АЖ

Андрей Жуков in Data Engineers
А вот кто знает,  зачем и по какой причине приложения (например,  Spark) идут в hdfs по 50020 порту?
Вроде это ipc-порт. Или я что-то плохо понимаю в топологии hdfs?
источник

A

Alex in Data Engineers
А по какому им ходить ещё?
источник

АЖ

Андрей Жуков in Data Engineers
Alex
А по какому им ходить ещё?
50010 же
источник

АЖ

Андрей Жуков in Data Engineers
50020 ipc и вроде как interal metadata
источник

A

Alex in Data Engineers
50010 Дататрансфер
А short path read как делать? Когда там почти все на уровне метаданных прогоняется и потом сокет на руках
источник

АЖ

Андрей Жуков in Data Engineers
Alex
50010 Дататрансфер
А short path read как делать? Когда там почти все на уровне метаданных прогоняется и потом сокет на руках
Хм,  я думал,  им датанода сообщает. Ну,  таки неверно понял топологию
источник

АЖ

Андрей Жуков in Data Engineers
Что забавно,  месяц работало по 50010,  и не жаловалось :)
источник

A

Alex in Data Engineers
Не сообщает, иначе было бы нарушение безопасности.

Там условно обмен метаданных и потом датаноде открывается файл только на чтение и через доменный сокет на этой машине клиенту перекидывается этот файлдескриптор
источник

АЖ

Андрей Жуков in Data Engineers
Alex
Не сообщает, иначе было бы нарушение безопасности.

Там условно обмен метаданных и потом датаноде открывается файл только на чтение и через доменный сокет на этой машине клиенту перекидывается этот файлдескриптор
Ага,  спасибо,  стало яснее
источник
2019 July 23

СХ

Старый Хрыч in Data Engineers
кстати а пульсар юзает уже в проде кто?
источник

SU

Sergey Ufimtsev in Data Engineers
Всем привет!!! Есть табличка ключ-значение в 7гб, необходимо джоинить всё, что придет из кафки по ключу. Куда можно будет выгрузить эту табличку в imdb какую нить, чтоб джоинило быстро), имеется спарк, поэтому видимо в нем.
источник

K

KrivdaTheTriewe in Data Engineers
а где табличка
источник

K

KrivdaTheTriewe in Data Engineers
ну вот в плане того,что если kv распредленное, то джойнить будет быстро
источник

SU

Sergey Ufimtsev in Data Engineers
Вопрос в том какое kv выбрать с которым спарк быстрее будет джоинить или туда выгружать для джоина если быстрее будет)
источник

СХ

Старый Хрыч in Data Engineers
Sergey Ufimtsev
Вопрос в том какое kv выбрать с которым спарк быстрее будет джоинить или туда выгружать для джоина если быстрее будет)
scylladb
источник