Size: a a a

2021 January 30

A

Alex in Data Engineers
Смотря какой, например этот питона не требует

https://github.com/almond-sh/almond
источник

A

Alex in Data Engineers
Да и вообще большинство кернелов что я знаю на других языках нативно протокол jupyter реализуют
источник

A

Alex in Data Engineers
Он достаточно простой
источник

K

KrivdaTheTriewe in Data Engineers
там есть кстати некотыре проблемы с скалой старой
источник

K

KrivdaTheTriewe in Data Engineers
2.11
источник

K

KrivdaTheTriewe in Data Engineers
Но с третьим спарком оно ушло )
источник

A

Alex in Data Engineers
Просто про протокол я знаю, так как делал jupyter gateway на java, так как питоновский egw не скейлится =/
источник

AZ

Anton Zadorozhniy in Data Engineers
KrivdaTheTriewe
А вы как делаете
накат через CD или через SDK (с регистрацией в сервисе метаданных)
источник

K

KrivdaTheTriewe in Data Engineers
Anton Zadorozhniy
накат через CD или через SDK (с регистрацией в сервисе метаданных)
прям написан скрипт на баше  , который проверяет есть ли топик, если нет, то создает,  или меняет количество партиций?
источник

AZ

Anton Zadorozhniy in Data Engineers
KrivdaTheTriewe
прям написан скрипт на баше  , который проверяет есть ли топик, если нет, то создает,  или меняет количество партиций?
почему на баше, такие скрипты на груви обычно пишутся, они и схемы регистрируют; а SDK уже на яве или скале, это просто часть клиента
источник

A

Alex in Data Engineers
Anton Zadorozhniy
накат через CD или через SDK (с регистрацией в сервисе метаданных)
Отдельный сервис который трекает конфиг и при появлении конфигурации в гите накатывает на серверах
источник

K

KrivdaTheTriewe in Data Engineers
Anton Zadorozhniy
почему на баше, такие скрипты на груви обычно пишутся, они и схемы регистрируют; а SDK уже на яве или скале, это просто часть клиента
выглядит хорошо, а у вас специально выделенный человек этим занимается, датаинженер или опс какой?
источник

AZ

Anton Zadorozhniy in Data Engineers
KrivdaTheTriewe
выглядит хорошо, а у вас специально выделенный человек этим занимается, датаинженер или опс какой?
я вижу это со стороны консалтинга, у клиентов обычно платформенная команда (которые я как раз консультировал), она отвечает за весь тулинг, в ней есть и опсы и обычные разработчики
источник

AZ

Anton Zadorozhniy in Data Engineers
иногда бывают вертикально интегрированные команды, но по моему опыту это скорее редкость (хотя другие люди могут считать иначе)
источник

K

KrivdaTheTriewe in Data Engineers
ну то есть это обычно чисто команда которая тулингом занимается?
источник

AZ

Anton Zadorozhniy in Data Engineers
тулингом, всякими побочными сервисами вроде аудита, опсом платформ
источник

AZ

Anton Zadorozhniy in Data Engineers
это две разные модели: горизонтальная, когда у вас есть инфра команда, платформенные команды, и команды приклада; вертикальная, где внутри сервиса есть и платформенные люди и приклад, а тулинг они через какие-нибудь трайбы делят между собой (но там всегда много велосипедизма)
источник

A

Alex in Data Engineers
Команды по тулингу могут быть разные

Для месаейджинга одна
Для хадуп другая и тд

В зависимости от размера компании
источник

AZ

Anton Zadorozhniy in Data Engineers
да, все так, платформенных команд много может быть
источник

AZ

Anton Zadorozhniy in Data Engineers
(еще может за МРР команда быть 😊)
источник