Size: a a a

2019 August 05

RI

Rustam Iksanov in Data Engineers
есть hdp 2.3, есть spark job'а которая складывает данные через phoenix. job'a работает, а результата нет. При этом ошибок никаких она не отображает. Куда копать?
источник

R

Roman in Data Engineers
Попробовать расширить логирование до дебага.
Или подебажить локально.
источник

НК

Николай Корсаков in Data Engineers
Anton Zadorozhniy
не все же гугл, фейсбук, или сбербанк РФ
А что не так с последним?)
источник

AZ

Anton Zadorozhniy in Data Engineers
Николай Корсаков
А что не так с последним?)
С ним все прекрасно, это очень крупная организация которой PostgreSQL в качестве аналитического движка подойдет только для очень узких задач (по-моему такой был мой поинт)
источник

S

Stanislav in Data Engineers
Anton Zadorozhniy
я видел хранилище на два терабайта данных, по всем правилам, нормально работает на постгре
кто сказал платон, никто не говорил? )
вроде у них самый больше постгре
источник

K

Kirill M in Data Engineers
У чела в чате по гринпламу есть постгре на петабайт. Он рассказывал про него
источник
2019 August 06

OP

O. Petr in Data Engineers
Kirill M
У чела в чате по гринпламу есть постгре на петабайт. Он рассказывал про него
Переносили хд петабайтное из пг в гп как раз, да оно может существовать, но основные запросы у аналитиков по паре часов занимали )
источник

В

Вадим in Data Engineers
O. Petr
Переносили хд петабайтное из пг в гп как раз, да оно может существовать, но основные запросы у аналитиков по паре часов занимали )
на какой срез то? Какой обьем?
источник

OP

O. Petr in Data Engineers
Вадим
на какой срез то? Какой обьем?
Хах, извините, но на порядки ошибся, на 20 терабайт, геоданные за 2 года, партиции по дням, день 30гб. А так вроде у поисковых гигантов до 2010 были подобные системы на петабайты.
источник

A

Alex in Data Engineers
20тб vs 1пб =) а народ уже весь собрался слушать про петабайты
источник

K

Kirill M in Data Engineers
Это не тот чел)
источник

AR

Andrey RRR in Data Engineers
у студии Pixar сорцы одного мультипликационного фильма - 5 петабайт
источник

AR

Andrey RRR in Data Engineers
разговаривал с чуваком который для них специальную файловую систему пропиетарную писал
источник

В

Вадим in Data Engineers
Andrey RRR
у студии Pixar сорцы одного мультипликационного фильма - 5 петабайт
а есть что нибудь где можно почитать про это?
источник

AR

Andrey RRR in Data Engineers
Не, нутрянка
источник

ПФ

Паша Финкельштейн in Data Engineers
https://twitter.com/asm0di0/status/1158637959119278081
quill намного удобнее чем frameless и работает лучше. Но вс равно не работет 😊
источник

K

KrivdaTheTriewe in Data Engineers
но это всё равно что удивляться что в джаве типы стираются на этапе компиляции
источник

K

KrivdaTheTriewe in Data Engineers
всегда есть rdd api
источник

ПФ

Паша Финкельштейн in Data Engineers
KrivdaTheTriewe
но это всё равно что удивляться что в джаве типы стираются на этапе компиляции
Не, это как писать sql руками
источник

ПФ

Паша Финкельштейн in Data Engineers
И потом удивляться что не работает
источник