Size: a a a

SPb Reliability Meetup

2019 October 04

AC

Alexander 😼 Chistyakov in SPb Reliability Meetup
А в чем сложность?
источник

Е

Егор in SPb Reliability Meetup
Alexander 😼 Chistyakov
"Кэш" в данном случае это постгрес
Ты имеешь ввиду написать свой репликатор?
источник

AC

Alexander 😼 Chistyakov in SPb Reliability Meetup
Егор
Ты имеешь ввиду написать свой репликатор?
Скорее это будет мигратор, но да
источник

AC

Alexander 😼 Chistyakov in SPb Reliability Meetup
Постгрес, в принципе, для data lake подходит так себе
источник

AC

Alexander 😼 Chistyakov in SPb Reliability Meetup
В нем можно только справочники хранить и индексы по тем данным, которые имеет смысл джойнить по реляционным связям
источник

AC

Alexander 😼 Chistyakov in SPb Reliability Meetup
А всякий балк в нем держать - да нафига?
источник

Е

Егор in SPb Reliability Meetup
А вот у нас так и есть
источник

GG

George Gaál in SPb Reliability Meetup
Alexander 😼 Chistyakov
Постгрес, в принципе, для data lake подходит так себе
Оракл ? На нем строят некоторые DWH
источник

GG

George Gaál in SPb Reliability Meetup
А раз так, то и на пг можно
источник

AC

Alexander 😼 Chistyakov in SPb Reliability Meetup
George Gaál
Оракл ? На нем строят некоторые DWH
Оракл это вообще нечто из болотной жижи
источник

Е

Егор in SPb Reliability Meetup
Alexander 😼 Chistyakov
А всякий балк в нем держать - да нафига?
Балк имеется ввиду чтобы сущности для сервисов грузить пачкой, и не ходить в постгрес после этого вообще
источник

AC

Alexander 😼 Chistyakov in SPb Reliability Meetup
Принципиально от постгреса отличие только одно - сильно приятнее  в эксплуатации
источник

E

Etki in SPb Reliability Meetup
Егор
Кто бы ещё время дал синк сложных сущностей из постгреса в такой кеш
ни в одном серьезном проекте нет нормализации данных, есть конечно SSOT, где они могут быть нормализованы, но так-то они всегда размазаны по разным хранилищам и поисковым движкам в разных форматах 😏😏😏
источник

Е

Егор in SPb Reliability Meetup
Etki
ни в одном серьезном проекте нет нормализации данных, есть конечно SSOT, где они могут быть нормализованы, но так-то они всегда размазаны по разным хранилищам и поисковым движкам в разных форматах 😏😏😏
К сожалению у нас нормальный проект и база с клиентскими данными нормализована в усмерть. А отдача рекламы должна работать.
источник

E

Etki in SPb Reliability Meetup
George Gaál
Оракл ? На нем строят некоторые DWH
data warehouse - это структурированные данные, по которым можно свободно гонять запросы в известном домене
data lake - это блевня из лапшистой даты, куда скидывают че попало, и только после процессинга сорцов из data lake образуется data warehouse (а может быть и несколько)
источник

E

Etki in SPb Reliability Meetup
Егор
К сожалению у нас нормальный проект и база с клиентскими данными нормализована в усмерть. А отдача рекламы должна работать.
>  А отдача рекламы должна работать.

вот поэтому их и размазывают
источник

Е

Егор in SPb Reliability Meetup
Etki
>  А отдача рекламы должна работать.

вот поэтому их и размазывают
Вот поэтому мы к этому идём, а пока страдаем потихоньку
источник

AC

Alexander 😼 Chistyakov in SPb Reliability Meetup
Я вообще фиг знает, как вы с вашим поцгресом data locality обеспечиваете
источник

Е

Егор in SPb Reliability Meetup
Сейчас та стадия, когда распиливаем монолитные базы
источник

Е

Егор in SPb Reliability Meetup
И кстати монга тоже есть, огромный кусок вырвали из постгри и засунули в сервис, где сзади монга
источник