Size: a a a

Чат конференции HighLoad++

2020 September 11

p

ppavel in Чат конференции HighLoad++
источник
2020 September 15

N

Nikolay in Чат конференции HighLoad++
Кому интересно обсуждать дизайн систем. Например такие вопросы ,как сделать систему аналогичную google docs или TikTok ,то создал группу для этого @system_design_ru.  Если тут нельзя такие сообщения оставлять , то извиняюсь. Но это не реклама. Мы тут все свои )
источник

PD

Phil Delgyado in Чат конференции HighLoad++
А чем существующие группы по архитектуре не подошли, зачем еще одна?
источник

A

Aleksandr in Чат конференции HighLoad++
Phil Delgyado
А чем существующие группы по архитектуре не подошли, зачем еще одна?
А можно пару ссылок на существующие?
источник

PD

Phil Delgyado in Чат конференции HighLoad++
https://t.me/itarchitect
https://t.me/microservices_ru
Ну и там уже можно дальше спрашивать про более конкретные чатики (по данным, по безопасности и т.п.)
источник

AE

Alexey Er in Чат конференции HighLoad++
Пфф.. То архитектура, а тут Дизайн!
источник

PD

Phil Delgyado in Чат конференции HighLoad++
Ну, архитектура шире, но системная архитектура от дизайна ничем, вроде бы, не отличается.
источник
2020 September 16

m

mc in Чат конференции HighLoad++
Приветствую коллеги!

Такой вопрос. Какая база данных подходит по хранение grid данных?

Наша компания занимается метеоданными. Есть апи которые по запрашиваемой координате отдает метеопараметры в точке: температуру, осадки, давление и тд. И отдает прогноз по этим параматрам на несколько суток вперед. Нагрузка с каждым месяцем растет. Простое чтение из файлов уже не справляется. Данные хранятся в grid-файлах. Изучаем возможность складывать данные в БД для быстрого доступа. Хотим сделать кластер на основе выбранного решения, поэтому БД должна поддерживать высокую доступность (репликация, шардирование, партицирование). Рассматриваем такие варианты: PostGIS, ScyllaDB, GeoMessa. Но уверенности нет ни в одном. Может кто-то имел дело с похожей задачей, буду благодарен за советы.
источник

ДШ

Дмитрий Шанцер... in Чат конференции HighLoad++
На первый взгляд по описанию Postgres + PostGIS решают бизнес задачу. Вам останется в рамках postgres настроить "шардирование, партиционирование". В плане работы со spatial данными вам нужно будет просто создать индексы под ваши запросы и они будут быстро работать.
источник

PD

Phil Delgyado in Чат конференции HighLoad++
А НФТ какие? Сколько данных, какие профили выборки, частота запросов и т.п.
Все от этого зависит.
источник

IM

Ivan Merkulov in Чат конференции HighLoad++
да самые интересные вопросы не озвученны
источник

S

Sherzod in Чат конференции HighLoad++
Добрый день, господа, посоветуйте какую-нибудь литературу, статьи по highload архитектуре, best practices и др
источник

AK

Alex Krash in Чат конференции HighLoad++
Sherzod
Добрый день, господа, посоветуйте какую-нибудь литературу, статьи по highload архитектуре, best practices и др
Загуглите доклады Highload прошлых лет, и смотрите как сериальчик.
источник

S

Sherzod in Чат конференции HighLoad++
Alex Krash
Загуглите доклады Highload прошлых лет, и смотрите как сериальчик.
Спасибо за идею, но хотелось бы текстовой версии, т.к. видео доклады занимают много времени
источник

AK

Alex Krash in Чат конференции HighLoad++
Sherzod
Спасибо за идею, но хотелось бы текстовой версии, т.к. видео доклады занимают много времени
Онтико на Хабр расшифровки постит. С раскадровкой слайдов + видео.
источник

PD

Phil Delgyado in Чат конференции HighLoad++
Но лучшие доклады - не всегда полезные и правильные.
источник
2020 September 17

EY

Evgeny Yuryev in Чат конференции HighLoad++
Sherzod
Добрый день, господа, посоветуйте какую-нибудь литературу, статьи по highload архитектуре, best practices и др
вот неплохая репа с основными понятиями и кучей ссылок на реальные архитектуры: https://github.com/donnemartin/system-design-primer
источник
2020 September 18

rd

rus dacent in Чат конференции HighLoad++
источник

SA

Sergey Astakhov in Чат конференции HighLoad++
источник
2020 September 21

AL

Andrey Lepikhov in Чат конференции HighLoad++
mc
Приветствую коллеги!

Такой вопрос. Какая база данных подходит по хранение grid данных?

Наша компания занимается метеоданными. Есть апи которые по запрашиваемой координате отдает метеопараметры в точке: температуру, осадки, давление и тд. И отдает прогноз по этим параматрам на несколько суток вперед. Нагрузка с каждым месяцем растет. Простое чтение из файлов уже не справляется. Данные хранятся в grid-файлах. Изучаем возможность складывать данные в БД для быстрого доступа. Хотим сделать кластер на основе выбранного решения, поэтому БД должна поддерживать высокую доступность (репликация, шардирование, партицирование). Рассматриваем такие варианты: PostGIS, ScyllaDB, GeoMessa. Но уверенности нет ни в одном. Может кто-то имел дело с похожей задачей, буду благодарен за советы.
Я как раз занимаюсь шардированием в постгресе, могу я позадавать уточняющие вопросы в личке?
источник