Size: a a a

Чат подкаста «Разбор Полётов»

2021 March 05

SB

Sergei Beilin in Чат подкаста «Разбор Полётов»
Alexey Abashev
А я правильно понимаю что кафка говно в роли брокера воркеров? Где сообщения простые типа start=SomeClass
Ну надо более детально задачу смотреть :) и вообще -> #pro.kafka
источник

AA

Alexey Abashev in Чат подкаста «Разбор Полётов»
Sergei Beilin
Ну надо более детально задачу смотреть :) и вообще -> #pro.kafka
Да куда уж детальнее 😌 у нас tdd - telegram driven development
источник

VG

Vik Gamov in Чат подкаста «Разбор Полётов»
Alexey Abashev
А я правильно понимаю что кафка говно в роли брокера воркеров? Где сообщения простые типа start=SomeClass
Много есть вопросов
- какие требования по latency/throughput
- размеры сообщения
- какой паттерн доставки
источник

AR

Andrei Rebrov in Чат подкаста «Разбор Полётов»
источник

AA

Alexey Abashev in Чат подкаста «Разбор Полётов»
Vik Gamov
Много есть вопросов
- какие требования по latency/throughput
- размеры сообщения
- какой паттерн доставки
сейчас есть сервис, который в гугловый pubsub кидает таски типа start=SomeClass и эти сообщения разлетаются по воркерам, которые на такую команду начинают усиленно жевать данные.
Но товарищи же наслушаются херни всякой на конференциях - а давайте не будем за гугл платить, а поставим кафку и воркеры будут прям топики читать и типа у нас будет only-once
источник

SB

Sergei Beilin in Чат подкаста «Разбор Полётов»
Alexey Abashev
сейчас есть сервис, который в гугловый pubsub кидает таски типа start=SomeClass и эти сообщения разлетаются по воркерам, которые на такую команду начинают усиленно жевать данные.
Но товарищи же наслушаются херни всякой на конференциях - а давайте не будем за гугл платить, а поставим кафку и воркеры будут прям топики читать и типа у нас будет only-once
У меня есть такой кейс в проде.
источник

SB

Sergei Beilin in Чат подкаста «Разбор Полётов»
Воркеры эти статус работ также отправляют обратно в кафку
источник

J🎩

JBáruch 🎩 in Чат подкаста «Разбор Полётов»
какая-то хуйня.
источник

AA

Alexey Abashev in Чат подкаста «Разбор Полётов»
Sergei Beilin
У меня есть такой кейс в проде.
а масштабируется заведением новых топиков и вешаньем воркеров на них?
источник

SB

Sergei Beilin in Чат подкаста «Разбор Полётов»
Alexey Abashev
а масштабируется заведением новых топиков и вешаньем воркеров на них?
Воркеров.
источник

AA

Alexey Abashev in Чат подкаста «Разбор Полётов»
Sergei Beilin
Воркеров.
а как они все один топик читают?
источник

SB

Sergei Beilin in Чат подкаста «Разбор Полётов»
Alexey Abashev
а как они все один топик читают?
Партиций с запасом ;)
источник

AA

Alexey Abashev in Чат подкаста «Разбор Полётов»
Sergei Beilin
Партиций с запасом ;)
а если надо увеличить?
источник

A

Anton in Чат подкаста «Разбор Полётов»
Alexey Abashev
сейчас есть сервис, который в гугловый pubsub кидает таски типа start=SomeClass и эти сообщения разлетаются по воркерам, которые на такую команду начинают усиленно жевать данные.
Но товарищи же наслушаются херни всякой на конференциях - а давайте не будем за гугл платить, а поставим кафку и воркеры будут прям топики читать и типа у нас будет only-once
А что правильно использовать как триггер систему? Если отвязаться от сервисов гугла, и взять осс
источник

AA

Alexey Abashev in Чат подкаста «Разбор Полётов»
Anton
А что правильно использовать как триггер систему? Если отвязаться от сервисов гугла, и взять осс
ну я вот на пульсар смотрю
источник

A

Anton in Чат подкаста «Разбор Полётов»
Alexey Abashev
А я правильно понимаю что кафка говно в роли брокера воркеров? Где сообщения простые типа start=SomeClass
А почему кстати?
источник

AA

Alexey Abashev in Чат подкаста «Разбор Полётов»
Anton
А почему кстати?
ну типа идея, что много входящих потоков сливаются во что, что можно усиленно жевать. А когда в одну дудку читают маленькие сообщения, то получается неэффективно
источник

PD

Phil Delgyado in Чат подкаста «Разбор Полётов»
Alexey Abashev
а если надо увеличить?
200k мало?
источник

AA

Alexey Abashev in Чат подкаста «Разбор Полётов»
Phil Delgyado
200k мало?
200k чего?
источник

PD

Phil Delgyado in Чат подкаста «Разбор Полётов»
партиций
источник