Size: a a a

ClickHouse не тормозит

2019 December 05

DC

Denny Crane (I don't... in ClickHouse не тормозит
Wolf Kreuzerkrieg
Это невероятная херня, ни я (ну у меня опыт с ЗК нулевой) ни девопы не могут понять что ему не так, по логам ничего не понять
зукипер простой как палка, у меня аптайм у нод зукипера по 4 года, это самая надежная вещь на этой планете, после заббикса.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Wolf Kreuzerkrieg
а что там со снепшотами? я предполагаю они довольно жирные будут
размер базы зукипера зависит от прямоты ваших рук. От размера базы КХ почти не зависит.
источник

AP

Alexander Petrov in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
зукипер простой как палка, у меня аптайм у нод зукипера по 4 года, это самая надежная вещь на этой планете, после заббикса.
Протестую! У нас админы заббикс сами ломают, а вот зукипер не смогли ещё завалить хоть и пытались 😀
источник

WK

Wolf Kreuzerkrieg in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
зукипер простой как палка, у меня аптайм у нод зукипера по 4 года, это самая надежная вещь на этой планете, после заббикса.
хм... а какая у тебя версия? древняя какая то, раз аптайм 4 года? может в этом и дело?
источник

WK

Wolf Kreuzerkrieg in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
зукипер простой как палка, у меня аптайм у нод зукипера по 4 года, это самая надежная вещь на этой планете, после заббикса.
насчет прямоты рук, поподробнее плиз, мы то сами ничего с ним не делаем, там КХ что то пишет и пишет, мы тут причем?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Olga Daykhovskaya
>напрямую можно новой функцие input , которая позволяет в insert
INSERT INTO example SELECT id, ifNull(num, -1) FROM input('id UInt32, num Nullable(Int32)') format JSONEachRow {"id": 1, "num": null};

А если
столбец типа AggregateFunction?
create table mv_z_store(a date, max_b AggregateFunction(MAX,Int64)) ENGINE = AggregatingMergeTree Partition by toYYYYMM(a) order by a;
INSERT INTO mv_z_store SELECT a, maxState(b) FROM input('a Date, b Int64') group by a format CSV "2019-12-05",1
INSERT INTO mv_z_store SELECT a, maxState(b) FROM input('a Date, b Int64') group by a format Values ('2019-12-05',1);
источник

ДС

Дарья Стрюк... in ClickHouse не тормозит
Всем привет! Кто-нибудь знает, можно ли в clickhouse сделать map для массива? нужно выбрать из массива элементы, которые удовлетворяют некоторым условиям
источник

AP

Alexander Petrov in ClickHouse не тормозит
Дарья Стрюк
Всем привет! Кто-нибудь знает, можно ли в clickhouse сделать map для массива? нужно выбрать из массива элементы, которые удовлетворяют некоторым условиям
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Wolf Kreuzerkrieg
хм... а какая у тебя версия? древняя какая то, раз аптайм 4 года? может в этом и дело?
не в этом. Сколько памяти у сервера? Это выделенный сервер? ЗК и кликхауз нельзя ставить вместе
Ищите OOM в линуксе sudo dmesg | tail
источник

RG

Rodion Gorbachev in ClickHouse не тормозит
Wolf Kreuzerkrieg
насчет прямоты рук, поподробнее плиз, мы то сами ничего с ним не делаем, там КХ что то пишет и пишет, мы тут причем?
Скорее всего про бомбу замедленного действия - читали ? https://clickhouse.yandex/docs/ru/single/#zookeeper
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Wolf Kreuzerkrieg
насчет прямоты рук, поподробнее плиз, мы то сами ничего с ним не делаем, там КХ что то пишет и пишет, мы тут причем?
Вы задаете партиционирование и регулируете правильность (по партициям) и частоту инсертов
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
ну место на диске кончится, при чем падения зукипера?
источник

OD

Olga Daykhovskaya in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
create table mv_z_store(a date, max_b AggregateFunction(MAX,Int64)) ENGINE = AggregatingMergeTree Partition by toYYYYMM(a) order by a;
INSERT INTO mv_z_store SELECT a, maxState(b) FROM input('a Date, b Int64') group by a format CSV "2019-12-05",1
INSERT INTO mv_z_store SELECT a, maxState(b) FROM input('a Date, b Int64') group by a format Values ('2019-12-05',1);
Вариант, попробую
Спасибо
источник

ДС

Дарья Стрюк... in ClickHouse не тормозит
Да, спасибо!)
источник

WK

Wolf Kreuzerkrieg in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
не в этом. Сколько памяти у сервера? Это выделенный сервер? ЗК и кликхауз нельзя ставить вместе
Ищите OOM в линуксе sudo dmesg | tail
32Г, 16vCPU, выделенные машины, кластер из трех. сколько надо? если надо больше, поставим больше, не вопрос
источник

RG

Rodion Gorbachev in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
ну место на диске кончится, при чем падения зукипера?
Что-то я действительно сегодня - много предполагаю.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Дарья Стрюк
Всем привет! Кто-нибудь знает, можно ли в clickhouse сделать map для массива? нужно выбрать из массива элементы, которые удовлетворяют некоторым условиям
SELECT arrayStringConcat(arrayMap(i -> x[-i], arrayEnumerate(extractAll('Misha', '.') AS x)))
┌─z─────┐
│ ahsiM │
└───────┘
источник

ДС

Дарья Стрюк... in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
SELECT arrayStringConcat(arrayMap(i -> x[-i], arrayEnumerate(extractAll('Misha', '.') AS x)))
┌─z─────┐
│ ahsiM │
└───────┘
спасибо!))
источник

WK

Wolf Kreuzerkrieg in ClickHouse не тормозит
видели, место было, 78% диска было свободно
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Wolf Kreuzerkrieg
32Г, 16vCPU, выделенные машины, кластер из трех. сколько надо? если надо больше, поставим больше, не вопрос
32ГБ достаточно. Единственное что у меня настроено -Xms8g
Смотрите размер снепшота в момент заливки, может у вас вылетает за 32ГБ и надо тогда разбираться почему

еще echo mntr|nc localhost 2181 показывает размер базы в  zk_approximate_data_size
источник