Size: a a a

ClickHouse не тормозит

2019 November 22

d

divinus in ClickHouse не тормозит
Yuri Velgosha
Репликация с чем? Если речь про удаленные сервера, то у них обычно есть конкретный внешний IP, который и надо вайтлистить на фиревале.
так-то оно так, но если есть встроенный функционал ограничения странно сверху обкладывать дополнительными фильтрами
источник

I

Ilya K. in ClickHouse не тормозит
Илья Ионов
Проще писать
так пишите в distributed (если без этого совсем никак, лучше так не делать), а MV локально выполнят все, что нужно
источник

ИИ

Илья Ионов in ClickHouse не тормозит
Ilya K.
а зачем делать поверх distributed? не проще ли сделать на каждом сервере по MV и поверх MV distributed?
Вот об этом думал, вроде ок, но разве дистр раюботает с мв?
источник

YV

Yuri Velgosha in ClickHouse не тормозит
divinus
так-то оно так, но если есть встроенный функционал ограничения странно сверху обкладывать дополнительными фильтрами
Встроенные функционал - это поддержка BigData, а все эти ограничения по юзверям - от лукавого.  Поэтому никогда не стоит полагаться на встроенную в софт функционал фиревала, а юзать именно специализированное для таких задач ПО в виде iptables, или аппаратных файрволов. Ну или же через VPN прокидывать доступ..
Вот, тот же RDP от M$ долгое время считался очень надежным, но и его умудрились взломать.
источник

АР

Андрей Рудин... in ClickHouse не тормозит
Кем, у меня тоже база наружу смотрит, default запароленные конечно, но это тоже дело времени, как вариант наверное может быть менять номер порта, или если доступ нужен к базе делать какой нибудь сервер vpn и файрвол настроить только на этот ip и уже через него подключаться
источник

I

Ilya K. in ClickHouse не тормозит
Илья Ионов
Вот об этом думал, вроде ок, но разве дистр раюботает с мв?
так distributed это просто интерфейс, данные пишутся в локальные таблицы. Настраиваете MV на работу с локальными таблицами и все работает
источник

ИИ

Илья Ионов in ClickHouse не тормозит
Да, это подходит, спасибо!
источник

YK

Yuri Kudryavtsev in ClickHouse не тормозит
ребят привет, подскажите пожалуйста каким макаром сделать реплицированные таблицы

есть 3 зукипера, 3 ноды клика, если я делаю вот такой запрос то shard будет 01 например
а реплики создаются на каждой ноде свой, так?

то есть например

node1 =
       {shard} = 01
       {replica} = 01
node1 =
       {shard} = 01
       {replica} = 02
node1 =
       {shard} = 01
       {replica} = 03


CREATE TABLE ontime_replica (...)
ENGINE = ReplicatedMergeTree(
   '/clickhouse_perftest/tables/{shard}/ontime',
   '{replica}',
   FlightDate,
   (Year, FlightDate),
   8192);
источник

R

Relan in ClickHouse не тормозит
Привет. А кто пользуется clickhouse_sinker? Покидайте пожалуйста конфигурацией, ни как не могу разобраться как сделать несколько CH серверов. И еще как вы с него снимаете метрики?
источник

S

Shazo in ClickHouse не тормозит
Yuri Kudryavtsev
ребят привет, подскажите пожалуйста каким макаром сделать реплицированные таблицы

есть 3 зукипера, 3 ноды клика, если я делаю вот такой запрос то shard будет 01 например
а реплики создаются на каждой ноде свой, так?

то есть например

node1 =
       {shard} = 01
       {replica} = 01
node1 =
       {shard} = 01
       {replica} = 02
node1 =
       {shard} = 01
       {replica} = 03


CREATE TABLE ontime_replica (...)
ENGINE = ReplicatedMergeTree(
   '/clickhouse_perftest/tables/{shard}/ontime',
   '{replica}',
   FlightDate,
   (Year, FlightDate),
   8192);
на первый взгляд да. при создании будут использоваться значения из подстановок.

можете при создании указать create table <name> ON CLUSTER <cluster_name>, чтобы сразу на всех хостах в кластере создать. Описание кластере должно быть в config.xml
источник

S

Shazo in ClickHouse не тормозит
Yuri Kudryavtsev
ребят привет, подскажите пожалуйста каким макаром сделать реплицированные таблицы

есть 3 зукипера, 3 ноды клика, если я делаю вот такой запрос то shard будет 01 например
а реплики создаются на каждой ноде свой, так?

то есть например

node1 =
       {shard} = 01
       {replica} = 01
node1 =
       {shard} = 01
       {replica} = 02
node1 =
       {shard} = 01
       {replica} = 03


CREATE TABLE ontime_replica (...)
ENGINE = ReplicatedMergeTree(
   '/clickhouse_perftest/tables/{shard}/ontime',
   '{replica}',
   FlightDate,
   (Year, FlightDate),
   8192);
и лучше переделать на новый вариант создания таблиц. старый считается устаревшим.
источник

YK

Yuri Kudryavtsev in ClickHouse не тормозит
Shazo
на первый взгляд да. при создании будут использоваться значения из подстановок.

можете при создании указать create table <name> ON CLUSTER <cluster_name>, чтобы сразу на всех хостах в кластере создать. Описание кластере должно быть в config.xml
 INFO  [ProcessThread(sid:2 cport:-1)::PrepRequestProcessor@596] - Got user-level KeeperException when processing sessionid:0x300000172900002 type:multi cxid:0x5c09 zxid:0x600002630 txntype:-1 reqpath:n/a aborting remaining multi ops. Error Path:/clickhouse_perftest/tables/01/ontime/blocks/199210_17286640932121004034_17547501169326405991 Error:KeeperErrorCode = NodeExists for /clickhouse_perftest/tables/01/ontime/blocks/199210_17286640932121004034_17547501169326405991
источник

YK

Yuri Kudryavtsev in ClickHouse не тормозит
вот такое получаю в зукипере
источник

S

Shazo in ClickHouse не тормозит
данные при этом реплицируются?
источник

S

Shazo in ClickHouse не тормозит
Yuri Kudryavtsev
вот такое получаю в зукипере
в вашем сообщение только всех хосты имели название node1, опечатка и там node1, node2 и node3?
источник

YK

Yuri Kudryavtsev in ClickHouse не тормозит
Shazo
данные при этом реплицируются?
нет
источник

YK

Yuri Kudryavtsev in ClickHouse не тормозит
Shazo
в вашем сообщение только всех хосты имели название node1, опечатка и там node1, node2 и node3?
не понял
источник

S

Shazo in ClickHouse не тормозит
Yuri Kudryavtsev
не понял
node1 = 
       {shard} = 01
       {replica} = 01
node1 =
       {shard} = 01
       {replica} = 02
node1 =
       {shard} = 01
       {replica} = 03



везде node1
источник

YK

Yuri Kudryavtsev in ClickHouse не тормозит
ну да это опечатка
источник

YK

Yuri Kudryavtsev in ClickHouse не тормозит
они по нормальному называются
источник