ClickHouse Série de Migração

Execute os dois.
Comprove a paridade. Faça o cutover.

Crie a origem no Elasticsearch, grave logs, traces e métricas ao vivo simultaneamente no ClickHouse Cloud, comprove que os dois sistemas estão de acordo e aposente o Elasticsearch, deixando o ClickStack como única interface de observabilidade.

4 a 6 horas · prático2 cargas ao vivo3 sinais de telemetria10 etapas de migração

Não é uma reindexação. É uma mudança controlada de sistemas.

Copiar documentos é a parte fácil. A migração de verdade substitui data streams, mappings, ILM, pipelines de ingestão, dashboards do Kibana e regras de alerta sem perder os sinais dos quais os operadores dependem.

Este workshop oferece duas cargas ao vivo: o Filebeat enviando três formatos de log e o OpenTelemetry Demo enviando traces, métricas e logs de dezesseis microsserviços por meio do Elastic APM. Você inspeciona o sistema antes de projetar seu substituto.

O cutover é orientado por evidências. Dois OpenTelemetry Collectors distribuem os mesmos eventos para o Elasticsearch e o ClickHouse Cloud enquanto scripts de validação comparam contagens, esquemas, enriquecimento e atualização.

Somente depois que o portão de paridade é aprovado você remove os exporters do Elasticsearch e encerra a stack antiga. O HyperDX então se torna a única interface para busca, dashboards, traces, métricas, alertas e investigação assistida por IA.

O que você leva

A migração inteira, funcionando de ponta a ponta.

Uma origem realista, um destino ClickHouse otimizado e uma decisão de cutover respaldada por medições ao vivo.

01

Uma origem realista como referência

Três data streams do Elasticsearch, quatro pipelines de ingestão, ILM, seis dashboards do Kibana, Elastic APM e dezesseis serviços instrumentados gerando tráfego.

02

Um design ClickHouse orientado pelas consultas

Chaves de ordenação MergeTree escolhidas a partir dos padrões de acesso, atributos flexíveis do OTel mantidos em Map e campos frequentes promovidos a colunas materializadas tipadas.

03

Processamento de ingestão reconstruído explicitamente

Um caminho Null → materialized view → MergeTree com dicionários IP_TRIE, colunas de enriquecimento materializadas, TTL, índices de texto e tabelas de resumo.

04

Uma execução paralela mensurável

Coletores de arquivos e OTLP gravam cada sinal nos dois backends enquanto verificações automatizadas comparam contagens ao vivo e validam GeoIP, gravidade e campos analisados.

05

ClickStack como superfície operacional

Fontes do HyperDX para logs, traces e as cinco tabelas de métricas, além de dashboards, buscas salvas, alertas e um gráfico assistido por IA recriados.

06

Decisões de migração que você pode defender

Cinco traduções de consultas, um ADR com sete decisões, seis exercícios avançados de SQL e uma avaliação baseada em cenários, focada em trade-offs e não em comandos.

O que substitui o quê

data streams + ILMpartições MergeTree + TTL
pipelines de ingestãoMVs + colunas + dicionários
Filebeat / Elastic AgentOpenTelemetry Collector
ECSconvenções semânticas do OTel
transforms do ElasticsearchMVs AggregatingMergeTree
KibanaHyperDX / ClickStack

O percurso · 4 a 6 horas práticas

Cinco módulos, um cutover controlado.

Crie a referência, tome as decisões de design, execute os dois sistemas juntos e remova o backend antigo somente quando as evidências mostrarem que é seguro.

  1. 00

    Instale Docker, o cliente do ClickHouse, curl e jq; escolha execução local ou EC2 para a origem; crie a conta no ClickHouse Cloud e verifique cada artefato.

  2. 01

    Inicie Elasticsearch, Kibana, Filebeat, Elastic APM Server, três geradores de logs e o OpenTelemetry Demo; depois registre uma referência com dados crescentes.

  3. 02

    Inspecione mappings, data streams, pipelines, regras de ciclo de vida e latência das consultas; traduza cinco consultas; depois escreva o esquema de destino e o ADR da migração.

  4. 03

    Provisione o ClickHouse, crie dicionários e tabelas, inicie a gravação dupla, valide a paridade, configure o HyperDX, teste TTL e resumos, migre alertas e faça o cutover.

  5. 04

    Responda a quinze perguntas de múltipla escolha e cinco cenários abertos sobre esquema, planejamento da migração, depuração e trade-offs de alertas.

Autoguiado por padrão. A origem criada no módulo 01 permanece ativa até o módulo 03. Nunca encerre o Elasticsearch antes que os dois scripts de paridade sejam aprovados e as configurações de cutover dos coletores estejam prontas.

Antes de participar

Para quem é e o que levar.

Para quem é público

  • Engenheiros parceiros do ClickHouse e arquitetos de soluções que planejam migrações de observabilidade
  • Equipes substituindo o armazenamento do Elasticsearch sem mudar a instrumentação OpenTelemetry
  • Quem precisa explicar como a paridade é comprovada antes do cutover
  • À vontade com terminal, Docker e SQL — não é necessária experiência anterior operando o ClickHouse

O que levar pré-requisitos

  • Docker 24+ e Compose 2.20+ com 16 GB de RAM disponíveis; 32 GB recomendados
  • O cliente do ClickHouse, curl, jq e uma avaliação do ClickHouse Cloud
  • Terraform 1.5+, uma conta AWS e um par de chaves EC2 somente ao usar a opção de origem remota
  • Pelo menos 5 GB livres em disco para imagens e volumes de contêineres

Como funciona formato

  • 100% prático, com duas cargas de observabilidade em mudança contínua
  • Docker local ou EC2 provisionada pelo Terraform para a origem; ClickHouse Cloud para o destino
  • Uma trilha do participante, notas correspondentes do instrutor, exercícios editáveis e respostas-modelo hospedadas
  • A avaliação final permite consulta e testa o julgamento, não a memorização de comandos

O que este workshop não aborda escopo

  • Reindexação histórica em massa de um cluster Elasticsearch de produção existente
  • Identidade, rede privada, multilocação ou controles de conformidade em produção
  • Planejamento de capacidade de longo prazo ou certificação formal de desempenho
  • As regras de alerta incluídas comprovam o padrão; a integração com o provedor de notificações fica para seu ambiente

Pronto para tornar o cutover mensurável?

Traga uma avaliação do ClickHouse Cloud e uma máquina capaz de executar a stack de origem. Saia com cada subsistema do Elasticsearch mapeado, três sinais ao vivo validados em paralelo e um cutover com plano de reversão que você sabe explicar.

3Logs, traces e métricas validados nos dois backends.
2→1Dois sistemas ao vivo durante a comprovação; um depois do cutover.
20Verificações de conhecimento mais cinco cenários abertos de migração.
PT