Как уменьшить MPP-кластер и перенести Spark в Kubernetes: программа конференции ArenaTech

29 октября 2026 года команда Технической дирекции Arenadata приглашает вас на конференцию про работу с большими данными ArenaTech. 

Что меняется в Hadoop-стеке при переезде в Kubernetes? Как закрывать CVE после окончания поддержки Postgres? Можно ли уменьшить MPP-кластер и при этом сохранить равномерное распределение данных? И как найти ответ в документации большой платформы, если даже не знаешь, как правильно сформулировать запрос?

На ArenaTech технические специалисты Arenadata расскажут, как решают эти задачи в своих продуктах, с какими ограничениями сталкиваются и какие решения приходится разрабатывать самостоятельно.

Конференция состоит из трёх частей. Первая будет посвящена Arenadata DB (ADB) и open-source проекту Greengage DB. Вторая — про Arenadata Hyperwave (ADH), Kubernetes, безопасность. В третьей части речь пойдет о разработке технической документации Arenadata, в том числе об умном поиске и AI-ассистенте. 

Программа мероприятия

  • Дмитрий Плужников, CTO Arenadata, откроет конференцию и задаст технологический контекст: над какими задачами сейчас работают продуктовые команды Arenadata и в каких направлениях планируют двигаться дальше.

  • Андрей Шитов, Директор Департамента разработки облачных решений и сервисов Arenadata, расскажет о главных рисках при управлении секретами на кластере ADH. В деталях разберёт задачу внедрения и имплементации сервиса OpenBao (форк HashiCorp Vault с открытым исходным кодом) в подсистему безопасности платформы. Продемонстрирует лучшие практики при использовании единого хранилища паролей и сертификатов.

  • Пётр Федченков, Ведущий системный архитектор ADH.Cloud в Arenadata, расскажет, какие есть плюсы при запуске Impala, Trino и Spark в Kubernetes, а с какими компромиссами вам придётся мириться. В докладе будут затронуты темы применения Kerberos аутентификации при запуске расчётов над k8s, приведены и обоснованы схемы архитектуры управления автоскейлингом подов при запуске расчётов, описаны необходимые доработки Spark, Celeborn и YuniKorn для эффективной работы кластера.

  • Дарья Барышева, Директор Департамента технической документации и контента, расскажет, о том, как развивалась техническая документация в Arenadata на протяжении последних 5 лет, какие принципы и процессы используются для ее разработки и почему.

  • Дмитрий Воронков, Директор Департамента разработки ядра платформы данных Arenadata, расскажет про планы по развитию ADB и Greengage, покажет на демо имеющиеся наработки, в том числе режим hot standby в Greengage DB. К слову, в блоге Greengage DB недавно вышла его новая статья из цикла про резервирование кластера Greengage DB (части 1, 2, 3).

  • Василий Иванов, Руководитель отдела разработки ADB/Greengage DB в Arenadata, разберет, что происходит с безопасностью продуктов на базе Greenplum после остановки развития open source-версии. Покажет, как эту задачу решают в Greengage DB и какую роль в закрытии уязвимостей играет версия PostgreSQL в основе продукта.

  • Андрей Савицкий, Ведущий системный архитектор ADB/Greengage DB в Arenadata, и Александр Кондаков, Инженер ADB/Greengage DB в Arenadata, сделают обзор ggrebalance – утилиты, с которой теперь можно не только расширять кластер, но и уменьшать число сегментов или заменять хосты, сохраняя равномерное распределение данных. Об этой утилите вы могли читать в блоге Greengage DB (части 1, 2, 3).

  • Сергей Тихомиров, Инженер по разработки документации Arenadata, разберет кейс, как разрабатывались умный поиск и ИИ-ассистент на сайтах документации: с какими проблемами пришлось столкнуться в процессе реализации и как они были устранены.

  • Владимир Елагин, Технический менеджер продукт ADCM, расскажет про развитие продукта: новые возможности автоматизации, массовые операции с хостами и управление крупными кластерами.

Кому будет интересно

Разработчикам, инженерам данных, DBA, DevOps/SRE, архитекторам и техническим руководителям, которые работают с системами хранения и обработки данных.

Доклады будут полезны не только тем, кто использует продукты Arenadata: можно посмотреть на технические решения продуктовых команд, разрабатывающих платформы данных, сравнить подходы со своим стеком и разобраться, что из этого опыта применимо к вашим собственным задачам.

29 октября в 12:00 по московскому времени, онлайн.

Зарегистрироваться на конференцию ArenaTech

Источник: habr.com

0 0 голоса
Рейтинг новости
1
0
Подписаться
Уведомить о
0 комментариев