3 онлайн-встречи в формате «вопрос-ответ» и отдельный чат
Сертификат
при выполнении от 80% практических заданий и проекта
35 часов практики
Разработчики
Для кого курс
Главная цель — понять концепцию и архитектуру взаимодействия с Kafka. На основе этой базы уже гораздо проще развиваться и взаимодействовать с командой Kafka
Аналитики
Инженеры данных и DevOps-инженеры
В результате курса сможете:
Поймёте основы работы с Kafka и принципы построения архитектуры и бизнес-процессов
Научитесь решать проблемы с системами, требующими отправки/получения большого количества сообщений из разнородных систем
Подготовитесь к вопросам базовых собеседований на уровень пользователя Kafka
Сможете эффективно выстраивать архитектуру на основе асинхронного взаимодействия через Kafka
Поймёте, почему кластер Кафки из 3х нод в 1 ДЦ — это не отказоустойчивое решение
Сможете дебажить продюсеры и консьюмеры для Кафки, написанные практически на любом языке программирования
доступа
года
2
практики
часов
40
теории
часов
тем
9
10
в программе
На курсе:
Итоговый проект
В качестве итогового проекта вы разработаете систему, включающую все инструменты работы с Kafka, найдёте узкие места и примените best practice для оптимизации. Знаний, полученных в ходе разработки итогового задания, будет достаточно, чтобы внедрить Кафку в ваши рабочие проекты.
Бизнес-кейсы, которые будем решать
Каждому продюсеру—по консьюмеру!
Проблема #1. Много команд используют Kafka, каждая команда, не должна читать чужие топики. Нужен механизм управления доступом команд и иметь карту сервисов.
Проблема #4. Несколько брокеров Kafka и других сервисов (schema-registry, AKHQ, rest). Нужно производить работы с брокерами без влияния на пользователей. Желательно перевести Kafka в режим «самообслуживания».
Проблема #2. Критические данные с exactly once processing требованиями. Довольно большие по размеру сервисы с большими сообщениями. Необходимо валидировать схемы, потому что сообщения часто меняются. Kafka одна и используется многими сервисами для обмена.
Проблема #3. Большая нагрузка (40−100К RPS). Критичны потери данных, но exactly once не требуется, какой-то процент потерянных / повторно обработанных сообщений допустим. Много клиентских single tenant кластеров и есть Real time и OLAP-аналитика.
Финтех
Репликация таблиц из MySQL в Oracle
Сайт оператора связи с возможностью онлайн-продаж услуг Интернет и ТВ
Защита от DDoS при обработке API
Единая точка входа в Kafka
Что нужно, чтобы начать учиться?
Понадобятся знания:
Знания Java на базовом уровне
Будет большим плюсом:
Установленные и настроенные среда разработки, git и docker
SQL-баз на базовом уровне
Опыт работы с docker, docker-compose на самом базовом уровне
ОС Linux
Понимание разницы между синхронной и асинхроной архитектурой
Бесплатная консультация по курсу «Apache Kafka для разработчиков»
Получить консультацию оставьте заявку и с вами свяжется наш менеджер
Вводная лекция
Спикеры курса Всеволод Севостьянов и Василий Калугин рассказывают:
Как устроен курс
Как проходят занятия
Какой финальный проект будет ждать вас в конце
Kafka — незаменимый инструмент в крупных проектах
Организация событийной архитектуры, масштабирование потоков данных, балансировка нагрузки баз данных перестанут быть головной болью и отнимать много времени.
Сервисы подписываются только на события, которые им нужны, делая цепочку более надежной. Поэтому Kafka легко масштабируется и не является узким местом системы.
Мы можем отделить сервисы друг от друга, и в таком случае отказ какого-либо из сервисов в цепочке не приведет к отказу всей системы и ошибкам на стороне пользователя
Ускоряет рабочие задачи
Обеспечивает надежность доставляемых данных
Повышает надежность системы в целом
Программа
О курсе
Тема 1
Спикеры курса Всеволод Севостьянов и Василий Калугин рассказывают, как устроен курс, как проходят занятия, чему вы научитесь и какой финальный проект будет ждать вас в конце
Введение в Kafka
Тема 2
Как можно использовать Кафку
Какую проблему решает Kafka
А одна ли Кафка на рынке? Что еще есть?
В чем преимущества Kafka
Основные термины в мире Kafka
Тема 3
Время жизни сообщений
Offset: позиция сообщения в топике
Принципы работы Kafka
Топик -> партиция -> ключ
Producer, Consumer, Consumer-группы
Своя Kafka
Тема 4
Развёртка локальной Kafka на практике
Архитектура Kafka-кластера с Zookeeper
Kafka Brokers -> controller
Репликация данных между нодами
Kafka на практике
Тема 5
Kafka на практике: пример консьюмера для чтения данных из Kafka
Kafka на практике: CLI (Command Line Interface)
Kafka на практике: пример продюсера для оптравки данных в Kafka
Kafka Extendet
Тема 6
Kafka Extendet: Kafka Connect
Kafka Extendet: Schema Registry
ksqlDB
Тема 7
ksqlDB
Kafka Stream API
Бонусный модуль: Best practice
Тема 8
Кейс: единая точка входа в Kafka
Кейс fintech: надёжная вставка данных, highload
Кейс: репликация таблиц из MySQL в Oracle
Кейс: защита от DDOS при обработке API
Итоговый проект
Тема 9
Финальный тест
Проект Kafka для мидла
Вопросы на собеседовании
Тема 10
Разберём частые вопросы о Kafka на собеседованиях
Сертификат
Именной сертификат с индивидуальным номером получает студент, если:
прошёл 80% курса
принимал участие в решении практик, которые входят в курс
успешно сдал итоговое задание/проект/сертификацию.
В случае, если студент изучил 80% курса, но не выполнил или не сдал финальное задание, вместо сертификата выдаётся свидетельство.
Спикеры курса
Всеволод Севостьянов
Staff engineer в Lokalise
Специализируется на построении complex cognitive systems
Команда под его руководством поддерживает multi-tenant клиентский кластер на несколько тысяч компаний
Василий Калугин
Эксперт Kafka, Страховой дом ВСК
4+ года опыта разработки и администрирования геораспределённого кластера Kafka
Подробнее о спикере
Подробнее о спикере
Отвечает за пайплайны и deployment, а также за менторство разработчиков в разрезе CI/CD
Главный виновник расширения зоопарка технологий, а также подхода «Давайте попробуем вон ту штуку»
Создание комьюнити Kafka в компании и регулярные обучения разработчиков
Разработчик курсов и спикер Слёрм
Реализовал IaC для AWX в enterprise
Реализовал IaC для AWX в enterprise
Всеволод Севостьянов
Staff engineer в Lokalise
Специализируется на построении complex cognitive systems
Команда под его руководством поддерживает multi-tenant клиентский кластер на несколько тысяч компаний
Отвечает за пайплайны и deployment, а также за менторство разработчиков в разрезе CI/CD
Главный виновник расширения зоопарка технологий, а также подхода «Давайте попробуем вон ту штуку»
Василий Калугин
Эксперт Kafka, Страховой дом ВСК
4+ года опыта разработки и администрирования геораспределённого кластера Kafka
Создание комьюнити Kafka в компании и регулярные обучения разработчиков
Разработчик курсов и спикер Слёрм
Реализовал IaC для AWX в enterprise
Реализовал IaC для AWX в enterprise
После обучения вы:
Овладеете востребованным на рынке инструментом
Будете быстрее и эффективнее решать рабочие задачи
Сделаете свои приложения более отказоустойчивыми
Почувствуете, насколько легче работать с микросервисами благодаря Kafka
Узнаете о большинстве ошибок, которые совершают начинающие разработчики с Kafka, и не будете их совершать
Получите опыт разработки нескольких приложений, использующих Kafka
Узнаете про типовые шаблоны проектирования
Как купить курс
Видеокурс
Видеоуроки, доступ 2 года
Стенды для практики
Сертификация
в рассрочку на 4 месяца или 70 000 ₽ 55 000 ₽ единовременно
язык Кафки: топики, партиции, продюсеры-консьюмеры, кластер, ноды.
принципы её работы: как работают очереди сообщений, сколько должно быть консьюмеров для эффективной вычитки, как повысить надёжность кластера с помощью репликации данных
как развернуть кластер Кафки на своём ПК с 3 нодами, schema-registry и авторизацией