[Kafka] 2. 카프카 시스템 및 배우는 순서

  1. Kafka 이론
  2. Kafka 클러스터
    • 분산 스트리밍 플랫폼으로써, 여러 대의 브로커를 구성한 클러스터
  3. Kafka 브로커
    • 프카 클라이언트와 데이터를 주고받기 위해 사용하는 주체이자, 데이터를 분산 저장하여 장애가 발생하더라도 안전하게 사용할 수 있도록 도와주는 애플리케이션이다
  4. Kafka 프로듀서
    •  메시지를 생산(produce)해서 카프카의 토픽으로 메시지를 보내는 역할을 하는 애플리케이션, 서버 등을 모두 프로듀서라고 부른다. 
  5. Apache Zookeeper
    • 분산 코디네이션 서비스를 제공하는 오픈소스 프로젝트로 직접 어플리케이션 작업을 조율하는 것을 쉽게 개발할 수 있도록 도와주는 도구
  6. Kafka 크래프트 모드
    • KRaft 모드는 이전 컨트롤러를 대체하고 Raft 합의 프로토콜의 이벤트 기반 변형을 사용하는 Kafka의 새로운 쿼럼 컨트롤러 서비스
  • 추가 요소
    • Conduktor – 그래픽 UI를 통해 Kafka 활용하는 방법 (모니터링 및 관리 툴)
    • Kafka Connect
      • 이터베이스, 키-값 저장소, 검색 인덱스 및 파일 시스템 간의 간단한 데이터 통합을 위한 중앙 집중식 데이터 허브 역할을 하는 Apache Kafka의 무료 오픈소스 구성요소
    • Kafka Streams
      •  Kafka Streams는 입력 스트림의 파티션 개수만큼 태스크를 생성하고 각 스트림의 파티션은 카프카의 토픽 파티션에 저장된 정렬된 메시지
    • Confluent Schema Registry
      • RESTful 인터페이스를 사용하여 스키마(Schema)를 관리하거나 조회하는 기능을 제공
    • Kafka Architectrue
      • 카프카 클러스터를 중심으로 프로듀서와 컨슈머가 데이터를 push하고 pull하는 구조