실시간 데이터 파이프라인 아키텍처
도서명:실시간 데이터 파이프라인 아키텍처
저자/출판사:앤드류 살티스/비제이퍼블릭
쪽수:260쪽
출판일:2023-01-25
ISBN:9791165921941
목차
1부 완전히 새로운 접근법
1장 스트리밍 데이터 소개
1.1 실시간 시스템이란
1.2 실시간 시스템과 스트리밍 시스템의 차이점
1.3 스트리밍 데이터 아키텍처
1.4 스트리밍 시스템의 보안
1.5 서비스를 확장하는 방법
1.6 정리
2장 클라이언트에서 데이터 가져오기: 데이터 수집
2.1 일반적인 통신 패턴
2.1.1 요청/응답 패턴
2.1.2 요청/확인응답 패턴
2.1.3 발행/구독 패턴
2.1.4 단방향 패턴
2.1.5 스트림 패턴
2.2 통신 패턴 확장하기
2.2.1 요청/응답 파생 패턴
2.2.2 스트림 패턴 확장하기
2.3 내결함성
2.3.1 RBML
2.3.2 SBML
2.3.3 HBL
2.4 상용환경에 적용하기
2.5 정리
3장 수집 단계에서 데이터 전송: 데이터 파이프라인 분리
3.1 메시지 큐 단계가 필요한 이유
3.2 핵심 개념
3.2.1 프로듀서, 브로커, 컨슈머
3.2.2 프로듀서와 컨슈머의 격리
3.2.3 메시지의 지속적 저장
3.2.4 메시지 전달 시맨틱
3.3 보안
3.4 장애 허용
3.5 비즈니스 요구사항들에 주요 개념을 적용해 보기
3.6 정리
4장 스트리밍 데이터 분석
4.1 인플라이트 데이터 분석 이해하기
4.2 분산 스트림 프로세싱 아키텍처
4.3 스트림 프로세싱 프레임워크의 핵심 기능들
4.3.1 메시지 전달 시맨틱
4.4 정리
5장 데이터 분석을 위한 알고리즘
5.1 제약 조건 확인 및 완화
5.2 시간에 대한 생각
5.2.1 슬라이딩 윈도우
5.2.2 텀블링 윈도우
5.3 취합 기술들
5.3.1 랜덤 샘플링
5.3.2 데이터 개수 카운트
5.3.3 빈도
5.3.4 멤버십
5.4 정리
6장 분석 또는 수집한 데이터 저장
6.1 장기 스토리지가 필요한 경우
6.2 인메모리 저장소에 저장하기
6.2.1 인메모리/플래시 메모리 기반 데이터베이스
6.2.2 캐싱 시스템
6.2.3 인메모리 데이터베이스와 인메모리 데이터 그리드
6.3 활용 사례 살펴보기
6.3.1 세션 내 개인화 서비스
6.3.2 차세대 에너지 회사
6.4 정리
7장 데이터를 접근 가능하도록 만들기
7.1 네트워크 통신 패턴
7.1.1 데이터 동기화
7.1.2 RMI와 RPC
7.1.3 심플 메시징
7.1.4 발행 - 구독
7.2 클라이언트에 데이터를 전달하는 프로토콜 방식
7.2.1 웹훅
7.2.2 HTTP 롱풀링
7.2.3 SSE
7.2.4 웹소켓
7.3 스트림 필터링
7.3.1 어디서 필터링을 할 것인가
7.3.2 정적 필터링 vs 동적 필터링
7.4 실전 예제 : Meetup RSVP 스트리밍 API 만들기
7.5 정리
8장 컨슈머 디바이스에서 데이터 접근 시 가능성과 한계
8.1 핵심 개념
8.1.1 클라이언트의 읽기 속도가 빠를 경우
8.1.2 데이터 처리 상태 관리
8.1.3 데이터 유실 줄이기
8.1.4 정확히 한 번으로 처리
8.2 실제로 만들어보기: SuperMediaMarket
8.3 웹 클라이언트 소개
8.3.1 스트리밍 API 서버와 통합
8.4 SQL 쿼리 적용
8.5 정리
2부 스트리밍 데이터 아키텍처 구현하기
9장 실시간으로 Meetup RSVP 분석하기
9.1 수집 단계
9.1.1 수집 단계 애플리케이션 데이터 흐름
9.2 메시지 큐 단계
9.2.1 카프카 설정 및 설치
9.2.2 수집 단계 애플리케이션과 카프카 연동
9.3 분석 단계
9.3.1 카프카와 연동하는 스톰 설치
9.3.2 상위 N개의 데이터를 추출하는 스톰 토폴로지 작성
9.3.3 분석 단계 통합
9.4 인메모리 데이터 저장소
9.5 데이터 접근 단계
9.5.1 상용 환경에 적용하기
9.6 정리
