大数据系统构建 可扩展实时数据系统构建原理与最佳实践2025|PDF|Epub|mobi|kindle电子书版本百度云盘下载

大数据系统构建 可扩展实时数据系统构建原理与最佳实践PDF格式电子书版下载

注意：本站所有压缩包均有解压码： 点击下载压缩包解压工具

第1章 大数据的新范式1

1.1 本书是如何组织的2

1.2 扩展传统数据库3

1.2.1 用队列扩展3

1.2.2 通过数据库分片进行扩展4

1.2.3 开始处理容错问题4

1.2.4 损坏问题5

1.2.5 到底是哪里出错了5

1.2.6 大数据技术是如何起到帮助作用的5

1.3 NoSQL不是万能的6

1.4 基本原理6

1.5 大数据系统应有的属性7

1.5.1 鲁棒性和容错性7

1.5.2 低延迟读取和更新8

1.5.3 可扩展性8

1.5.4 通用性8

1.5.5 延展性8

1.5.6 即席查询9

1.5.7 最少维护9

1.5.8 可调试性9

1.6 全增量架构的问题10

1.6.1 操作复杂性10

1.6.2 实现最终一致性的极端复杂性11

1.6.3 缺乏容忍人为错误12

1.6.4 全增量架构解决方案与Lambda架构解决方案13

1.7 Lambda架构14

1.7.1 批处理层15

1.7.2 服务层16

1.7.3 批处理层和服务层满足几乎所有属性16

1.7.4 速度层17

1.8 技术上的最新趋势19

1.8.1 CPU并不是越来越快20

1.8.2 弹性云20

1.8.3 大数据充满活力的开源生态系统20

1.9 示例应用：SuperWebAnalytics.com21

1.10 总结22

第一部分 批处理层24

第2章 大数据的数据模型24

2.1 数据的属性25

2.1.1 数据是原始的28

2.1.2 数据是不可变的30

2.1.3 数据是永远真实的33

2.2 基于事实的数据表示模型34

2.2.1 事实的示例及属性34

2.2.2 基于事实的模型的优势36

2.3 图模式39

2.3.1 图模式的元素39

2.3.2 可实施模式的必要性40

2.4 SuperWebAnalytics.com的完整数据模型41

2.5 总结42

第3章 大数据的数据模型：示例44

3.1 为什么使用序列化框架44

3.2 Apache Thrift45

3.2.1 节点46

3.2.2 边46

3.2.3 属性47

3.2.4 把一切组合成数据对象47

3.2.5 模式演变48

3.3 序列化框架的局限性49

3.4 总结50

第4章 批处理层的数据存储51

4.1 主数据集的存储需求52

4.2 为批处理层选择存储方案53

4.2.1 使用键／值存储主数据集53

4.2.2 分布式文件系统54

4.3 分布式文件系统是如何工作的54

4.4 使用分布式文件系统存储主数据集56

4.5 垂直分区58

4.6 分布式文件系统的底层性质58

4.7 在分布式文件系统上存储SuperWebAnalytics.com的主数据集60

4.8 总结61

第5章 批处理层的数据存储：示例62

5.1 使用HDFS62

5.1.1 小文件问题64

5.1.2 转向更高层次的抽象64

5.2 使用Pail在批处理层存储数据65

5.2.1 Pail基本操作66

5.2.2 序列化对象到Pail中67

5.2.3 使用Pail进行批处理操作69

5.2.4 使用Pail进行垂直分区69

5.2.5 Pail文件格式与压缩71

5.2.6 Pail优点的总结71

5.3 存储SuperWebAnalytics.com的主数据集72

5.3.1 Thrift对象的结构化Pail73

5.3.2 SuperWebAnalytics.com的基础Pail74

5.3.3 用于垂直分区数据集的分片Pail75

5.4 总结78

第6章 批处理层79

6.1 启发性示例80

6.1.1 给定时间范围内的页面浏览量80

6.1.2 性别推理80

6.1.3 影响力分数81

6.2 批处理层上的计算82

6.3 重新计算算法与增量算法84

6.3.1 性能85

6.3.2 容忍人为错误86

6.3.3 算法的通用性86

6.3.4 选择算法的风格87

6.4 批处理层中的可扩展性87

6.5 MapReduce：一种大数据计算的范式88

6.5.1 可扩展性89

6.5.2 容错性91

6.5.3 MapReduce的通用性92

6.6 MapReduce的底层特性94

6.6.1 多步计算很怪异94

6.6.2 手动实现连接非常复杂94

6.6.3 逻辑和物理执行紧密耦合96

6.7 管道图——一种关于批处理计算的高级思维方式97

6.7.1 管道图的概念97

6.7.2 通过MapReduce执行管道图101

6.7.3 合并聚合器101

6.7.4 管道图示例102

6.8 总结103

第7章 批处理层：示例104

7.1 一个例证105

7.2 数据处理工具的常见陷阱106

7.2.1 自定义语言107

7.2.2 不良的可组合抽象107

7.3 JCascalog介绍108

7.3.1 JCascalog的数据模型109

7.3.2 JCascalog查询的结构110

7.3.3 查询多个数据集111

7.3.4 分组和聚合器113

7.3.5 对一个查询示例进行单步调试114

7.3.6 自定义谓词操作117

7.4 组合121

7.4.1 合并子查询122

7.4.2 动态创建子查询123

7.4.3 谓词宏125

7.4.4 动态创建谓词宏128

7.5 总结130

第8章 批处理层示例：架构和算法131

8.1 SuperWebAnalytics.com批处理层的设计132

8.1.1 所支持的查询132

8.1.2 批处理视图132

8.2 工作流概述135

8.3 获取新数据137

8.4 URL规范化137

8.5 用户标识符规范化138

8.6 页面浏览去重142

8.7 计算批处理视图142

8.7.1 给定时间范围内的页面浏览量143

8.7.2 给定时间范围内的独立访客143

8.7.3 跳出率分析144

8.8 总结145

第9章 批处理层示例：实现147

9.1 出发点147

9.2 准备工作流148

9.3 获取新数据149

9.4 URL规范化152

9.5 用户标识符规范化153

9.6 页面浏览去重159

9.7 计算批处理视图159

9.7.1 给定时间范围内的页面浏览量159

9.7.2 给定时间范围内的独立访客161

9.7.3 跳出率分析163

9.8 总结165

第二部分 服务层168

第10章 服务层概述168

10.1 服务层的性能指标169

10.2 规范化／非规范化问题的服务层解决方案172

10.3 服务层数据库的需求173

10.4 设计SuperWebAnalytics.com的服务层174

10.4.1 给定时间范围内的页面浏览量175

10.4.2 给定时间范围内的独立访客175

10.4.3 跳出率分析176

10.5 对比全增量的解决方案177

10.5.1 给定时间范围内的独立访客的全增量方案177

10.5.2 与Lambda架构解决方案的比较182

10.6 总结183

第11章 服务层：示例184

11.1 ElephantDB的基本概念184

11.1.1 ElephantDB中的视图创建185

11.1.2 ElephantDB中的视图服务185

11.1.3 使用ElephantDB186

11.2 创建SuperWebAnalytics.com的服务层188

11.2.1 给定时间范围内的页面浏览量188

11.2.2 给定时间范围内的独立访客数量191

11.2.3 跳出率分析191

11.3 总结192

第三部分 速度层194

第12章 实时视图194

12.1 计算实时视图195

12.2 存储实时视图197

12.2.1 最终一致性198

12.2.2 速度层中存储的状态总量198

12.3 增量计算的挑战199

12.3.1 CAP原理的有效性199

12.3.2 CAP原理和增量算法之间复杂的相互作用201

12.4 异步更新与同步更新202

12.5 过期实时视图203

12.6 总结205

第13章 实时视图：示例206

13.1 Cassandra的数据模型206

13.2 使用Cassandra208

13.3 总结210

第14章 队列和流处理211

14.1 队列211

14.1.1 单消费者队列212

14.1.2 多消费者队列214

14.2 流处理214

14.2.1 队列和工作节点215

14.2.2 队列和工作节点的缺陷216

14.3 更高层次的一次一个的流处理217

14.3.1 Storm模型217

14.3.2 保证消息处理221

14.4 SuperWeb.Analytics.com速度层223

14.5 总结226

第15章 队列和流处理：示例227

15.1 使用ApacheStorm定义拓扑结构227

15.2 Apache Storm集群及其部署230

15.3 保证消息处理232

15.4 实现SuperWebAnalytics.com给定时间范围内的独立访客的速度层233

15.5 总结237

第16章 微批量流处理239

16.1 实现有且仅有一次语义240

16.1.1 强有序处理240

16.1.2 微批量流处理241

16.1.3 微批量流处理的拓扑结构242

16.2 微批量流处理的核心概念244

16.3 微批量流处理的扩展管道图245

16.4 完成SuperWebAnalytics.com的速度层246

16.4.1 给定时间范围内的页面浏览量246

16.4.2 跳出率分析247

16.5 另一个跳出率分析示例251

16.6 总结252

第17章 微批量流处理：示例253

17.1 使用Trident253

17.2 完成SuperWebAnalytics.com的速度层257

17.2.1 给定时间范围内的页面浏览量257

17.2.2 跳出率分析259

17.3 完全容错、基于内存及微批量处理265

17.4 总结266

第18章 深入Lambda架构268

18.1 定义数据系统268

18.2 批处理层和服务层270

18.2.1 增量的批处理270

18.2.2 测量和优化批处理层的资源使用276

18.3 速度层280

18.4 查询层281

18.5 总结282