|
java自学网(www.javazx.com)-java论坛,java电子书推荐:《企业级大数据平台构建:架构与实现》- a6 F# `' S! H2 n! j& X4 }
java电子书推荐理由:这是一部教你如何从0到1架构与实现一个企业级大数据平台的著作,是作者在大数据和系统架构领域超过20000小时的经验总结。作者从横向视角出发,手把手教你如何拉通Hadoop体系技术栈,以此搭建一个真实可用、安全可靠的大数据平台。通过阅读本书,一定能从本书的内容中找到灵感和思路来应对实际工作中面对的问题。
0 ?: S; X" ^3 _$ L) W4 Y' G' {# }8 h4 u; O4 V
作者:朱凯. f8 q( i U0 E: Z
出版社:机械工业出版社
& ~) k( K, j4 _ c. Q/ \+ ?出版时间:2018年04月
6 S) m x8 ^3 z书籍价格:69.00元
0 @8 ?- c5 a6 B
9 H$ C0 u, ~% j6 ~: h9 K6 M
. v1 x. v: S$ @" o) I$ N5 h; U
+ Y6 I$ c- p4 _java电子书目录:4 o4 f6 j& o: w: V' O; `7 x% v
第1章 浅谈企业级大数据平台的重要性 1
9 b8 P! y2 T+ c- K" P) q1.1 缺乏统一大数据平台的问题 2* b% X+ ]. i( m6 f7 n( b# D8 r. F5 q/ q
1.1.1 资源浪费 2+ Z" M4 C, z% ]- u4 m; [
1.1.2 数据孤岛 2- X& I$ v9 L- x
1.1.3 服务孤岛 3# q+ G& j* l$ Y; p2 P
1.1.4 安全存疑 3% n2 c1 v- C; W; N5 L9 s0 k. i
1.1.5 缺乏可维护性和可扩展性 3* ?% p3 S$ j0 V; Y3 T- q" O
1.1.6 缺乏可复制性 46 G7 {! S" |7 Y" C5 \
1.2 构建统一大数据平台的优势 4
) G. P% P9 Z& x' P' i0 P. S# b: |+ ^1.3 企业级大数据平台需要具备的基本能力 64 \, k6 \- n$ `6 f! _7 G
1.3.1 集群管理与监控 7: e7 Y/ t/ R; j2 _+ }2 x. g
1.3.2 数据接入 7
6 c! e6 H' q9 X+ L, [; \1.3.3 数据存储与查询 76 O& \( p& O7 x; T s' y
1.3.4 数据计算 8
7 V) `, r8 \2 L1.3.5 平台安全与管理 10$ [( m' S& Z$ K
1.4 平台辅助工具 12
# V. d, B. d9 D: |& }$ n1.5 本章小结 13* g& h* w3 M. g
第2章 企业级大数据平台技术栈介绍 15
! r# k2 F$ C v5 D$ {2.1 HDFS 162 v0 a0 f P9 K4 \# |8 j; S" F
2.1.1 概述 16
+ d- X/ ]! L+ O5 z2.1.2 RAID技术 17
2 I8 a4 h+ h) ~2.1.3 核心设计目标 18
" \6 U3 J: `' w; l7 z2.1.4 命名空间 197 h1 K" U/ x; i: R
2.1.5 数据模型 20
4 |9 S/ a' d, Z, ]1 T: f- A6 d2.1.6 Namenode和Datanode 20% L& q0 S$ ]4 U5 H+ A" b: l
2.1.7 使用场景 21! t, n# y$ e# Z! i/ X. m. \
2.2 Zookeeper 22
, K/ M; X; @1 X+ I2 ^$ p2.2.1 概述 22
* R) D0 a4 }2 j1 E6 w- i2.2.2 核心特性 23
- G$ x- u: ^/ c2.2.3 命名空间 24$ v# Z+ R7 `. Z( D) ^/ m
2.2.4 数据模型 24, B( V# T6 x w6 e' r+ ^" C
2.2.5 节点状态监听 25
. ~7 c: h9 A% d! |2.2.6 原子消息广播协议 25
+ f; P9 T) G( J0 H! Q, D2.2.7 使用场景 32
$ s1 M) c) E3 Z! \( N2.3 HBase 33
) Z- ]& p+ m. \! O7 [2.3.1 概述 33$ o) |4 f( s! M* P( f
2.3.2 数据模型 34
8 _9 a! ^# l' t, e$ ]/ s2.3.3 Regions 34
5 E& X* Q( I8 B2 s0 ~! f2.3.4 HBase Master 353 A% \0 k# Q0 g. P
2.3.5 Region Server 36
6 S: e* b: b. r2.3.6 MemStore与HFile 375 J% B$ d8 t+ \
2.3.7 使用场景 37
, v3 A3 D; W s9 `2.4 YARN 38. E4 P" x% O; D4 T+ i+ O* a( L
2.4.1 概述 384 c' y# U% m: i/ F F
2.4.2 资源模型和Container 402 v( U* m" Y$ @$ z9 ~" U- s
2.4.3 ResourceManager 402 y0 h, g! g9 ?0 S6 G3 l
2.4.4 ApplicationMaster 40
2 b$ _% \& g4 R; ]! p2.4.5 NodeManager 41$ \( ^7 Y! d* K) f9 i
2.4.6 单一集群架构 419 C9 k; }' ^: S6 _9 z7 d: o9 o
2.4.7 工作流程 41
. F a- S5 N$ \ v. e7 {" S2.4.8 使用场景 43! Z/ `0 |& ?. t8 u3 _& E2 P- c$ z
2.5 Spark 43
9 e c$ v* H! q6 C2.5.1 概述 43
! l _& T+ v8 I& W5 U! T2.5.2 数据模型 455 q+ i4 q/ k0 X% R0 v1 A, h
2.5.3 编程模型和作业调度 454 m( f3 h5 {9 H% `8 H- ], x9 V" J1 b" O
2.5.4 依赖 46
0 o4 L! H- r0 O% S! Z9 g2.5.5 容错 47
8 E" X* m( ?! y& U Q2.5.6 集群模式 47
4 |3 a* s/ V3 ?2.5.7 使用场景 48/ V7 g4 h; J9 [4 Q. h3 Y! I
2.6 本章小结 49+ q( @, u8 D/ ]4 X: v. M
第3章 使用Ambari安装Hadoop集群 50
. Q! `5 T! w! k5 j' t Q: ~ G" F3.1 概述 505 h9 Q! _7 v8 Y) e N, {
3.2 集群设计 52
8 Y4 p, _+ V6 Z2 {8 G# b3 i& H3.2.1 主控节点 52
8 O( e# H& O. `2 F2 V* c0 o3.2.2 存储与计算节点 53
# k* ~2 Y: m! [3.2.3 安全认证与管理节点 546 B8 g; R! F; _
3.2.4 协同管理与其他节点 54
: R2 J8 Y7 ?" D+ |; q7 e3.3 Ambari的安装、配置与启动 55$ R6 z4 m, |0 g# \8 M! S
3.3.1 安装前的准备 55
7 l& q% y8 I. D7 x- f3.3.2 安装Ambari-Server 62
, F7 j# ~; g B% N( V0 B3.3.3 Ambari-Server目录结构 64# H5 X* i2 j; V+ o4 H
3.3.4 配置Ambari-Server 65
, y. g% J% }) v3.3.5 启动Ambari-Server 66: b9 e& T+ g+ f
3.4 新建集群 67
( r* V0 i5 [' f, Y3.4.1 设置集群名称并配置HDP安装包 67( r$ w# U! o0 ^' c# e3 H
3.4.2 配置集群 69" S6 [; m. e3 k8 O+ X4 T6 e2 `
3.5 Ambari控制台功能简介 774 s6 ~5 x9 b2 s) a) K# E
3.5.1 集群服务管理 78
8 b) x+ \' q+ f+ G9 a' h) l3.5.2 集群服务配置 80
3 v u2 b! M8 G8 F4 C3.5.3 辅助工具 82* ^* w r" S) {( P
3.6 本章小结 86
1 |4 q$ i/ x* d- J第4章 构建企业级平台安全方案 87
9 d, I5 d$ z8 N2 S9 i4.1 浅谈企业级大数据平台面临的安全隐患 88: W% }( H) x# R- z: K* U
4.1.1 缺乏统一的访问控制机制 882 G7 b: O* ^; p! |/ g$ ?
4.1.2 缺乏统一的资源授权策略 88
: E) F/ J7 b/ \+ Z) \4.1.3 缺乏Hadoop服务安全保障 89% m' l1 z# x4 N
4.2 初级安全方案 89+ c2 h9 i/ Q3 s* w; k* m2 h! ^
4.2.1 访问控制 89
0 a+ w" [* ?5 t, }& T4.2.2 数据授权与管理 97; a' q& K' Z: p! {2 s O
4.3 本章小结 110% D; I! \0 d M# h
第5章 Hadoop服务安全方案 1112 q% h; j& e8 j3 v, }
5.1 Kerberos协议简介 1110 X+ L8 d) s/ {) }8 n
5.2 使用FreeIPA安装Kerberos和LDAP 113% \6 y: {, A" `) V J# \. h7 A! Q
5.2.1 安装FreeIPA 115
1 x" F. s H6 [4 r$ O5.2.2 IPA-Server管理控制台功能介绍 1196 v0 j$ ^* @& D. Z& Q5 T6 z, f8 r
5.2.3 IPA CLI功能介绍 122# u# Y- s. L, [ l% p
5.3 开启Ambari的Kerberos安全选项 127 F; p; C Y- ~& E. V r6 P
5.3.1 集成前的准备 127( O7 j& f0 K4 c& d* Q% U
5.3.2 集成IPA 129- D1 i, v% T3 @) u2 F
5.3.3 测试Kerberos认证 133
f: \! ~! y4 J& a+ L: L+ V4 c5 Q5.4 本章小结 136
6 P$ @9 D" U8 x6 B8 B' s第6章 单点登录与用户管理 137- T" q) _$ v# `- V1 Z
6.1 集成单点登录 139. C, W: \1 ~8 {6 N$ o
6.1.1 CAS简介 140
% K- l4 _3 K3 _6.1.2 安装CAS-Server 1411 u# T. V; H- y0 y. o
6.1.3 集成Knox网关与CAS-3 s. Y. d. \; P: I
Server javazx.com 148
, ~ u( V. \: k& g9 _0 O6.1.4 集成Ranger与CAS-Server 151
& D' M7 m! f$ h; m' P5 b. ^6.1.5 集成Ambari与CAS-Server 1528 r( |1 N0 c$ H1 G, z
6.2 实现统一的用户管理系统 155
% k! X4 \% } v- E% B6.3 使用Java程序调用脚本 161
9 V) z% ~0 f$ p! M6 T6.4 创建Ranger扩展用户 166
1 |6 o3 O8 Y2 J- Q+ l6.5 本章小结 169 K9 z( {. h5 y5 W2 A3 b
第7章 搭建平台管理端RESTful服务 170: R. _% _& b8 P4 ?
7.1 搭建RESTful服务框架 170* L: H8 J6 n: W$ K; w6 y
7.2 用户查询 1743 X) R; M4 e" A5 b' C a2 m
7.2.1 引入LDAP模块 174
5 r- q/ b3 s" M! U& m) w( i6 {7.2.2 配置LDAP 174+ f' V: b) |, U& i, `
7.2.3 实现持久层 1779 @4 ]. F0 L& X% U. q) N0 M
7.2.4 实现服务层 181; c& U' I/ b- d+ |$ p2 e; B W
7.2.5 实现RESTful服务 1813 V8 s+ r/ t" `/ \/ @" N
7.2.6 整合用户管理 183
4 n" }4 M/ [6 ~5 B7 w& Q0 k" ]5 J7.3 RESTful服务安全认证 184
1 J$ m+ Y6 J# H2 y& S3 m/ B7.3.1 用户登录服务 185$ I) |* Z6 i* F6 z) E# Q7 P
7.3.2 使用JWT认证 185
9 I6 i: r4 J4 \% c' I) Q/ I* e7.3.3 创建用户登录RESTful服务 1885 J5 E M: l" }/ y) b! a
7.3.4 认证过滤器 194
: ~# F9 v6 f5 M- T- @" V9 m# s7.3.5 测试服务安全认证 198
0 U% N z( f& X, I" U7 s7.4 数据仓库数据查询 200% ^5 U: u( R( v$ B
7.4.1 创建JDBC连接 200" Z7 ?- V5 V2 B8 ?6 Z9 a. m
7.4.2 Kerberos登录 202$ t* f9 [' ^$ C: V. u
7.4.3 使用JDBC协议查询 202
2 S, w7 Q7 ^2 X/ l; L7.4.4 实现服务层与RESTful服务 206& c c! V D. {+ F
7.4.5 测试查询 2073 L3 w1 m" E- @1 E" Y/ _# ^
7.5 数据仓库元数据查询 208
' a+ @1 m6 O% \1 j8 g7.5.1 使用query服务查询数仓元数据 208
3 j/ }9 @; B1 g2 s& m) i( L7.5.2 引入JdbcTemplate模块 209
S; p5 @# n1 ]0 A% `7.5.3 增加Hive元数据库配置 2101 C+ B. Q) Y4 A+ ~9 f3 {. v
7.5.4 实现元数据持久层 211/ X: b0 v* n+ k8 o
7.5.5 实现元数据服务层与RESTful服务 216
; A8 f o& @& P7.5.6 测试元数据查询 218
7 f3 [* @8 ~5 I/ ?7.6 本章小结 219
, q4 T# D1 K" v* U. G' T第8章 Spark任务与调度服务 220 j) [ z2 R! r) W1 U6 s: ]
8.1 提交Spark任务的3种方式 220
# L2 d* k& a; t8.1.1 使用Spark-Submit脚本提交 220
2 M: s. Q8 c: _& t1 T9 ~6 W8.1.2 使用Spark Client提交 226) Z) z# ^9 L& L" x; O
8.1.3 使用YARN RESTful API提交 229 r" }# [5 L& ~9 g- o4 _, w8 t
8.2 查询Spark日志 234
- E4 h( L$ c! ~! c& L8.3 任务调度 236$ X4 z3 E& x% _
8.3.1 引入Quartz模块 237
9 b8 L" Q2 u0 @4 w, u/ Z. C8.3.2 增加Quartz配置 2374 U ^# p- ^2 Z v; k% H
8.3. 7 X# o3 M' \3 M5 a
Java资料百度网盘下载地址链接(百度云):企业级大数据平台构建:架构与实现@www.javazx.com.pdf【密码回帖可见】& [: R9 @9 Y# ~1 }$ J9 k9 c
. a. D* R: T# m
2 ]! n) F o3 i7 F0 |; Q! B( o) i, V' x* q* ^( @
$ D) x! M, O t* ~( c# x5 A
& ~- a) f0 M2 a6 ^. v |
|