十年匠心定制 · 商业建站与技术教学双线并行 咨询热线:400-886-1026 service@lmnt.cn
ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

数据工程入门书单:20 本书按学习阶段重新排了序

数据工程入门书单:20 本书按学习阶段重新排了序 数据工程入门书单20 本书按学习阶段重新排了序【免费下载链接】data-engineer-handbookThis is a repo with links to everything youd ever want to learn about data engineering项目地址: https://gitcode.com/GitHub_Trending/da/data-engineer-handbook数据工程书单从来都不短仓库里 books.md 就列了三十多本。我见过太多人从架构书读起读一周就弃了。所以把其中 20 本按上手期、深入期、拓展期三个阶段重排了一遍给正在做数据工程入门或转行的你。只提一个要求动手跑过一条管道之前别去碰下一阶段的书。上手期第 0-3 个月先搭起数据工程动手地基 这个阶段先别碰架构和治理。你最缺的是跑起来SQL 和 Python 的动手能力加一条端到端的小管道。下面 6 本按建议顺序排好了。书名适合谁一句话理由Fundamentals of Data Engineering零基础上手第一次看清数据工程系统长什么样Designing Data-Intensive Applications想弄清系统为何坏的人搞懂存储、复制与一致性的底层机制Python for Data Analysis从分析转工程的人补数据处理动手能力的第一选择Pandas CookbookPython 已有基础的人查着看补齐数据清洗的招式97 Things Every Data Engineer Should Know啃不动大部头的人一天一篇把前辈经验读进脑子Data Pipelines Pocket Reference天天写管道的人放桌面随查随用的工具速查读的顺序不用纠结前两本建概念中间两本建手感后两本当参考书。边读边按 beginner-bootcamp/software.md 把环境装好再从中级课程的第一维建模实验入手比如用 pgAdmin 连上本地 Postgres入门阶段的完整实验环境说明在 1-dimensional-data-modeling/README.md。深入期第 3-9 个月卡点在哪就读哪本 这个阶段别贪多读你卡住的地方。最常见的三堵墙建模、引擎、实时。建模乱先读这两本建模决定了下游有多痛。如果你的表结构靠业务方口头保证就从这两本开始Kimball - The Data Warehouse Toolkit维度建模从零搭起——适合从零建数仓的你Data Mesh按领域划分数据归属——适合多团队抢数据的场景仓库的维度建模实验里有一份现成的 SCD 生成 SQLscd_generation_query.sql。读 Kimball 不跑一遍等于白读。数据工程维度建模笔记OLTP 到 OLAP 的表流转开始碰计算引擎先读 SparkLearning Spark第一遍——Spark API 面适合用它过Spark: The Definitive Guide第二遍——从会写到写得好Modern Data Engineering with Apache Spark从批到流——第一条流式作业写它转实时流处理书不必全读Streaming Systems流系统设计原理——帮你搞懂 exactly-once 和背压的边界Stream Processing with Apache FlinkFlink 上手第一本——从零开始做实时作业仓库里有个能直接跑的 Flink 聚合实验4-apache-flink-training/README.md。这个阶段的原则一堵墙一本书一个实验。拓展期第 9 个月之后数据工程的最后一公里性能、治理与架构 管道跑了一年之后你面对的问题不再是写不出来而是太慢、没人认领、不敢改。这时候按痛点挑书。管道变慢先读这两本High Performance SparkSpark 调优——同一个作业跑四十分钟你受不了时Delta Lake: The Definitive Guide湖仓存储层——转向开放表格式时的底账管道稳定的底层原则是幂等无论重跑多少次结果都一样。昨天回填的数据和今天的对不上问题就出在这![数据工程管道幂等性与 SCD 缓慢变化维笔记](https://raw.gitcode.com/GitHub_Trending/da/data-engineer-handbook/raw/ff5f739822423e3709f89409e09a3648943e34c8/intermediate-bootcamp/materials/1-dimensional-data-modeling/visual notes/02__Idempotency_SCD.png?utm_sourcegitcode_repo_files)团队变大读治理这几本Data Engineering with dbt转换层工程化——让转换可评审、可测试Data Governance: The Definitive Guide数据问责与合规——口径吵架吵不动时Practical DataOps数据团队工程实践——管道缺值班和 runbook 时仓库里有一份真实的管道维护案例把整条增长管道从头讲到尾6-data-pipeline-maintenance/README.md。架构想清楚了再读这两本Data Engineering Design Patterns常见问题集合——说不出问题名字的时候Building Evolutionary Architectures演进式架构——系统一改就炸三处时想往 AI 数据工程方向延伸的仓库里还有三天的 Databricks 实验材料databricks-ai-bootcamp/README.md。四步阅读顺序别一口气读完书单先读完 Fundamentals of Data Engineering边读边装环境、跑一个实验。深入期三选一建模、引擎或实时读完一本配完一个实验。拓展期按当下痛点挑慢读性能乱读治理架构卡住读设计模式。每年重读一次 Designing Data-Intensive Applications你的理解深度不会一样。书读完就完了这个领域不会。卡住的时候去 communities.md 找个群或者订阅 newsletters.md让新信息自己找上你。【免费下载链接】data-engineer-handbookThis is a repo with links to everything youd ever want to learn about data engineering项目地址: https://gitcode.com/GitHub_Trending/da/data-engineer-handbook创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表