读数据质量管理：数据可靠性与数据质量问题解决之道20读后总结与感想兼导读

1. 基本信息

数据质量管理：数据可靠性与数据质量问题解决之道

• [美] 巴尔·摩西，[美] 利奥·加维什，[美] 莫莉· 著
  
• 机械工业出版社,2024年5月出版
  

1.1. 读薄率

书籍总字数18.8万字，笔记总字数61295字。
读薄率61295÷188000≈32.6%
1.2. 读厚方向

• Data Mesh权威指南
  
• 数据的边界：隐私与个人数据保护
  
• 数据保护：工作负载的可恢复性
  
• Julia数据科学应用
  
• MLOps权威指南
  
• 数据自助服务实践指南：数据开放与洞察提效
  
• 商战数据挖掘：你需要了解的数据科学与分析思维
  
• Spark快速大数据分析（第2版）
  

1.3. 笔记--章节对应关系

笔记章节字数发布日期  
2024年读数据质量管理：数据可靠性与数据质量问题解决之道01数据质量第1章　为什么数据质量值得关注311711月12日读数据质量管理：数据可靠性与数据质量问题解决之道02数据湖仓第2章　对可靠数据系统的构建模块进行组装334511月13日读数据质量管理：数据可靠性与数据质量问题解决之道03数据目录第2章　对可靠数据系统的构建模块进行组装273411月14日读数据质量管理：数据可靠性与数据质量问题解决之道04收集与清洗第3章　收集、清洗、转换和测试数据328611月15日读数据质量管理：数据可靠性与数据质量问题解决之道05数据标准化第3章　收集、清洗、转换和测试数据346211月16日读数据质量管理：数据可靠性与数据质量问题解决之道06数据测试第3章　收集、清洗、转换和测试数据380211月17日读数据质量管理：数据可靠性与数据质量问题解决之道07异常检测第4章　数据管道的监控和异常检测220911月18日读数据质量管理：数据可靠性与数据质量问题解决之道08扩展异常检测第4章　数据管道的监控和异常检测373811月19日读数据质量管理：数据可靠性与数据质量问题解决之道09数据可靠性第5章　为数据可靠性进行架构设计327211月20日读数据质量管理：数据可靠性与数据质量问题解决之道10数据平台第5章　为数据可靠性进行架构设计363211月21日读数据质量管理：数据可靠性与数据质量问题解决之道11根因分析第6章　解决大规模数据质量问题331911月22日读数据质量管理：数据可靠性与数据质量问题解决之道12应对与缓解第6章　解决大规模数据质量问题266911月23日读数据质量管理：数据可靠性与数据质量问题解决之道13数据沿袭第7章　构建端到端的数据沿袭347611月24日读数据质量管理：数据可靠性与数据质量问题解决之道14普及数据质量第8章　推广和普及数据质量319311月25日读数据质量管理：数据可靠性与数据质量问题解决之道15数据信任第8章　推广和普及数据质量289011月26日读数据质量管理：数据可靠性与数据质量问题解决之道16数据认证第8章　推广和普及数据质量429611月27日读数据质量管理：数据可靠性与数据质量问题解决之道17数据网格第9章　现实世界中的数据质量：对话和案例分析334611月28日读数据质量管理：数据可靠性与数据质量问题解决之道18数据发现第9章　现实世界中的数据质量：对话和案例分析282111月29日读数据质量管理：数据可靠性与数据质量问题解决之道19数据未来第10章　开创可靠数据系统的未来268811月30日$总计61295$2. 亮点

2.1 数据标准化很重要

• 标准化通常是你的数据在管道中经过的诸多此类转换中的第一个
  
• 非常重要
  

2.2 数据测试

• 数据测试的两个最佳工具分别是dbt测试和Great Expectation
  

2.3 数据沿袭

• 通俗点说，就是来龙去脉
  

2.4 数据信任

• 重中之重，不可信，有何用？
  
  
  
  • 其实，也是很有用的。。。。。
    
  • 比如，米国的那些非农啊、就业啊等等数据操控之用（冠冕堂皇地说法，预期管理）
    
  
  

3. 感想

3.1 总结要及时

• 总结一定要及时啊，因为时间长了，容易忘
  
• 但是，换一个说法，就是没有忘的，就是沉淀下来的精华啊
  

3.2 数据工程越来越重要

• 随着时代的发展，AI是数据需求的重头戏，而数据工程是保障数据质量的关键环境，“垃圾进，垃圾出“，数据工程势必占据越来越重要的地位
  

3.3 数据质量保障是一个长期、持续的过程

• 只要有数据产生，就要保障数据质量，不会一劳永逸，只会持续不断跟进
  

3.4 数据信任和操控

• 前文提到了数据操控，其实还是基于数据信任的
  
• 为什么要数据操控？是因为数据不符合预期。
  
• 为什么会认为数据不符合预期？是因为相信数据得到的结果，还是要信任啊。
  
• 也许你会说，样本取样的问题？为什么样本取样有问题？为什么不全面取样？是不能还是不敢，亦或是不为
  
• 修正前期的数据又为啥？
  

3.5 好书，推荐阅读


来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！