Hadoop 入门以零售商的每日文件为线索,介绍大数据存储与批处理。你将在真实 Hadoop 环境中了解 HDFS、MapReduce 和 YARN 的职责,再准备输入、运行计算并核对结果。
课程包含 9 个引导实验和 3 个挑战。引导实验解释概念与操作,挑战则使用新数据组合已经练习过的技能。每节都独立准备所需文件和服务。
你将学到什么
完成课程后,你将能够:
- 区分本地文件与 HDFS,查看 Hadoop 环境配置;
- 上传、组织、复制和导出文件,同时保留批次原始输入;
- 查看数据块与副本,测试文件及目录权限;
- 追踪键值记录经过 Map、Shuffle 和 Reduce 的过程;
- 提交 YARN 作业,查看应用状态与日志,核对结果并使用独立输出重跑;
- 诊断输入缺失、输出冲突、连接错误和处理任务失败。
本课程适合谁
适合刚接触大数据或数据工程,希望先学会使用预配置 Hadoop 系统,再学习集群管理的学习者。
前置要求: 基本终端操作。不需要 Hadoop、Java 或 Python 经验。
学习环境: LabEx 提供浏览器中的预配置 Linux 终端。单节点环境用于练习真实 Hadoop 操作,生产集群部署不在课程范围内。
常见问题
不了解大数据、不会编程,可以开始吗?
可以,但需要会基本的终端操作。课程会介绍为什么使用 Hadoop,以及 HDFS 存储、MapReduce 处理和 YARN 资源管理如何配合。不需要编写 Java 或 Python。
这门课在大数据学习路径中处于什么位置?
建议从这里建立存储与批处理基础,再继续学习 Hive、Spark 和 Kafka。挑战安排在引导练习之后,只使用本课程已经介绍的技能。
需要安装 Hadoop 或租用集群吗?
不需要。每节都提供可在浏览器中使用的预配置 LabEx 环境。你会在单节点上操作真实 Hadoop 服务;实验不用于展示生产环境的容错能力或分布式性能。





