Hadoop 入门

通过 9 个引导实验和 3 个挑战学习 Hadoop,管理 HDFS 文件与权限,理解 MapReduce,提交 YARN 作业并诊断常见故障。

大数据

💡 本教程由 AI 辅助翻译自英文原版。如需查看原文,您可以 切换至英文原版

简介

Hadoop 入门以零售商的每日文件为线索,介绍大数据存储与批处理。你将在真实 Hadoop 环境中了解 HDFS、MapReduce 和 YARN 的职责,再准备输入、运行计算并核对结果。

课程包含 9 个引导实验和 3 个挑战。引导实验解释概念与操作,挑战则使用新数据组合已经练习过的技能。每节都独立准备所需文件和服务。

你将学到什么

完成课程后,你将能够:

  • 区分本地文件与 HDFS,查看 Hadoop 环境配置;
  • 上传、组织、复制和导出文件,同时保留批次原始输入;
  • 查看数据块与副本,测试文件及目录权限;
  • 追踪键值记录经过 Map、Shuffle 和 Reduce 的过程;
  • 提交 YARN 作业,查看应用状态与日志,核对结果并使用独立输出重跑;
  • 诊断输入缺失、输出冲突、连接错误和处理任务失败。

本课程适合谁

适合刚接触大数据或数据工程,希望先学会使用预配置 Hadoop 系统,再学习集群管理的学习者。

前置要求: 基本终端操作。不需要 Hadoop、Java 或 Python 经验。

学习环境: LabEx 提供浏览器中的预配置 Linux 终端。单节点环境用于练习真实 Hadoop 操作,生产集群部署不在课程范围内。

常见问题

不了解大数据、不会编程,可以开始吗?

可以,但需要会基本的终端操作。课程会介绍为什么使用 Hadoop,以及 HDFS 存储、MapReduce 处理和 YARN 资源管理如何配合。不需要编写 Java 或 Python。

这门课在大数据学习路径中处于什么位置?

建议从这里建立存储与批处理基础,再继续学习 Hive、Spark 和 Kafka。挑战安排在引导练习之后,只使用本课程已经介绍的技能。

需要安装 Hadoop 或租用集群吗?

不需要。每节都提供可在浏览器中使用的预配置 LabEx 环境。你会在单节点上操作真实 Hadoop 服务;实验不用于展示生产环境的容错能力或分布式性能。

教师

labby
Labby
Labby is the LabEx teacher.