Laboratórios Práticos de Hadoop

Este curso contém diversos laboratórios para Hadoop, cada um sendo um pequeno projeto Hadoop com orientação e soluções detalhadas. Você pode praticar suas habilidades em Hadoop completando estes laboratórios, aprimorar suas habilidades de codificação e aprender a escrever código limpo e eficiente.

Ciência de DadosLinux

💡 Este tutorial foi traduzido do inglês com assistência de IA. Para ver o original, você pode mudar para a versão em inglês

Programa

Configuração do Hadoop HDFS

Hadoop FS Shell cat

Hadoop FS Shell ls

Hadoop FS Shell mkdir

Teste do Hadoop FS Shell

Hadoop FS Shell appendToFile

Hadoop FS Shell cp

Hadoop FS Shell copyToLocal/put

Hadoop FS Shell copyFromLocal/get

Hadoop FS Shell rm

Hadoop FS Shell mv

Aventura de Agrupamento de Dados Quânticos

Hadoop FS Shell chmod

Hadoop FS Shell chown

Hadoop FS Shell find

Hadoop FS Shell du

Hadoop FS Shell tail

Hadoop FS Shell stat

Expurgar no Hadoop FS Shell

Replicação de Dados no Hadoop

Gerenciamento de Blocos de Dados Hadoop

Gerenciamento de DataNode e NameNode do Hadoop

Gerenciamento de Snapshots no Hadoop

Gerenciamento de Políticas de Armazenamento Hadoop

Gerenciamento de Quotas no Hadoop

Particionamento na Olimpíada Hadoop

Os Segredos Místicos da Ordenação no Hadoop

Hadoop Shuffle Combiner

Fusão de Dados de Dinossauros com Hadoop

A Sabedoria Antiga do Cache Distribuído

Configuração Básica do Hadoop YARN

Aplicando o Scheduler no Hadoop

Comandos Hadoop YARN para Aplicações

Comandos Hadoop YARN container

Operações de Naves Espaciais com Logs YARN

Datopia com Hadoop Yarn

Centro de Comando de Defesa de Recursos

Domínio do Gerenciamento de Recursos Ninja

A Busca pelo Node Manager na Floresta Sussurrante

Jornada de Integração Cósmica com Hive

Domínio de Dados na Arena Hive

Expedição de Dados no Hadoop Hive

Criação Mística de Tabelas no Hadoop

Descoberta de Dados de Marte com Hadoop

Reestruturação de Dados Rebeldes com Hadoop

Missão de Interrupção de Dados Distópica

Domínio de Dados Celestiais

A Busca pela Harmonia dos Dados Históricos

Jornada de Descoberta de Dados do Deserto

A Busca por Updatium na Terra das Maravilhas do Hadoop

Otimização do Fluxo de Dados Intergaláctico

Domínio do Hive na Distorção Temporal

Desvendando o Destino de Exploradores com Hadoop

Infiltração de Dados Rebelde com LIMIT

Dados de Ruínas com a Magia do Hadoop

Guia de Domínio Dimensional do Hadoop

Integração de Dados do Dragão do Deserto

Jornada de Dados Unificados: Integração com Hadoop

Otimização de Recursos Espaciais com Hadoop

Análise de Gemas com Hadoop

A Busca pela Harmonia Numérica no Hadoop

Domínio de Datas no Hadoop para Astrônomos

A Busca Cósmica por Comunicação no Hadoop

Otimização de Dados de Corridas Cósmicas

Jornada de Análise de Dados Intergaláctica

Descobrindo Tesouros Antigos com Hadoop

A Busca de Dados dos Monges

Exploração do Universo VR com Hadoop UDFs

Domínio de Planos de Consulta Hadoop

Domínio do Armazenamento Hadoop no Abismo

Otimizando as Operações do Porto Espacial Galáctico

Esquema de Dados Mágicos da Realeza

Feitiçaria de Dados em Xara

Jornada Fantasmagórica de Transformação de Dados

Compressão de Dados de Gemas com Hadoop

Domínio da Serialização Mágica

A Busca Pirata pela Segurança do Hive

Introdução

Desenvolva familiaridade prática com o ecossistema Hadoop em 77 laboratórios guiados por cenários. A coleção avança de operações HDFS e controles de armazenamento para fluxos MapReduce, gestão de recursos YARN e um conjunto extenso de tarefas Hive e HiveQL.

É uma biblioteca ampla de prática, não um único projeto linear. O manifesto não exige ordem fixa, permitindo avançar dos fundamentos ao trabalho de dados avançado ou selecionar os laboratórios das habilidades que você precisa reforçar.

O que você aprenderá

Ao concluir o curso, você saberá:

  • Configurar e explorar ambientes HDFS, YARN e Hive fornecidos para a prática.
  • Ler, encontrar, transferir, remover, inspecionar e controlar permissões de dados HDFS com o shell.
  • Gerenciar replicação, blocos, DataNodes, snapshots, políticas de armazenamento, quotas e limpeza no HDFS.
  • Aplicar técnicas shuffle de MapReduce com particionadores, ordenação, combiners, joins e cache distribuído.
  • Inspecionar aplicações, containers, logs, JAR, nodes, scheduling, ResourceManager e NodeManager do YARN.
  • Criar e modificar databases e tables Hive e carregar, inserir, atualizar, excluir, importar e exportar dados.
  • Escrever filtros, agrupamentos e agregações, joins e unions, ordenação e distribuição, funções e janelas em HiveQL.
  • Examinar planos, formatos, partições, buckets, schemas, I/O, compressão, serialização, integração e segurança do Hive.

Para quem é este curso

O curso é para estudantes de Hadoop que desejam muitos exercícios guiados sobre armazenamento, processamento, recursos e análise semelhante a SQL. Atende iniciantes que buscam amplitude e quem já conhece os conceitos e quer prática direcionada em HDFS, MapReduce, YARN ou Hive.

Pré-requisitos: Você deve estar à vontade com terminal Linux, arquivos, permissões e conceitos básicos de processamento de dados. Fundamentos de Hadoop e SQL são fortemente recomendados antes de MapReduce, YARN e Hive avançado, embora o curso seja marcado como Beginner.

Ambiente de aprendizagem: Os 77 laboratórios rodam em ambientes Hadoop fornecidos e incluem orientação detalhada e soluções. O trabalho é principalmente por comandos e consultas; cluster cloud externo ou conta pessoal de serviço não são requisitos listados.

Perguntas frequentes

Preciso concluir os 77 laboratórios em ordem?

Não. O curso é configurado como coleção não ordenada, não como sequência obrigatória. Iniciantes devem começar por HDFS e operações básicas de arquivos antes de MapReduce, YARN e temas avançados de Hive.

Como difere de Desafios Práticos de Hadoop?

Hadoop Practice Labs contém 77 atividades guiadas em quatro grandes áreas. Hadoop Practice Challenges é uma coleção muito menor de 12 tarefas sobre comandos do sistema de arquivos HDFS.

O curso inclui Spark ou Pig?

Não. O currículo cobre HDFS, alguns padrões MapReduce, YARN e Hive/HiveQL. Spark e Pig não aparecem entre os 77 temas.

Vou implantar e operar um cluster Hadoop de produção?

Não. Você pratica configuração e componentes em ambientes de aprendizagem. Design de infraestrutura, implantação multinode, planejamento de capacidade, monitoramento e operação de produção não são resultados comprovados da coleção.

Professor

labby
Labby
Labby is the LabEx teacher.