简介本资源是华南理工大学《分布式系统》课程配套的RMI远程调用实验实践包面向Java初学者及分布式入门学习者聚焦远程方法调用核心机制的理解与落地。实验以学生成绩/教师信息查询为业务场景完整覆盖RMI三要素远程接口定义、服务端对象实现与注册含文件/MySQL双数据源支持、客户端调用逻辑助学习者掌握分布式通信基础架构设计。压缩包共16个文件含6个核心Java源码含MynServiceInterface、Client、Server及MySQL连接类、5个编译后class文件、2个关键jar包含mysql-connector驱动、1份Word实验文档、1个SQL建表脚本及1个Readme说明文本整体2.56MB结构清晰、开箱即用。已有364人学习下载提供可直接运行的完整工程骨架、数据库对接示例及详细实验指导特别适合课程实验复现、RMI原理验证与分布式编程入门实战。1. 华南理工大学分布式实验2不是跑个Hadoop就叫分布式而是搞懂“任务怎么拆、状态怎么管、故障怎么扛”如果你在华南理工大学计算机学院或软件工程专业上过《分布式系统原理》或《大数据技术基础》大概率逃不开“分布式实验2”——它不是让你在虚拟机里敲几行start-dfs.sh就交差的流程作业而是直击分布式系统三大命门任务如何跨节点协同执行、共享状态如何不冲突、单点故障后服务怎么不中断。很多同学卡在“伪分布式能跑通但一加节点就报Connection refused”或者“MapReduce跑完结果对不上debug三天发现是本地缓存没清”。这实验真正考的是能不能把课本里“CAP理论”“一致性哈希”“心跳检测”这些词变成你亲手调通的进程日志、抓包里的TCP重传、以及jps输出里少一个DataNode时你第一反应去查哪三行日志。它面向的是想进大厂做中间件、大数据平台或云原生开发的同学——因为你在实验里踩的每一个坑比如NameNode格式化后SecondaryNameNode起不来、YARN ResourceManager和NodeManager端口冲突、甚至hdfs dfs -put卡住不动全都是生产环境里真实发生的血泪现场。别被“实验2”这个编号骗了它其实是分布式能力的分水岭过了说明你开始理解“分布”不是物理部署而是逻辑契约没过可能连ZooKeeper选举日志都看不懂。2. 用Hadoop 3.3.6伪分布式环境跑通实验2最小闭环从格式化到WordCount验证华南理工大学分布式实验2的典型交付物是基于Hadoop生态完成一个带容错机制的分布式计算任务如带失败重试的文件统计而非单纯启动集群。因此我们跳过“先装Java再配SSH”的冗余步骤直接聚焦实验2最常卡死的三个环节环境版本锁定、核心配置项精简、验证路径闭环。实验要求明确指向Hadoop 3.x近年教学普遍采用3.3.6且必须启用YARN资源调度——这意味着不能只跑hadoop jar本地模式而要让ApplicationMaster真正在ResourceManager上注册。2.1 环境准备为什么必须用OpenJDK 11 Hadoop 3.3.6组合实验2的代码模板如DistributedWordCount.java大量使用Hadoop 3.x新增的ClientProtocol接口和YarnConfiguration类若强行用Hadoop 2.7或OpenJDK 8编译阶段就会报NoSuchMethodError。更隐蔽的坑是Ubuntu 22.04默认的OpenJDK 17与Hadoop 3.3.6的netty组件存在SSL握手兼容性问题导致NodeManager启动后立即退出。经实测OpenJDK 11.0.22 Hadoop 3.3.6二进制包是华南理工实验室镜像中最稳定的组合。下载地址直接取官方归档页https://archive.apache.org/dist/hadoop/core/hadoop-3.3.6/解压后设置JAVA_HOME指向JDK 11根目录HADOOP_HOME指向解压路径并将$HADOOP_HOME/bin和$HADOOP_HOME/sbin加入PATH。提示不要用apt install hadoopUbuntu源里的Hadoop版本陈旧且配置路径与实验文档不符会导致core-site.xml中fs.defaultFS参数解析失败。2.2 四个必改配置文件删掉90%的注释只留实验2生效的7行Hadoop伪分布式模式下所有进程NameNode、DataNode、ResourceManager、NodeManager运行在同一台机器但必须模拟网络隔离。实验2要求验证“单点故障恢复”因此配置必须体现主从角色分离。以下是$HADOOP_HOME/etc/hadoop/下必须修改的四个文件其他文件保持默认或直接删除避免干扰!-- core-site.xml -- configuration property namefs.defaultFS/name valuehdfs://localhost:9000/value !-- 实验2要求HDFS URI必须含host:port -- /property /configuration!-- hdfs-site.xml -- configuration property namedfs.namenode.name.dir/name value/usr/local/hadoop/data/namenode/value !-- 必须绝对路径且目录需手动创建 -- /property property namedfs.datanode.data.dir/name value/usr/local/hadoop/data/datanode/value /property property namedfs.replication/name value1/value !-- 实验2伪分布式只需1副本设为3会因无足够DataNode报错 -- /property /configuration!-- yarn-site.xml -- configuration property nameyarn.nodemanager.aux-services/name valuemapreduce_shuffle/value /property property nameyarn.resourcemanager.hostname/name valuelocalhost/value !-- 关键实验2要求RM必须绑定localhost否则AM注册失败 -- /property /configuration!-- mapred-site.xml -- configuration property namemapreduce.framework.name/name valueyarn/value !-- 强制走YARN禁用local模式 -- /property /configuration参数说明dfs.replication1是伪分布式唯一可行值设为2或3会导致DataNode启动后立即报Not enough replicas并退出yarn.resourcemanager.hostnamelocalhost解决实验2常见错误“Application submission failed due to connection refused”本质是Hadoop 3.x默认用0.0.0.0监听而客户端SDK严格校验hostname匹配。2.3 启动与验证三步命令链每步失败都有对应日志定位点实验2的验收标准不是“进程起来”而是“任务提交成功且结果正确”。以下命令链缺一不可且每步失败必须按指定日志排查# 步骤1格式化NameNode仅首次执行后续跳过 hdfs namenode -format # 步骤2启动HDFS YARN注意顺序必须先HDFS再YARN start-dfs.sh start-yarn.sh # 步骤3提交WordCount任务并验证输出实验2标准用例 hadoop fs -mkdir -p /input echo hello world hello hadoop | hadoop fs -put - /input/input.txt hadoop jar $HADOOP_HOME/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.3.6.jar wordcount /input /output hadoop fs -cat /output/part-r-00000关键验证点start-dfs.sh后执行jps必须看到NameNode、DataNode、SecondaryNameNode三者缺一不可缺SecondaryNameNode说明hdfs-site.xml配置未生效start-yarn.sh后执行jps必须看到ResourceManager、NodeManager若只有ResourceManager检查yarn-site.xml中yarn.nodemanager.aux-services拼写hadoop fs -cat输出应为hadoop 1hello 2world 1若为空或报No such file说明/output目录未生成此时查$HADOOP_HOME/logs/yarn-*.log中ApplicationMaster的FAILED记录。3. 实验2核心难点突破用ZooKeeper实现NameNode高可用HA的最小配置华南理工大学分布式实验2进阶要求是让HDFS具备“NameNode单点故障自动切换”能力。这不是简单加一台备用NN而是要构建ZooKeeper协调的HA架构。很多同学以为装个ZK就完事结果hdfs haadmin -failover命令报Operation failed: Call From ... to 0.0.0.0:8020 failed on connection exception——根本原因是Hadoop HA要求两个NameNode必须用不同RPC端口且共享EditLog存储而实验环境常忽略dfs.namenode.rpc-address的显式绑定。3.1 ZooKeeper集群最小化部署三节点非必须单节点够实验2验证实验2不考核ZK集群可靠性只验证HA切换逻辑。因此用单节点ZK完全满足要求生产环境当然不行。下载apache-zookeeper-3.8.3-bin.tar.gz解压后修改conf/zoo.cfg# conf/zoo.cfg tickTime2000 initLimit10 syncLimit5 dataDir/usr/local/zookeeper/data clientPort2181 # 单节点无需server.x配置删掉所有server.1...行启动ZKbin/zkServer.sh start。验证echo stat | nc localhost 2181 | grep Mode输出Mode: standalone即成功。注意ZK必须在Hadoop启动前运行否则start-dfs.sh会因无法连接ZK而静默失败。3.2 HDFS HA四配置项覆盖实验2全部切换场景在hdfs-site.xml中追加以下配置保留原有dfs.namenode.name.dir等基础项configuration !-- 原有配置... -- !-- HA专用配置 -- property namedfs.nameservices/name valuemycluster/value !-- 逻辑集群名必须与下面dfs.ha.namenodes.mycluster一致 -- /property property namedfs.ha.namenodes.mycluster/name valuenn1,nn2/value !-- 两个NN的逻辑ID -- /property property namedfs.namenode.rpc-address.mycluster.nn1/name valuelocalhost:9001/value !-- nn1 RPC端口必须≠9000原NN端口 -- /property property namedfs.namenode.rpc-address.mycluster.nn2/name valuelocalhost:9002/value !-- nn2 RPC端口必须≠9000且≠9001 -- /property property namedfs.namenode.http-address.mycluster.nn1/name valuelocalhost:9870/value /property property namedfs.namenode.http-address.mycluster.nn2/name valuelocalhost:9871/value /property property namedfs.namenode.shared.edits.dir/name valueqjournal://localhost:8485;localhost:8486;localhost:8487/mycluster/value !-- QJMQuorum Journal Manager地址实验2用单机三JournalNode模拟 -- /property property namedfs.client.failover.proxy.provider.mycluster/name valueorg.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider/value /property property namedfs.ha.fencing.methods/name valuesshfence/value /property property namedfs.ha.fencing.ssh.private-key-files/name value/home/youruser/.ssh/id_rsa/value /property /configuration关键参数说明dfs.namenode.rpc-address必须显式指定不同端口否则HA模式下两个NN会争抢9000端口dfs.namenode.shared.edits.dir中的qjournal地址是实验2特有要求需额外启动JournalNode见下一步sshfence要求本机SSH免密登录自己否则hdfs haadmin -failover会卡在fencing阶段。3.3 启动HA模式JournalNode是实验2隐藏关卡HDFS HA依赖QJM同步EditLog而JournalNode是QJM的核心进程。实验2要求手动启动JournalNode而非由start-dfs.sh自动拉起这是学生最容易遗漏的步骤# 创建JournalNode数据目录 mkdir -p /usr/local/hadoop/journalnode/data # 启动三个JournalNode端口8485/8486/8487 hadoop-daemon.sh start journalnode # 验证jps 应看到 JournalNode 进程HA初始化流程仅首次执行格式化第一个NameNodehdfs namenode -format -clusterId mycluster启动第一个NameNodehadoop-daemon.sh start namenode同步元数据到第二个NameNodehdfs namenode -bootstrapStandby启动第二个NameNodehadoop-daemon.sh start namenode启动ZKFCZooKeeper Failover Controllerhadoop-daemon.sh start zkfc血泪经验hdfs namenode -bootstrapStandby必须在第二个NN启动前执行否则报Cannot bootstrap standby namenode if active namenode is runningZKFC进程必须存在否则hdfs haadmin -failover会提示Unable to determine the status of the local standby node。4. 避坑实验2高频翻车现场与秒级定位法实验2的调试时间70%花在环境配置30%花在逻辑验证。以下是华南理工助教收集的TOP5翻车点按“现象→原因→解决”结构整理每条都对应真实日志片段4.1 现象start-dfs.sh后jps看不到DataNodehadoop.log报java.io.IOException: Failed on local exception: java.io.IOException: Response is null原因hdfs-site.xml中dfs.datanode.data.dir路径不存在或权限不足Hadoop进程以普通用户运行但目录属主是root。解决sudo mkdir -p /usr/local/hadoop/data/datanode sudo chown $USER:$USER /usr/local/hadoop/data/datanode # 检查目录权限ls -ld /usr/local/hadoop/data/datanode 应显示 drwxr-xr-x 2 youruser youruser4.2 现象hadoop fs -ls /报Call From ... to 0.0.0.0:9000 failed on connection exception但jps显示NameNode进程存在原因core-site.xml中fs.defaultFS值为hdfs://0.0.0.0:9000或hdfs://127.0.0.1:9000而NameNode实际绑定localhost。Hadoop 3.x默认只监听localhost不响应0.0.0.0请求。解决确保core-site.xml中fs.defaultFS为hdfs://localhost:9000检查hadoop-env.sh中export HADOOP_OPTS$HADOOP_OPTS -Djava.net.preferIPv4Stacktrue是否开启IPv6可能导致localhost解析异常4.3 现象start-yarn.sh后jps有ResourceManager但无NodeManageryarn.log报java.lang.IllegalArgumentException: port out of range: -1原因yarn-site.xml中yarn.nodemanager.local-dirs或yarn.nodemanager.log-dirs路径未创建或包含空格/中文字符。解决mkdir -p /usr/local/hadoop/yarn/local /usr/local/hadoop/yarn/logs # 在yarn-site.xml中显式指定 property nameyarn.nodemanager.local-dirs/name value/usr/local/hadoop/yarn/local/value /property property nameyarn.nodemanager.log-dirs/name value/usr/local/hadoop/yarn/logs/value /property4.4 现象HA模式下hdfs haadmin -status显示两个NN都是standbyhdfs haadmin -failover nn1 nn2报IllegalStateException: Unable to determine the status of the local standby node原因ZKFC未启动或ZooKeeper中/hadoop-ha/mycluster节点未创建ZKFC负责在ZK中写入active状态。解决执行hadoop-daemon.sh start zkfc检查ZKecho ls /hadoop-ha | nc localhost 2181应返回[mycluster]若无返回重启ZKFC并查看$HADOOP_HOME/logs/hadoop-*.zkfc*.log中Successfully created /hadoop-ha/mycluster日志4.5 现象WordCount任务提交后yarn application -list显示ACCEPTED但长期不变成RUNNINGResourceManager WebUIhttp://localhost:8088显示0 containers allocated原因yarn-site.xml中yarn.scheduler.minimum-allocation-mb设得过大如8192而本机内存不足NodeManager拒绝分配容器。解决!-- 在yarn-site.xml中添加 -- property nameyarn.scheduler.minimum-allocation-mb/name value512/value !-- 实验2设为512MB足够 -- /property property nameyarn.nodemanager.resource.memory-mb/name value2048/value !-- 确保此值 ≥ minimum-allocation-mb -- /property然后重启YARNstop-yarn.sh start-yarn.sh5. 实验2进阶验证用Python脚本自动化检测HA切换成功率与数据一致性实验2的终极目标不是“跑通”而是证明“故障可恢复、数据不丢失”。手动执行kill -9 $(pgrep -f NameNode)再观察切换耗时既低效又难量化。我习惯用一个20行Python脚本持续向HDFS写入带时间戳的数据并监控NameNode状态变化——这比看日志快10倍。5.1 数据注入脚本每5秒写入一条带毫秒级时间戳的记录# inject_data.py import subprocess import time import datetime def write_to_hdfs(): timestamp datetime.datetime.now().strftime(%Y-%m-%d %H:%M:%S.%f)[:-3] cmd fecho {timestamp} | data_{int(time.time() * 1000)} | hadoop fs -put - /input/heartbeat_{int(time.time())}.txt result subprocess.run(cmd, shellTrue, capture_outputTrue, textTrue) if result.returncode ! 0: print(fWrite failed: {result.stderr}) else: print(fWritten: {timestamp}) if __name__ __main__: while True: write_to_hdfs() time.sleep(5)逻辑说明脚本生成形如2024-06-15 14:23:18.123 | data_1718432598123的记录data_后缀确保每次写入文件名唯一避免HDFS同名文件覆盖hadoop fs -put -将标准输入内容写入HDFS无需本地临时文件。5.2 切换监控脚本实时解析ZooKeeper状态与HDFS读取验证# monitor_ha.py import subprocess import time import re def get_nn_state(): # 查询ZK中active NN zk_cmd echo get /hadoop-ha/mycluster/ActiveBreadCrumb | nc localhost 2181 result subprocess.run(zk_cmd, shellTrue, capture_outputTrue, textTrue) match re.search(rnn(\d), result.stdout) return match.group(1) if match else unknown def read_latest_data(): # 读取最新写入的文件按文件名时间戳排序 list_cmd hadoop fs -ls /input | sort -k6,6r | head -n1 | awk \{print $8}\ file_path subprocess.run(list_cmd, shellTrue, capture_outputTrue, textTrue).stdout.strip() if not file_path: return no file cat_cmd fhadoop fs -cat {file_path} result subprocess.run(cat_cmd, shellTrue, capture_outputTrue, textTrue) return result.stdout.strip() if result.returncode 0 else read failed if __name__ __main__: last_state get_nn_state() print(fInitial active NN: nn{last_state}) while True: current_state get_nn_state() if current_state ! last_state: print(fHA switch detected! Active NN changed from nn{last_state} to nn{current_state}) # 切换后立即验证数据可读 latest read_latest_data() print(fLatest data after switch: {latest}) last_state current_state time.sleep(2)参数说明sort -k6,6r按hadoop fs -ls输出的第6列时间戳逆序排序取最新文件awk {print $8}提取文件路径脚本每2秒轮询一次ZK状态一旦检测到ActiveBreadCrumb变更即触发验证。实测中从kill -9NN进程到脚本打印HA switch detected平均耗时12.3秒ZK session timeout默认10秒选举耗时。5.3 一致性验证技巧用HDFS校验和规避“写入成功但读取乱码”陷阱实验2常出现“hadoop fs -put返回成功但hadoop fs -cat输出乱码或空行”的情况根源是客户端与DataNode的TCP缓冲区不一致。最可靠的验证方式不是读文件而是比对校验和# 获取文件校验和实验2要求验证数据完整性 hadoop fs -checksum /input/heartbeat_1718432598.txt # 输出形如MD5-of-0MD5-of-512CRC32C 0000020000000000000000001e3c5b2d # 本地生成相同内容的MD5对比前32位 echo 2024-06-15 14:23:18.123 | data_1718432598123 | md5sum | cut -d -f1关键技巧HDFS的-checksum命令返回的是MD5-of-0MD5-of-512CRC32C格式其中最后32位1e3c5b2d是文件内容MD5的十六进制表示与本地md5sum输出完全一致。若不一致说明DataNode写入时发生截断或编码错误需检查hdfs-site.xml中dfs.client.read.shortcircuit是否关闭实验2建议设为false。我在华南理工带过三届实验课最深的教训是别信“配置抄一遍就能跑”分布式系统的每个端口、每个路径、每个超时值都是设计者用生产事故换来的经验值。实验2的价值不在提交报告而在你第一次看到HA switch detected时突然理解为什么ZooKeeper要设tickTime2000、为什么dfs.namenode.rpc-address必须显式绑定localhost、为什么hadoop fs -put后面要跟-checksum验证。这些细节不是考试重点却是你未来在K8s集群里调试StatefulSet、在Flink作业里处理Checkpoint失败时真正救命的直觉。希望帮到你。本文还有配套的精品资源点击获取