hadoop - 一台机器上的多个单节点集群
问题描述
Hadoop 提供了用于测试目的的小型集群 CLI。但是,在我需要 2 个集群进行测试的情况下,是否可以在一台机器上运行这个迷你集群的多个实例?还是我需要使用 VM 或其他机器?
解决方案
根据 Hadoop
使用 CLI MiniCluster,用户可以通过单个命令简单地启动和停止单节点 Hadoop 集群,而无需设置任何环境变量或管理配置文件。CLI MiniCluster 启动 YARN/MapReduce 和 HDFS 集群。
由于 MiniCluster 对 Datanode、Namenode 等使用默认端口,因此建议使用另一台机器或运行在不同的虚拟机上。但是,如果您更改了第二个 mini-cluster 的 bin 目录和所有默认端口,您可以在一台机器上运行多个 mini-cluster,这非常混乱,不推荐使用。
推荐阅读
- html - HTML 和 CSS 文件在 chrome 中不起作用,错误?
- kivy - Kivy 示例代码的 Permisson Denied 错误
- python-3.x - 我正在尝试在 mac os 中安装 pandas (python3.9) 并遇到错误
- bash - 这是管道命令吗?
- python - 程序未根据设置条件打印信息
- python-3.x - 使用顺序特征 Matplotlib 在 Barplot 中排序颜色
- sql-server - 如果在分组中为 null,则显示 0 值,但仅在 SQL 中的特定条件下
- python - 在python中,如何在没有日期的暂停库中暂停直到某个时间
- amazon-web-services - 使用 AWS ALB 的第一个请求响应缓慢
- kubernetes - 与 Kubernetes 配对的 Azure Cloud 中的 NEG Google Cloud 相似性