Yarn

Yarn

yarn是怎么管理节点的？

回复

Yarn zxx99 发起了问题 • 1 人关注 • 0 个回复 • 114 次浏览 • 2020-01-02 09:40 • 来自相关话题

3台机器，start-yarn.sh之后，各个服务都成功启动了，但是Master:8088里的active nodes的数量一直为1.

回复

Yarn fly321283 发起了问题 • 1 人关注 • 0 个回复 • 244 次浏览 • 2019-11-01 16:47 • 来自相关话题

老师您好，我在三台机器使用ambari搭建了集群，使用tez执行hive任务时，明明查询结果已经返回，但是程序还在占用资源，该怎么办呢？

回复

Yarn car2008 回复了问题 • 1 人关注 • 3 个回复 • 1437 次浏览 • 2018-11-26 15:27 • 来自相关话题

NodeManager无法连接到ResourceManager

Yarn fish 回复了问题 • 2 人关注 • 1 个回复 • 1613 次浏览 • 2017-06-09 11:13 • 来自相关话题

yarn和hdfs关系

Yarn fish 回复了问题 • 2 人关注 • 1 个回复 • 1715 次浏览 • 2017-05-02 18:17 • 来自相关话题

hadoop-2.7.3+zookeeper-3.4.8+hbase-1.2.2 HA 两个ResourceManager无法启动（急）

Yarn Dong 回复了问题 • 2 人关注 • 1 个回复 • 976 次浏览 • 2017-04-26 18:54 • 来自相关话题

集群部署问题

Yarn fish 回复了问题 • 3 人关注 • 2 个回复 • 695 次浏览 • 2017-04-07 10:26 • 来自相关话题

Hadoop yarn基于deadline的调度器如何获取用户输入的deadline

Yarn Dong 回复了问题 • 3 人关注 • 2 个回复 • 750 次浏览 • 2017-03-21 07:54 • 来自相关话题

不用zookeeper 只使用HA+yarn主备resourceManager如何配置？

Yarn fish 回复了问题 • 3 人关注 • 2 个回复 • 1925 次浏览 • 2017-02-09 09:37 • 来自相关话题

yarn 基于标签调度的问题

Yarn wangxiaolei 回复了问题 • 2 人关注 • 3 个回复 • 1513 次浏览 • 2017-01-06 14:45 • 来自相关话题

Yarn容器调度器(Capacity Scheduler)

回复

Yarn 亡命天涯 发起了问题 • 2 人关注 • 0 个回复 • 2052 次浏览 • 2016-12-13 14:13 • 来自相关话题

yarn中的ResourceManger Restart与NodeManager Restart

Yarn fish 回复了问题 • 2 人关注 • 1 个回复 • 1402 次浏览 • 2016-12-09 23:41 • 来自相关话题

Yarn Container 怎么划分CPU资源

Yarn fish 回复了问题 • 2 人关注 • 1 个回复 • 2415 次浏览 • 2016-10-14 23:50 • 来自相关话题

capacity-scheduler调度器的default队列，执行任务卡在ACCEPTED阶段

Yarn fish 回复了问题 • 3 人关注 • 11 个回复 • 2612 次浏览 • 2016-09-13 14:59 • 来自相关话题

如何动态增减yarn集群中的机器？

Yarn wangxiaolei 回复了问题 • 3 人关注 • 2 个回复 • 2104 次浏览 • 2016-07-26 18:51 • 来自相关话题

Hadoop Yarn中，配置队列资源使用百分比的时候，是如何计算资源的百分比的？是CPU还是内存？比如说整个集群有100G内存和12核，一个任务占用了10G内存和4个CPU，那这个任务占用了多少百分比的资源呢？

Yarn fish 回复了问题 • 2 人关注 • 1 个回复 • 2031 次浏览 • 2016-07-20 23:46 • 来自相关话题

关于yarn中的applicationmaster疑问

Yarn wangxiaolei 回复了问题 • 2 人关注 • 1 个回复 • 1646 次浏览 • 2016-07-18 18:37 • 来自相关话题

Hadoop2.x中MRAppMaster中用启动用户任务的父进程实现

Yarn fish 回复了问题 • 3 人关注 • 2 个回复 • 1448 次浏览 • 2016-07-06 17:09 • 来自相关话题

zeppelin on yarn，在启动后，任务在什么时候会被杀死

Yarn fish 回复了问题 • 2 人关注 • 1 个回复 • 2156 次浏览 • 2016-05-31 22:05 • 来自相关话题

yarn运行时一直重复这个info...好像没找到资源，应该从哪里检查呢？

Yarn fish 回复了问题 • 2 人关注 • 1 个回复 • 1316 次浏览 • 2016-05-18 13:51 • 来自相关话题

更多...

yarn是怎么管理节点的？

回复

Yarn zxx99 发起了问题 • 1 人关注 • 0 个回复 • 114 次浏览 • 2020-01-02 09:40 • 来自相关话题

3台机器，start-yarn.sh之后，各个服务都成功启动了，但是Master:8088里的active nodes的数量一直为1.

回复

Yarn fly321283 发起了问题 • 1 人关注 • 0 个回复 • 244 次浏览 • 2019-11-01 16:47 • 来自相关话题

老师您好，我在三台机器使用ambari搭建了集群，使用tez执行hive任务时，明明查询结果已经返回，但是程序还在占用资源，该怎么办呢？

回复

Yarn car2008 回复了问题 • 1 人关注 • 3 个回复 • 1437 次浏览 • 2018-11-26 15:27 • 来自相关话题

NodeManager无法连接到ResourceManager

回复

Yarn fish 回复了问题 • 2 人关注 • 1 个回复 • 1613 次浏览 • 2017-06-09 11:13 • 来自相关话题

yarn和hdfs关系

回复

Yarn fish 回复了问题 • 2 人关注 • 1 个回复 • 1715 次浏览 • 2017-05-02 18:17 • 来自相关话题

hadoop-2.7.3+zookeeper-3.4.8+hbase-1.2.2 HA 两个ResourceManager无法启动（急）

回复

Yarn Dong 回复了问题 • 2 人关注 • 1 个回复 • 976 次浏览 • 2017-04-26 18:54 • 来自相关话题

集群部署问题

回复

Yarn fish 回复了问题 • 3 人关注 • 2 个回复 • 695 次浏览 • 2017-04-07 10:26 • 来自相关话题

Hadoop yarn基于deadline的调度器如何获取用户输入的deadline

回复

Yarn Dong 回复了问题 • 3 人关注 • 2 个回复 • 750 次浏览 • 2017-03-21 07:54 • 来自相关话题

不用zookeeper 只使用HA+yarn主备resourceManager如何配置？

回复

Yarn fish 回复了问题 • 3 人关注 • 2 个回复 • 1925 次浏览 • 2017-02-09 09:37 • 来自相关话题

yarn 基于标签调度的问题

回复

Yarn wangxiaolei 回复了问题 • 2 人关注 • 3 个回复 • 1513 次浏览 • 2017-01-06 14:45 • 来自相关话题

Yarn容器调度器(Capacity Scheduler)

回复

Yarn 亡命天涯 发起了问题 • 2 人关注 • 0 个回复 • 2052 次浏览 • 2016-12-13 14:13 • 来自相关话题

yarn中的ResourceManger Restart与NodeManager Restart

回复

Yarn fish 回复了问题 • 2 人关注 • 1 个回复 • 1402 次浏览 • 2016-12-09 23:41 • 来自相关话题

Yarn Container 怎么划分CPU资源

回复

Yarn fish 回复了问题 • 2 人关注 • 1 个回复 • 2415 次浏览 • 2016-10-14 23:50 • 来自相关话题

关于yarn模式的spark的安装

回复

Spark 小谦 回复了问题 • 4 人关注 • 5 个回复 • 2481 次浏览 • 2016-09-19 15:51 • 来自相关话题

capacity-scheduler调度器的default队列，执行任务卡在ACCEPTED阶段

回复

Yarn fish 回复了问题 • 3 人关注 • 11 个回复 • 2612 次浏览 • 2016-09-13 14:59 • 来自相关话题

如何动态增减yarn集群中的机器？

回复

Yarn wangxiaolei 回复了问题 • 3 人关注 • 2 个回复 • 2104 次浏览 • 2016-07-26 18:51 • 来自相关话题

Hadoop Yarn中，配置队列资源使用百分比的时候，是如何计算资源的百分比的？是CPU还是内存？比如说整个集群有100G内存和12核，一个任务占用了10G内存和4个CPU，那这个任务占用了多少百分比的资源呢？

回复

Yarn fish 回复了问题 • 2 人关注 • 1 个回复 • 2031 次浏览 • 2016-07-20 23:46 • 来自相关话题

关于yarn中的applicationmaster疑问

回复

Yarn wangxiaolei 回复了问题 • 2 人关注 • 1 个回复 • 1646 次浏览 • 2016-07-18 18:37 • 来自相关话题

Hadoop2.x中MRAppMaster中用启动用户任务的父进程实现

回复

Yarn fish 回复了问题 • 3 人关注 • 2 个回复 • 1448 次浏览 • 2016-07-06 17:09 • 来自相关话题

zeppelin on yarn，在启动后，任务在什么时候会被杀死

回复

Yarn fish 回复了问题 • 2 人关注 • 1 个回复 • 2156 次浏览 • 2016-05-31 22:05 • 来自相关话题

更多...

资源管理框架（mesos/YARN/coraca/Torca/Omega)选型分析

Mesos 唐半张 发表了文章 • 0 个评论 • 2063 次浏览 • 2015-10-09 10:26 • 来自相关话题

1 资源调度的目标和价值 1.1 子系统高效调度 任务之间资源隔离，减少争抢。 任务分配调度时结合资源分配，各个任务分配合理的资源，充分利用系统资源，减少资源利用不充分的问题。 资源调度结合优先级，优先级高的分配更多的资源。 1.2 提高全系统的资源利用率 各...
查看更多

yarn(hadoop2)框架的一些软件设计模式

Yarn 唐半张 发表了文章 • 0 个评论 • 1133 次浏览 • 2015-10-09 09:30 • 来自相关话题

yarn(hadoop2)框架的一些软件设计模式 一、概述 我们都知道，yarn版本的hadoop无论是从架构上面还是软件设计的层面上面都比原始的hadoop版本有较大的改进。在架构方面，我们认为yarn模式是新一代的框架，这个在官方等丛多的资料中说明得很...
查看更多

基于大数据分析系统Hadoop的13个开源工具

Hadoop 唐半张 发表了文章 • 0 个评论 • 1827 次浏览 • 2015-10-09 09:24 • 来自相关话题

Hadoop是由Apache基金会开发的一个大数据分布式系统基础架构，最早版本是2003年原Yahoo!DougCutting根据Google发布的学术论文研究而来。用户可以在不了解分布式底层细节的情况下，轻松地在Hadoop上开发和运行处理海量数据的应用程...
查看更多

yarn distributedshell client 代码分析

Yarn 唐半张 发表了文章 • 0 个评论 • 1370 次浏览 • 2015-10-09 09:23 • 来自相关话题

在网上找了distributedshell client 代码分析，分享给大家 程序流程： 1. 通过ClientRMProtocol协议向ApplicationsManager(ASM)取得ApplicationId 2. 初始化Applica...
查看更多

如何运行YARN中的DistributedShell程序

Yarn 唐半张 发表了文章 • 0 个评论 • 1460 次浏览 • 2015-10-09 09:22 • 来自相关话题

本文介绍YARN自带的一个非常简单的应用程序实例—distributedshell的使用方法。它可以看做YARN编程中的“hello world”，主要功能是并行执行用户提供的shell命令或者shell脚本。 （1）运行参数介绍 Distributed...
查看更多

解析Hadoop新一代MapReduce框架Yarn

Hadoop 唐半张 发表了文章 • 0 个评论 • 1415 次浏览 • 2015-10-08 10:43 • 来自相关话题

背景 Yarn是一个分布式的资源管理系统，用以提高分布式的集群环境下的资源利用率，这些资源包括内存、IO、网络、磁盘等。其产生的原因是为了解决原MapReduce框架的不足。最初MapReduce的committer们还可以周期性的在已有的代码上进行修改，...
查看更多

YARN中运行应用程序的基本流程

Yarn 唐半张 发表了文章 • 0 个评论 • 1810 次浏览 • 2015-10-08 10:41 • 来自相关话题

当用户向YARN中提交一个应用程序后，YARN将分两个阶段运行该应用程序：第一个阶段是启动ApplicationMaster；第二个阶段是由ApplicationMaster创建应用程序，为它申请资源，并监控它的整个运行过程，直到运行完成。如图2-11所示，...
查看更多

Yarn(MR2)上的应用汇总

Yarn 唐半张 发表了文章 • 0 个评论 • 1207 次浏览 • 2015-10-08 10:40 • 来自相关话题

Yarn做为hadoop下一代集群资源管理和调度平台, 其上能支持多种计算框架, 本文就简要介绍一下这些计算框架. 1.       MapReduce 首先是大家熟悉的mapreduce, 在MR2之前, hadoop包括HDFS和mapredu...
查看更多

YARN应用场景、原理与基本架构

Yarn 唐半张 发表了文章 • 0 个评论 • 1736 次浏览 • 2015-10-08 10:39 • 来自相关话题

YARN应用场景、原理与基本架构 (1) YARN概念解释 ResourceManager: 整个集群的资源管理器，负责集群资源的统一管理与调度，包括处理客户端请求，启动和监控ApplicationMaster，监控NodeManager，进行资源的统一调...
查看更多

Hadoop YARN中内存和CPU两种资源的调度和隔离

Yarn 唐半张 发表了文章 • 0 个评论 • 1263 次浏览 • 2015-10-08 10:39 • 来自相关话题

Hadoop YARN中内存和CPU两种资源的调度和隔离 Hadoop  YARN同时支持内存和CPU两种资源的调度（默认只支持内存，如果想进一步调度CPU，需要自己进行一些配置），本文将介绍YARN是如何对这些资源进行调度和隔离的。 在YARN中，资源管...
查看更多

YARN ResourceManager调度器的分析

Yarn 唐半张 发表了文章 • 0 个评论 • 1085 次浏览 • 2015-10-08 10:22 • 来自相关话题

YARN是Hadoop新版中的资源控制框架。本文旨在深入剖析ResourceManager的调度器，探讨三种调度器的设计侧重，最后给出一些配置建议和参数解释。 本文分析基于CDH4.2.1。调度器这个部分目前还在快速变化之中。例如，CPU资源分配等特性在不...
查看更多

yarn(hadoop2)框架的一些软件设计模式

Yarn 唐半张 发表了文章 • 0 个评论 • 1040 次浏览 • 2015-10-08 10:00 • 来自相关话题

一、概述 我们都知道，yarn版本的hadoop无论是从架构上面还是软件设计的层面上面都比原始的hadoop版本有较大的改进。在架构方面，我们认为yarn模式是新一代的框架，这个在官方等丛多的资料中说明得很详细了。在软件设计方面，我认为主要有以下的一些大的...
查看更多

yarn fairscheduler原理与配置

Yarn 唐半张 发表了文章 • 0 个评论 • 953 次浏览 • 2015-10-08 09:58 • 来自相关话题

MAPREDUCE-3451, 把fairScheduler引入到2.0.2-alpha, 本文介绍一下hadoop 2.0.2-alpha的fairscheduler. 包括调度算法和配置方法. 代码 在org.apache.hadoop.yarn...
查看更多

Hadoop Yarn 框架原理及运作机制

Hadoop 唐半张 发表了文章 • 0 个评论 • 1084 次浏览 • 2015-10-08 09:28 • 来自相关话题

                        从业界使用分布式系统的变化趋势和 hadoop 框架的长远发展来看，MapReduce 的 JobTracker/TaskTracker 机制需要大规模的调整来修复它在可扩展性，内存消耗，线程模型，可靠性和性能...
查看更多

YARN ResourceManager调度器分析

Yarn 唐半张 发表了文章 • 0 个评论 • 1456 次浏览 • 2015-10-07 10:36 • 来自相关话题

YARN是Hadoop新版中的资源控制框架。本文旨在深入剖析ResourceManager的调度器，探讨三种调度器的设计侧重，最后给出一些配置建议和参数解释。 本文分析基于CDH4.2.1。调度器这个部分目前还在快速变化之中。例如，CPU资源分配等特性在不就的...
查看更多

Hadoop 新 MapReduce 框架 Yarn 详解

Yarn 唐半张 发表了文章 • 0 个评论 • 1125 次浏览 • 2015-10-07 10:28 • 来自相关话题

对于业界的大数据存储及分布式处理系统来说，Hadoop 是耳熟能详的卓越开源分布式文件存储及处理框架，对于 Hadoop 框架的介绍在此不再累述，读者可参考  Hadoop 官方简介 。使用和学习过老 Hadoop 框架（0.20.0 及之前版本）的...
查看更多

hadoop 2.0 yarn应用程序的执行流程和开发

Yarn 唐半张 发表了文章 • 0 个评论 • 1732 次浏览 • 2015-10-07 09:46 • 来自相关话题

在 yarn 的官方文档上有一篇很经典的 Hadoop MapReduce Next Generation – Writing YARN Applications ，讲述了如果编写基于 hadoop  2.0  yarn 的应...
查看更多

MapReduce2.0（Yarn）

Yarn 唐半张 发表了文章 • 0 个评论 • 953 次浏览 • 2015-10-06 11:26 • 来自相关话题

MapReduce2.0是在Hadoop0.23开始采用的，叫做MapReduce2.0或者MRv2或者Yarn。 MRv2的主要思想是把jobtracker的任务分为两个基本的功能，一个是资源管理，一个是任务监控，这两个任务分别用不同的进程来运行。这...
查看更多

yarn(hadoop2)框架的一些软件设计模式

Yarn 唐半张 发表了文章 • 0 个评论 • 1585 次浏览 • 2015-10-06 11:10 • 来自相关话题

一、概述 我们都知道，yarn版本的hadoop无论是从架构上面还是软件设计的层面上面都比原始的hadoop版本有较大的改进。在架构方面，我们认为yarn模式是新一代的框架，这个在官方等丛多的资料中说明得很详细了。在软件设计方面，我认为主要有以下的一些大...
查看更多

Hadoop 新 MapReduce 框架 Yarn 详解

Hadoop 唐半张 发表了文章 • 0 个评论 • 1285 次浏览 • 2015-09-30 10:27 • 来自相关话题

Hadoop MapReduceV2(Yarn) 框架简介 原 Hadoop MapReduce 框架的问题 对于业界的大数据存储及分布式处理系统来说，Hadoop 是耳熟能详的卓越开源分布式文件存储及处理框架，对于 Hadoop 框架的介绍在此不再累述，读者...
查看更多
更多...
Copyright © 2020