请教mesos,k8s,spark,马拉松,swarm,zookeeper,map-spark reducebywindow

有这些问题:&br&&br& 1、Google now 部分功能无法使用。得弄个国外的SIM卡重启再打开now卡片就好了。 &br&&br&2、地理位置历史记录在国内无法启用&br&&img src=&/b8db2cae10b50a3fcb05_b.jpg& data-rawheight=&1734& data-rawwidth=&1080& class=&origin_image zh-lightbox-thumb& width=&1080& data-original=&/b8db2cae10b50a3fcb05_r.jpg&&&br&&br&这会导致Google now的一部分基于位置的服务、健身应用(Google Fit)、地图的历史记录无法使用。&br&&br&3、其他诸如钱包(Google wallet)、新闻之类的服务,并不是在每个国家都提供(不仅仅是中国),所以除非连接了启用这些服务的国家的VPN,也是不能用的。
有这些问题: 1、Google now 部分功能无法使用。得弄个国外的SIM卡重启再打开now卡片就好了。 2、地理位置历史记录在国内无法启用 这会导致Google now的一部分基于位置的服务、健身应用(Google Fit)、地图的历史记录无法使用。 3、其他诸如钱包(Google w…
&blockquote&10月28日讯 据台湾“联合新闻网”报道,香港富商黄煜坤遭绑架,绑匪要求以“比特币”支付付赎金,颠覆传统手法;比特币在台湾并不被视为有效货币,且具有高度私密性,警方毫无这方面专业,专业小组不讳言,赎金只要付出,根本无法追踪,“比特币比人头户还难追”。&br&&/blockquote&骚年,你的预言已经出现在现实生活中:&a href=&///?target=http%3A///4599403& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&香港富商遭绑要求比特币付赎金7000万港币,警方恶补相关知识&i class=&icon-external&&&/i&&/a&
10月28日讯 据台湾“联合新闻网”报道,香港富商黄煜坤遭绑架,绑匪要求以“比特币”支付付赎金,颠覆传统手法;比特币在台湾并不被视为有效货币,且具有高度私密性,警方毫无这方面专业,专业小组不讳言,赎金只要付出,根本无法追踪,“比特币比人头户还…
在http请求包中伪造下X-Forwarded-For字段 改成例如:朝鲜IP(联合国也一样) 175.45.176.0&br&方法的话 chrome和火狐上都有插件 搜索下X-Forwarded-For试试&br&我想我已经讲的很清楚了吧&br&so&br&&img src=&/aee9da10c3b7b82d758026f_b.jpg& data-rawwidth=&686& data-rawheight=&150& class=&origin_image zh-lightbox-thumb& width=&686& data-original=&/aee9da10c3b7b82d758026f_r.jpg&&
嗯 在http请求包中伪造下X-Forwarded-For字段 改成例如:朝鲜IP(联合国也一样) 175.45.176.0 方法的话 chrome和火狐上都有插件 搜索下X-Forwarded-For试试 我想我已经讲的很清楚了吧 so
hashinfo抓取&a href=&///?target=http%3A//www.bittorrent.org/beps/bep_0005.html& class=& external& target=&_blank& rel=&nofollow noreferrer&&&span class=&invisible&&http://www.&/span&&span class=&visible&&bittorrent.org/beps/bep&/span&&span class=&invisible&&_0005.html&/span&&span class=&ellipsis&&&/span&&i class=&icon-external&&&/i&&/a&&br&metainfo获取&a href=&///?target=http%3A//www.bittorrent.org/beps/bep_0009.html& class=& external& target=&_blank& rel=&nofollow noreferrer&&&span class=&invisible&&http://www.&/span&&span class=&visible&&bittorrent.org/beps/bep&/span&&span class=&invisible&&_0009.html&/span&&span class=&ellipsis&&&/span&&i class=&icon-external&&&/i&&/a&和&a href=&///?target=http%3A//www.bittorrent.org/beps/bep_0010.html& class=& external& target=&_blank& rel=&nofollow noreferrer&&&span class=&invisible&&http://www.&/span&&span class=&visible&&bittorrent.org/beps/bep&/span&&span class=&invisible&&_0010.html&/span&&span class=&ellipsis&&&/span&&i class=&icon-external&&&/i&&/a&&br&metainfo解析&a href=&///?target=http%3A//www.bittorrent.org/beps/bep_0002.html& class=& external& target=&_blank& rel=&nofollow noreferrer&&&span class=&invisible&&http://www.&/span&&span class=&visible&&bittorrent.org/beps/bep&/span&&span class=&invisible&&_0002.html&/span&&span class=&ellipsis&&&/span&&i class=&icon-external&&&/i&&/a&&br&&br&看完第一个链接,请牢记&DHT爬虫的目的是加入到其它node的router table,并且最好是他自己在的那个bucket,距目标node的距离越近越好,这样的话,他有啥事都会找你,你给他想要的信息,留下他的信息&,再去重温routing table一节,理解后你也能2小时写个爬虫。(这就是DHT爬虫的全部,很简单。至于说how之类的,还是自己理解吧)&br&&br&代码可以参考&a href=&///?target=https%3A///anacrolix/torrent& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&GitHub - anacrolix/torrent: Full-featured BitTorrent client package and utilities&i class=&icon-external&&&/i&&/a&只看client.go即可。&br&&br&如果只实现第一步很简单,1个小时的coding就搞定。如果还要实现第二步,那就麻烦点,其实也不难,主要是对内存、cpu和服务器调优是个考验。&br&&br&自我推荐一下我写的&a href=&///?target=http%3A//& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&Engiy - Bittorrent magant link search engine&i class=&icon-external&&&/i&&/a&&br&hashinfo一天可以获取300万以上。&br&metainfo一天可以抓取15万左右(去重后)。&br&&br&&br&============更新==========&br&很多朋友问vps在哪里。。。&br&用的是vultr日本节点,传送门带了我的邀请码。。反感的就直接搜vultr吧。&br&&a href=&///?target=http%3A///%3Fref%3DB& class=& external& target=&_blank& rel=&nofollow noreferrer&&&span class=&invisible&&http://www.&/span&&span class=&visible&&/?&/span&&span class=&invisible&&ref=B&/span&&span class=&ellipsis&&&/span&&i class=&icon-external&&&/i&&/a&
hashinfo抓取 metainfo获取和 metainfo解析 看完第一个链接,请牢记"DHT爬虫的目的是加入到其它node的router table,并且最好是他自己在的那个bucket,距目标node的距离…
我说一下我经常用的:&a href=&///?target=http%3A//& class=& external& target=&_blank& rel=&nofollow noreferrer&&&span class=&invisible&&http://&/span&&span class=&visible&&&/span&&span class=&invisible&&&/span&&i class=&icon-external&&&/i&&/a& 是离线下载,下载过程HTTPS加密,属于收费服务,无流量限制,是同类型服务中价格最便宜的。接受BT种子文件和磁链。速度嘛,最快24MB/s,这两天慢点,15MB/s。我的ISP是RCN,承诺的330Mbps的下行,20Mbps的上行。&br&&br&UPDATE:&br&昨天下载的下行达到了42MB/s 。 看来ISP还是比较良心的。&br&&br&UPDATE:&br&qtnow已经倒闭,源码5000刀贱卖。现在在用TorrentSafe ,有兴趣可以自行Google。
我说一下我经常用的: 是离线下载,下载过程HTTPS加密,属于收费服务,无流量限制,是同类型服务中价格最便宜的。接受BT种子文件和磁链。速度嘛,最快24MB/s,这两天慢点,15MB/s。我的ISP是RCN,承诺的330Mbps的下行,20Mbps的上行。 UPDA…
投诉给运营商客服之后,如果问题仍然没有得到解决,就去工信部网站上投诉。移动的人就会主动打电话给你了。
投诉给运营商客服之后,如果问题仍然没有得到解决,就去工信部网站上投诉。移动的人就会主动打电话给你了。
毫无疑问是emule&br&&br&注意结合全局服务器和KAD搜索
毫无疑问是emule 注意结合全局服务器和KAD搜索
试用了一下迅雷,觉得这玩意真不可思议!&br&用迅雷和firefox+DTA下载一个软件,迅雷的速度居然远逊与FX+DTA,这是什么逻辑?非会员下普通的资源也限速?再说迅雷不限速的自己去测试一下再说吧。
试用了一下迅雷,觉得这玩意真不可思议! 用迅雷和firefox+DTA下载一个软件,迅雷的速度居然远逊与FX+DTA,这是什么逻辑?非会员下普通的资源也限速?再说迅雷不限速的自己去测试一下再说吧。
用spark。&br&mapreduce的设计,本来就是中间结果保存到文件,这样可以提高可靠性,减少内存占用,但是牺牲了性能,spark数据在内存中进行交换,要快一些,但是可靠性肯定没法和mapreduce比,萝卜白菜,可有所爱吧
用spark。 mapreduce的设计,本来就是中间结果保存到文件,这样可以提高可靠性,减少内存占用,但是牺牲了性能,spark数据在内存中进行交换,要快一些,但是可靠性肯定没法和mapreduce比,萝卜白菜,可有所爱吧
用C++有意义,用C没意义。C写好kernel就行了。
用C++有意义,用C没意义。C写好kernel就行了。
我最近研究了国内外十几个项目管理产品,推荐:basecampe:那是真的好,简洁颠覆业界;tower: 完全模仿bc,我不知道该怎么评价它;domyPP:新产品,以项目进度表为核心,恢复被basecamp们放弃的甘特图;trello:能管理各种大小事情。
我最近研究了国内外十几个项目管理产品,推荐:basecampe:那是真的好,简洁颠覆业界;tower: 完全模仿bc,我不知道该怎么评价它;domyPP:新产品,以项目进度表为核心,恢复被basecamp们放弃的甘特图;trello:能管理各种大小事情。
现在国内对项目管理软件的重视度还不够,稍微有一些开始重视了,但数量还不是很多。类似的项目管理软件我觉得&a href=&///?target=http%3A//& class=& external& target=&_blank& rel=&nofollow noreferrer&&&span class=&invisible&&http://www.&/span&&span class=&visible&&&/span&&span class=&invisible&&&/span&&i class=&icon-external&&&/i&&/a&就还不错,很容易上手、界面也很干净
现在国内对项目管理软件的重视度还不够,稍微有一些开始重视了,但数量还不是很多。类似的项目管理软件我觉得就还不错,很容易上手、界面也很干净
已解决:先忽略此网络,然后设置HTTP代理(此时并未连接WiFi);再连接WIFI,此时刚才设置的(HTTP)代理已消失,于是再设置一次(HTTP)代理,再回来(WiFi界面),再进去(点感叹号)看就有了。注意顺序。
已解决:先忽略此网络,然后设置HTTP代理(此时并未连接WiFi);再连接WIFI,此时刚才设置的(HTTP)代理已消失,于是再设置一次(HTTP)代理,再回来(WiFi界面),再进去(点感叹号)看就有了。注意顺序。
就这两个offer看,选百度。&br&&br&立场相关,不便细谈。
就这两个offer看,选百度。 立场相关,不便细谈。
纠正两个基本概念:&br&1,卫星通信的基础是卫星在天空提供一个信道,目的是联通两个陆地上本来无法通过常规手段联通的目标。海事卫星通信手段是建立用户和海事关口站的连接,之后将你的话务接入运营商网络,网络业务接入internet。同一个系统,比如铱星系统,讲究就近入网原则,中国的关口站在北京上庄地区,交通部地面站。&br&2,卫星发射接收的信号不是无死角覆盖的。众所周知,一个同步通信卫星最大覆盖1/3地球区域。每颗卫星大概有40-60个不等的转发器,每个转发器会指向一个商业目标角度,这个角度在地图上大概是1.5度*1.5度的区域,如果从天上看是很小的。欧美两个区卫星覆盖比较均匀且丰富,中东区是比较差的,举个简单例子,中国台湾以东基本上每个卫星个EIRP都很低。所以你本身也连不上挪拉泛美之类的卫星,就算你能收到他的信标,他的EIRP也完全不够你连上去。
纠正两个基本概念: 1,卫星通信的基础是卫星在天空提供一个信道,目的是联通两个陆地上本来无法通过常规手段联通的目标。海事卫星通信手段是建立用户和海事关口站的连接,之后将你的话务接入运营商网络,网络业务接入internet。同一个系统,比如铱星系统,…
远程调用应该是返回2万条数据了,40列数据,每列按4byte(32位)算&br&&br&4byte * 40 * 20000 = 3,200,000byte = 3Mb&br&&br&在10-1秒内传回本地,占用带宽 3Mb / 9 * 8 = 2.7Mbps&br&&br&考虑到4Mbps的网络和少估算的数据量,很正常了。
远程调用应该是返回2万条数据了,40列数据,每列按4byte(32位)算 4byte * 40 * 20000 = 3,200,000byte = 3Mb 在10-1秒内传回本地,占用带宽 3Mb / 9 * 8 = 2.7Mbps 考虑到4Mbps的网络和少估算的数据量,很正常了。
我今天才知道天狮集团 已经被震惊了 被惊呆了 下边上个新闻给你们看看&br&天狮集团在公司20周年之际,带着约6500名员工在法国进行了豪华四日游。图为国外媒体报道截图&br&&br&
这两天,欧洲人被中国一家公司“震惊”到了。&br&&br&
5月6日至9日,来自中国天津的保健品直销公司天狮集团,在为庆祝公司成立20周年,带着约6500名员工在法国进行了豪华四日游,包括法国《巴黎人报》、英国《卫报》和路透社在内的欧洲主流媒体关注了此事。&br&&br&
法国《费加罗报》称,5月8日,法国铁路公司专门为此增加了两列高速列车,并在巴黎的火车站增派了一组由12个人组成的工作小组,专门负责协助中国游客。&br&&br&
法国外交部长洛朗o法比尤斯(Laurent Fabius)称,这是欧洲历史上单团人数最多的一次旅行,有助于低迷的法国经济复苏。5月6日,法比尤斯专门会见了天狮集团董事长李金元。&br&&br&
据法国报纸《巴黎人报》报道,法国外交部发言人7日称,天狮集团的员工旅行团,在巴黎订下了140家酒店。&br&&br&
菲律宾媒体Interaksyon称,李金元为员工在戛纳和摩纳哥的79个四星级、五星级酒店定下4760个房间,以及146辆专门的游览大巴。据预计,李金元将为此次法国游承担至少1300万欧元的费用。&br&&br&
巴黎老佛爷百货甚至为这6500名游客专门开设一层楼退税,还特意抽调了中国员工前去帮忙。新浪微博网友@木湮称,她于5月6日前往老佛爷百货帮忙接待,当天商场里挤满了统一游客挂牌和包的中国人,震惊了整个巴黎。&br&&br&
澎湃新闻(&a href=&///?target=http%3A//& class=& wrap external& target=&_blank& rel=&nofollow noreferrer&&澎湃新闻-专注时政与思想-&i class=&icon-external&&&/i&&/a&)从天狮集团官网上了解到,5月8日,天狮集团在法国尼斯歌剧院庆祝公司成立20周年,仅中国区参会人员就达5500人,分141个团出行,其中800人分别乘坐西安、沈阳两架专机,另外近4700人从北京、上海、广州、西安、杭州、成都分批次出发飞住法国。
这个超级旅行团参观了卢浮宫博物馆和埃菲尔铁塔,并在巴黎停留两日后前往法国南部,天狮集团总共订购了巴黎往返尼斯的7600张TGV(高速列车)火车票。&br&&br&
法国当地时间5月8日下午,尼斯的蔚蓝海岸被天狮员工挤满,6000余名天狮员工分别身穿蓝、白服装,用人体队形创意拼字。根据吉尼斯世界纪录官员的权威认证,现场在规定时间规定地点创纪录的有效人数为6262人,创造了最大规模人体主题创意组字的世界纪录。&br&据现场的人在新浪微博上称,天狮集团的员工光喊口号就喊了两个小时,占满了整个蔚蓝海岸的海滩,法国方面还出动了持枪的武警维持秩序。&br&&br&
虽然土豪公司集体出游让法国人大开眼界,但是有与天狮集团员工同乘飞机飞往法国的游客@空心面面小面小乖毛,在新浪微博上爆料称,天狮集团部分员工在飞机起飞后就开始大声喧哗,甚至直接在飞机上饮酒庆祝20周年生日,引起同机乘客的不满。&br&&br&
这并不是天狮集团第一次惊呆欧洲人。2002年天狮集团在德国柏林召开的年会上,天狮拿出了100辆宝马轿车、32架直升飞机、43艘游艇和6幢别墅,奖励天狮的突出贡献者。&br&&br&
据公司官网,自2000年天狮集团第一届国际年会在俄罗斯首都莫斯科举办之后,天狮至今共在海外6国举办过年会,分别是俄罗斯、泰国、德国、印度尼西亚、肯尼亚、法国。年会,似乎已经成为这家直销公司的秀场。&br&&br&
官网介绍,起家于天津的天狮集团成立于1995年,是一家“横跨生物技术、健康管理、酒店旅游、教育培训、电子商务、金融投资等诸多领域的跨国企业集团”,“天狮集团致力于把自己打造成直销行业的领头羊,在110个国家和地区建立了分公司”。&br&&br&
作为天狮集团董事长的李金元出生于1958年,被称为中国“直销之父”,目前以350亿元的身价位列2015年胡润全球富豪榜的204位。&br&&img src=&/dde_b.jpg& data-rawwidth=&440& data-rawheight=&248& class=&origin_image zh-lightbox-thumb& width=&440& data-original=&/dde_r.jpg&&&br&&img src=&/662a83fceb762_b.jpg& data-rawwidth=&419& data-rawheight=&590& class=&content_image& width=&419&&&br&&br&这是个什么鬼喔~~~~~凌乱中
我今天才知道天狮集团 已经被震惊了 被惊呆了 下边上个新闻给你们看看 天狮集团在公司20周年之际,带着约6500名员工在法国进行了豪华四日游。图为国外媒体报道截图 这两天,欧洲人被中国一家公司“震惊”到了。 5月6日至9日,来自中国天津的保健品直销公司…
推荐jira,属性和流程的可配置性都很好,而且不仅仅是项目管理,还包括了变更管理和缺陷管理等。完全满足你需求,只是要做些定制。&br&&br&在线协作型项目管理国外的有很多,比较出名的是basecamp,国内的可参考everydo,基本可以实现在线的项目管理和跟踪协同。&br&&br&&br&比较正式的建议可以用网络版本的project,工程项目管理方面大型的可以参考P6专业化项目管理软件。其它大型企业的计划管理,项目管理软件基本都定制开发,包括东软,用友等都有专门的项目管理软件。&br&&br&&br&&br&
推荐jira,属性和流程的可配置性都很好,而且不仅仅是项目管理,还包括了变更管理和缺陷管理等。完全满足你需求,只是要做些定制。 在线协作型项目管理国外的有很多,比较出名的是basecamp,国内的可参考everydo,基本可以实现在线的项目管理和跟踪协同。 …
&p&任何Early-access游戏一旦结束EA阶段,那么涨价一倍以上都是正常的,至于说腾讯代理的国服?你先保证能过审不和谐血液再说&/p&
任何Early-access游戏一旦结束EA阶段,那么涨价一倍以上都是正常的,至于说腾讯代理的国服?你先保证能过审不和谐血液再说
这个问题其实归根到底应该是“为什么PT要求用户重新下载种子”&br&&br&个人理解,不保证正确,已修改&br&1、不选中开始做种是因为&b&需要重新下载种子,你自己制作出来的种子是无效的&/b&,如果选了开始做种会直接在UT里添加任务,反而会让用户误解(可以试一下打开自己制作的种子,会报种子未在Tracker注册)&br&&br&2、&b&种子无效的原因是因为PT会对你制作的种子进行修改,而且不仅仅是修改Passkey&/b&(如果只是修改passkey,完全可以让用户制作种子的时候就写上),其他题友都提到了Passkey的问题,实际上最早的PT是要求用户自己填写Passkey的,但是后来他们都改成了重新下载的模式,如果仅仅是Passkey的问题的话,完全没必要修改&br&&br&3、某种作弊行为,我认为指的是这个:一份资源,在多个站点做种,但是UT里面依然只有一个任务的情况。&br&(就是一个任务下面有多个Tracker,注意这和一般的多站续种是不同的,现在的多站续种是多个任务,而不是一个任务)&br&在最早的BYRBT,CGBT,6V,包括U2等公网PT——也就是不需要重新下载种子的的PT,早期的PT都是这样的——都可以这样作弊&br&这样的话,一个站点有上传,所有站点都会统计到流量(其实现在这些站点的老种子有可能还没改过来,如果能在两个站点间找到同样的老种子,现在也一样可以用这种方法)&br&&b&而先上传种子,之后重新下载种子的最主要目的,是为了阻止UT去合并两个资源一样的任务,避免作弊行为。&br&&/b&&br&4、在BYRBT我制作了一个种子上传(我自己填写了正确的Tracker,并且勾选了私有种子),然后下载了新种子进行了比较&br&如下面两张图所示:&br&&img data-rawheight=&198& data-rawwidth=&1199& src=&/616478acdd265e7a7df1c65_b.jpg& class=&origin_image zh-lightbox-thumb& width=&1199& data-original=&/616478acdd265e7a7df1c65_r.jpg&&图1:在Torrents文件头添加了部分内容&br&&br&&img data-rawheight=&86& data-rawwidth=&1280& src=&/5cbb8f8e7c4d39f70c4ecca70c1c60f1_b.jpg& class=&origin_image zh-lightbox-thumb& width=&1280& data-original=&/5cbb8f8e7c4d39f70c4ecca70c1c60f1_r.jpg&&图2:在种子末尾添加了source字段&br&这也说明了我的观点:要重新下载种子,不仅仅是要添加passkey,就算你passkey填写正确了,依然会进行修改,这才是最核心的内容,passkey什么的完全可以强制用户填写。&br&我认为&b&这部分修改就是为了让ut不要去合并种子,避免我上文提到的作弊行为&/b&&br&&br&当然啦,如果你没填写passkey,没有勾选私有种子,现在的tracker也会给你添加上去的。&br&&br&5、我只在BYRBT做了测试,因为我在BYRBT是管理员,发种子删种子都比较方便,去其他PT的话又要候选又不能发了马上删掉,太麻烦了,所以上面的测试结果不保证对各大PT都适用,毕竟PT的作弊技术和反作弊技术都在发展,最近某站还能盗取其他PT的流量,相信将来也会有其他反作弊技术,种子文件的内容还会继续变化的吧&br&&br&【下面这部分是我搞错了,知乎没有删除线么?】&br&【具体说下,这是因为一般的BT的种子,只会根据资源文件本身计算分块hash,形成种子文件,如果资源本身没有变,分块大小没有变,那么同样的资源出来的种子,在hash那个字段的值肯定是一样的,所以ut会认为这是一个任务,然后把tracker合并。&br&&br&而现在的PT网站,你完全可以用一些2进制比较软件比较下,你上传的种子,和下载回来的种子,到底有什么地方不同,我虽然没有比较过,但是按照我的推测,应该是会修改hash那个地方的,有时间了我会比较下再更新吧】
这个问题其实归根到底应该是“为什么PT要求用户重新下载种子” 个人理解,不保证正确,已修改 1、不选中开始做种是因为需要重新下载种子,你自己制作出来的种子是无效的,如果选了开始做种会直接在UT里添加任务,反而会让用户误解(可以试一下打开自己制作…
已有帐号?
无法登录?
社交帐号登录请教mesos、k8s、spark、马拉松、swarm、zookeeper、map-reduce? - 知乎61被浏览3274分享邀请回答3添加评论分享收藏感谢收起一.Mesos的安装和部署
1.下载mesos源码和依赖包
centOS 6.6
mesos-0.21.0
spark-1.4.1
因为mesos官方只提供源码,所以必须要自己进行编译安装使用
添加meven源
sudo wget http://repos.fedorapeople.org/repos/dchen/apache-maven/epel-apache-maven.repo -O /etc/yum.repos.d/epel-apache-maven.repo
下载mesos和依赖
# download mesos
$ wget http://www.apache.org/dist/mesos/0.21.0/mesos-0.21.0.tar.gz
$ tar -zxf mesos-0.21.0.tar.gz
# Install other Mesos dependencies
$ sudo yum install -y apache-maven python-devel
zlib-devel libcurl-devel openssl-devel cyrus-sasl-devel cyrus-sasl-md5 apr-devel subversion-devel apr-util-devel
2.编译&安装
make的时间比较长
$ mkdir build
$ cd build
$ ../configure --with-python-headers=/usr/include/python2.6 --with-java-home=$JAVA_HOME --with-java-headers=$JAVA_HOME/include --with-webui --with-included-zookeeper --prefix=/usr/install/mesos
$ make install
3.配置mesos
修改 / 创建 master列表文件
vim /usr/install/mesos/etc/masters
修改/创建 slave列表文件
vim /usr/install/mesos/etc/slaves
修改master配置文件
vim /usr/install/mesos/etc/mesos-master-env.sh
export MESOS_log_dir=/home/admin/mesos/logs
export MESOS_work_dir=/home/admin/mesos/work
修改slave配置文件
vim /usr/install/mesos/etc/mesos-slave-env.sh
export MESOS_master=masterIP:5050
export MESOS_log_dir=/home/admin/mesos/logs
export MESOS_work_dir=/home/admin/mesos/work
export MESOS_resources="mem:8096;cpus:2"
export MESOS_hadoop_home=/usr/install/hadoop
export MESOS_switch_user=false
export MESOS_gc_delay=1days
/usr/install/mesos/sbin/mesos-start-cluster.sh
不需要配置文件的启动方式
启动master
nohup sudo -u admin /usr/install/mesos/sbin/mesos-master --log_dir=/home/admin/mesos/logs --work_dir=/home/admin/mesos/work &/dev/null 2&&1 &
nohup sudo -u admin
/usr/install/mesos/sbin/mesos-slave --master=mesos://masterIP:5050 --log_dir=/home/admin/mesos/logs --work_dir=/home/admin/mesos/work --hadoop_home=/usr/install/hadoop --resources="men:100000;cpus:22" --gc_delay="1days" --switch_user="false" &/dev/null 2&&1 &
启动slave时默认使用所有资源,可以使用命令–resources来限制
--resources="mem:8096;cpus:2"
当你修改slave资源分配的时候,必须要删除原来的配置信息,然后重开slave
rm -f /home/admin/mesos/work/meta/slaves/latest
启动slave时如不添加--hadoop_home参数,将会在系统的环境变量中寻找HADOOP_HOME,如果没有设置则无法从hdfs获取到framework executor包。
--gc_delay 参数控制定期删除work下的文件,你可以设置成
3days,2weeks,etc.默认是1周删除,不过当work文件夹达到一定大小,将会提前删除该目录下的文件。详细计算公式可以去看--gc_disk_headroom 参数
‘–switch_user’参数控制启动task的用户,默认为true,就是提交任务的用户,提交任务时,mesos会调用chown -R 来修改worker下executor的拥有者,权限不够就会报错。修改为false后,则使用启动slave的用户提交任务。
报错提示一般是这样的
Failed to execute chown -R 505:100 ...
可在5050端口查看mesos web UI
mesos也是使用zookeeper来实现HA的,更多zookeeper的信息可以去看其他文档。
zookeeper部署
修改conf/zoo.cfg里的内容
server.1=192.168.6.55:
server.2=192.168.6.56:
server.3=192.168.6.57:
在三台机器上启动zookeeper
$ZK_HOME/bin/zkServer.sh start
修改master配置文件
master的数量一般为奇数
quorum & (number of masters)/2.
在mesos-master.env.sh中添加以下参数
export MESOS_zk=zk:
export MESOS_quorum=1
修改slave配置文件
将mesos-slave-env.sh中的以下参数修改
MESOS_master=zk:
不需要配置文件的启动方式
启动master
- -- -- -- --...,...,... --
- --...,...,... -- -- -- -- -- -- & &
进入192.168.6.52,显示不是leader,马上跳转回192.168.6.53
kill掉53上的master进程后,再进入52,发现变为leader,说明HA已生效。
二.Spark on mesos
将编译过的spark包上传到hdfs
hdfs dfs -put spark-1.4.1-bin-hadoop2.4.tgz /user/shiwei/
在spark-env中添加
export MESOS_NATIVE_JAVA_LIBRARY=/usr/install/mesos/lib/libmesos.so
export SPARK_EXECUTOR_URI=hdfs:
同时也可在spark-default.conf中添加
spark.executor.uri
hdfs://192.168.6.52:9000/user/shiwei/spark-1.4.1-bin-hadoop2.4.tgz
spark.master
mesos://192.168.6.53:5050
启动spark-shell
./bin spark-shell
scala&val Data = sc.parallelize(1 to 100).count
可以在mesos web ui 上看到任务运行情况
至此spark on mesos部署结束。
1.`CXXABI_1.3.5’ not found
Failed to load native Mesos library from /usr/install/mesos/lib/libmesos.so
java.lang.UnsatisfiedLinkError: /usr/install/mesos/lib/libmesos.so: /usr/lib64/libstdc++.so.6: version `CXXABI_1.3.5' not found (required by /usr/install/mesos/lib/libmesos.so)
升级 libstdc++.so.6 解决
2. `GLIBCXX_3.4.14’ not found
/usr/install/mesos/sbin/mesos-master: /usr/lib64/libstdc++.so.6: version `GLIBCXX_3.4.14' not found (required by /usr/install/mesos/sbin/mesos-master)
sudo cp /usr/install/mesos/lib/libstdc++.so.6 /usr/lib64/libstdc++.so.6
本文已收录于以下专栏:
相关文章推荐
首先参考我的另外一篇博客搭建好mesos cluster环境
http://blog.csdn.net/github_/article/details/部署结构192...
资源管理系统
Spark可以搭建在Mesos上或YARN上,两个都是资源管理系统。了解资源管理系统的话,可以先参看以下几篇文章:
浅谈Borg/YARN/Mesos/Torca/Corona一类系统 &a target=&_blank& hr
程序员升职加薪指南!还缺一个“证”!
CSDN出品,立即查看!
资源管理系统
Spark可以搭建在Mesos上或YARN上,两个都是资源管理系统。了解资源管理系统的话,可以先参看以下几篇文章:
浅谈Borg/YARN/Mesos/Torca/Corona一类系...
不知不觉,已经到了Spark的第19篇博客了,这个系列很不系统,基本上是学到哪写到哪,而不是成竹在胸之后,高屋建瓴的写,这个等到对Spark有了比较深刻的理解和把握之后再来整理这些博客,毕竟刚接触Spark10天,继续!
在之前的文章中,Spark都是使用默认的伪分布式部署方式,没有从系统部署的角...
本文面向对Spark,Mesos和Zookeeper有一点了解的读者,介绍下Run Spark on Mesos with Zookeeper的方法和一些注意点。因为Spark和Mesos的相关文档里...
您举报文章:
举报原因:
原文地址:
原因补充:
(最多只允许输入30个字)}

我要回帖

更多关于 swarm zookeeper 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信