Storm项目:流数据监控 <6>最新代码结构及详解

作者: blogchong | 分类: 原创-Storm实时处理 | 评论:0人 | 浏览:

1 文档说明

DataOptTopology项目由之前的monitorTopology整理而来,并且在此基础上增加了功能,梳理了代码。

代码托管到了github,搜索dataopttopology,或者直接访问下面链接:

代码获取:https://github.com/blogchong/DataOptTopology

2 代码结构说明

2.1 代码树

//7个包,20java文件

More...

关于博客虫技术文章对应的源代码

作者: blogchong | 分类: 博客虫站内公告 | 评论:0人 | 浏览:

 

关于storm实例源码:

//放在了CSDN的CODE代码托管平台上,以后会在那更新,博客虫首页有友情链接“代码GIT”就是了。

(1)在原有的基础上重新梳理了下,更名为DataOptTopology

More...

Storm项目:流数据监控 <5>Zookeeper统一配置

作者: blogchong | 分类: 原创-Storm实时处理 | 评论:0人 | 浏览:

1 文档说明

好久没更新storm相关的文章了(快一个月了),很早以前就有朋友提出过storm的拓扑任务会出现supervisor各节点配置麻烦的问题,基于此,我很早就考虑如何解决这个问题,直到现在才把这个问题解决(工作小忙)。

More...

Storm项目:流数据监控 <4>流数据监控MetaQ接口

作者: blogchong | 分类: 原创-Storm实时处理 | 评论:2人 | 浏览:

1 文档说明

 

该文档为storm模拟项目系列文档之一,是MetaQstorm接口的说明文档,主要介绍了如何集成MetaQ到项目代码中。

More...

Storm项目:流数据监控 <3>流数据监控示例运行

作者: blogchong | 分类: 原创-Storm实时处理 | 评论:0人 | 浏览:

 1 文档说明

该文档为storm模拟项目第三份文档,第一份文档简单的介绍了模拟项目的设计,第二份文档为关键代码详解,这份文档则是示例运行的文档,从源代码打包到配置文件配置,lib文件导入,及任务提交,最后到处理数据输出到mysql中,这一整个流程。

More...

Storm项目:流数据监控 <2>流数据监控代码详解

作者: blogchong | 分类: 原创-Storm实时处理 | 评论:2人 | 浏览:

 1 项目概述

1.1 数据流向

流数据监控为storm模拟项目,模拟数据源从log文件中读取数据,并逐条发射到监控Bolt中,MonitorsBolt读取配置文件MonitorBolt.xml中的匹配规则,包括正则匹配、范围匹配、常规模糊匹配及常规完全匹配,多个条件可以组合多种匹配方式,多个条件字段可以有两种不同的逻辑关系。MonitorBolt在处理数据之后(过滤出符合匹配规则的数据),发射到数据持久化Bolt中,MysqlBolt读取配置文件MysqlBolt.xmlmysql相关信息,包括mysqlhost及端口,usernamepassworddatabasefrom,最后将数据插入mysql中。

1.2 代码树

                                              

1.2 代码树

源码简单说明:

Storm包中为总体运行的TopologyStorm.base目前只有myslq预处理的一个类,storm.boltbolt处理类,包括monitorboltprintboltstorm.spout包中为spout源数据接口,storm.source为构造源数据的一个类(这个可以忽略),storm.xml为配置文件读取类,domain.log为源数据,MonitorBolt.xmlMyslqBolt.xml分别为配置文件。

 

More...

关于Storm实例项目《DataOptTopology》

作者: blogchong | 分类: 博客虫站内公告 | 评论:0人 | 浏览:

关于DataOptTopology,其实就是在以前的monitorTopology项目上重新整理了下,放到了CSDN的CODE平台上进行托管。

并且增加了Storm的hello world实例,放到了代码的helloworld模块下,是个单独的模块,里头实现了最简单了word count。

DataOptTopology也会慢慢地完善,最起码会把Metaq接口,还有HDFS接口写好。

More...