summaryrefslogtreecommitdiff
diff options
context:
space:
mode:
author戚岱杰 <[email protected]>2019-07-17 10:16:31 +0800
committer戚岱杰 <[email protected]>2019-07-17 10:16:31 +0800
commit1c1428ad5e236935639815be1913ccbb07a9867d (patch)
treec4fa1e724a2c56c88885934f7ebf704883c812fe
parentff7d27e23c4978bf764ba1c99591986d52a98554 (diff)
Update home.md
-rw-r--r--TSG/home.md171
1 files changed, 171 insertions, 0 deletions
diff --git a/TSG/home.md b/TSG/home.md
index 725e5de..c952e22 100644
--- a/TSG/home.md
+++ b/TSG/home.md
@@ -94,5 +94,176 @@
### 实时统计topology部署
+1. 配置文件脚本程序统一在/home/ceiec/topology 目录下的子文件夹内(文件夹名称对应的任务大类)
+
+ | 文件夹名称 | 功能 | 任务名称 |
+ | ----------------------| -----------------| ---------------|
+ | log-address-redis | AAA写Redis | RADIUS-AAA |
+ | log-stream-completion | 原始日志补全 | .-COMPLETED-. |
+ | log-stream-connections| 连接统计 | TRAFFIC-METRICS-LOG |
+ | log-stream-topn | 首页TOPN计算 | TOP-... |
+
+ 除log-address-redis是输入为kafka输出为redis以外,其他的输入输出都是kafka。
+
+2. log-address-redis
+ * 修改address_routine.properties
+ ```
+ #管理kafka地址
+ bootstrap.servers=192.168.10.119:9092,192.168.10.122:9092,192.168.10.123:9092
+
+ #从kafka哪里开始读:earliest/latest
+ auto.offset.reset=latest
+
+ #用于过滤对准用户名
+ check.ip.scope=10,100,192
+
+ #kafka broker下的topic名称
+ kafka.topic=RADIUS-LOG
+
+ #kafka消费group id
+ group.id=RADIUS-AAA
+
+ #storm topology workers
+ topology.workers=1
+
+ #storm spout parallelism
+ spout.parallelism=3
+
+ #storm bolt parallelism
+ format.bolt.parallelism=3
+
+ #1=单机逐条写入 2=集群逐条写入 3=集群批量写入
+ redis.model=1
+ ```
+
+ * 修改redis_config.properties
+ ```
+ #redis服务器ip
+ redis.ip=10.0.8.16,10.0.8.17,10.0.8.18,10.0.8.19
+
+ #redis服务器端口号
+ redis.port=7001,7002,7003,7004
+ ```
+
+ * 启动停止
+
+ ```
+ /home/ceiec/topology/log-stream-address 目录下
+ 使用./start.sh 启动
+ 使用./stop.sh 停止
+ ```
+
+3. log-stream-completion
+
+ * 修改service_flow_config.properties
+ ```
+ #管理kafka地址
+ bootstrap.servers=192.168.10.119:9092,192.168.10.122:9092,192.168.10.123:9092
+
+ #kafka broker下的topic名称
+ kafka.topic=POLICY-EVENT-LOG
+
+ #读取topic,存储该spout id的消费offset信息,可通过该拓扑命名;具体存储offset的位置,确定下次读取不重复的数据;
+ group.id=POLICY-EVENT-COM
+
+ #输出topic
+ results.output.topic=POLICY-EVENT-COMPLETED-LOG
+
+ #storm topology workers
+ topology.workers=1
+
+ #spout并行度 建议与kafka分区数相同
+ spout.parallelism=3
+
+ #处理补全操作的bolt并行度-worker的倍数
+ datacenter.bolt.parallelism=3
+
+ #写入kafkad的并行度
+ kafka.bolt.parallelism=3
+
+ #用于过滤对准用户名
+ check.ip.scope=10,100,192
+ ```
+
+ * 修改redis_config.properties
+ ```
+ #redis服务器ip
+ redis.ip=10.0.8.16,10.0.8.17,10.0.8.18,10.0.8.19
+
+ #redis服务器端口号
+ redis.port=7001,7002,7003,7004
+ ```
+
+ * 启动停止
+ ```
+ 在 /home/ceiec/topology/completion
+
+ ./startall.sh completionconfig/
+
+ ./stopall.sh completionconfig/
+ ```
+
+4. log-stream-connections
+ * 修改kafka_topic.properties
+ ```
+ #管理kafka地址
+ bootstrap.servers=192.168.10.119:9092
+
+ #kafka broker下的topic名称
+ kafka.topic=SESSION-RECORD-LOG
+
+ #kafka消费group id
+ group.id=connections-count
+
+ #storm topology workers
+ topology.workers=1
+
+ #一般与kafka 分区数量1:1关系
+ topology.spout.parallelism=3
+
+ #计算bolt并行度
+ topology.bolt.time.calculate=6
+
+ #最大容忍区间
+ max.number=30
+
+ #输出Kafka地址
+ results.output.servers=10.4.35.7:9092,10.4.35.8:9092,10.4.35.9:9092
+
+ #输出Topic
+ results.output.topics=TRAFFIC-METRICS-LOG
+ ```
+ * 启动停止
+ ```
+ /home/ceiec/topology/connections 目录下
+ 使用./start.sh 启动
+ 使用./stop.sh 停止
+ ```
+
+5. log-stream-topn
+ * 修改 realtime_routine.properties
+ ```
+ #管理kafka地址
+ bootstrap.servers=10.4.35.7:9092,10.4.35.8:9092,10.4.35.9:9092
+
+ #从kafka哪里开始读:earliest/latest
+ auto.offset.reset=latest
+ #auto.offset.reset=earliest
+
+ #输出Kafka地址
+ results.output.servers=10.4.35.7:9092,10.4.35.8:9092,10.4.35.9:9092
+
+ ```
+
+ * 启动停止
+ ```
+ 在 /home/ceiec/topology/top
+
+ ./startall.sh topconfig/
+
+ ./stopall.sh topconfig/
+ ```
+
+
// todo \ No newline at end of file