diff options
| author | 戚岱杰 <[email protected]> | 2019-07-17 10:16:31 +0800 |
|---|---|---|
| committer | 戚岱杰 <[email protected]> | 2019-07-17 10:16:31 +0800 |
| commit | 1c1428ad5e236935639815be1913ccbb07a9867d (patch) | |
| tree | c4fa1e724a2c56c88885934f7ebf704883c812fe | |
| parent | ff7d27e23c4978bf764ba1c99591986d52a98554 (diff) | |
Update home.md
| -rw-r--r-- | TSG/home.md | 171 |
1 files changed, 171 insertions, 0 deletions
diff --git a/TSG/home.md b/TSG/home.md index 725e5de..c952e22 100644 --- a/TSG/home.md +++ b/TSG/home.md @@ -94,5 +94,176 @@ ### 实时统计topology部署 +1. 配置文件脚本程序统一在/home/ceiec/topology 目录下的子文件夹内(文件夹名称对应的任务大类) + + | 文件夹名称 | 功能 | 任务名称 | + | ----------------------| -----------------| ---------------| + | log-address-redis | AAA写Redis | RADIUS-AAA | + | log-stream-completion | 原始日志补全 | .-COMPLETED-. | + | log-stream-connections| 连接统计 | TRAFFIC-METRICS-LOG | + | log-stream-topn | 首页TOPN计算 | TOP-... | + + 除log-address-redis是输入为kafka输出为redis以外,其他的输入输出都是kafka。 + +2. log-address-redis + * 修改address_routine.properties + ``` + #管理kafka地址 + bootstrap.servers=192.168.10.119:9092,192.168.10.122:9092,192.168.10.123:9092 + + #从kafka哪里开始读:earliest/latest + auto.offset.reset=latest + + #用于过滤对准用户名 + check.ip.scope=10,100,192 + + #kafka broker下的topic名称 + kafka.topic=RADIUS-LOG + + #kafka消费group id + group.id=RADIUS-AAA + + #storm topology workers + topology.workers=1 + + #storm spout parallelism + spout.parallelism=3 + + #storm bolt parallelism + format.bolt.parallelism=3 + + #1=单机逐条写入 2=集群逐条写入 3=集群批量写入 + redis.model=1 + ``` + + * 修改redis_config.properties + ``` + #redis服务器ip + redis.ip=10.0.8.16,10.0.8.17,10.0.8.18,10.0.8.19 + + #redis服务器端口号 + redis.port=7001,7002,7003,7004 + ``` + + * 启动停止 + + ``` + /home/ceiec/topology/log-stream-address 目录下 + 使用./start.sh 启动 + 使用./stop.sh 停止 + ``` + +3. log-stream-completion + + * 修改service_flow_config.properties + ``` + #管理kafka地址 + bootstrap.servers=192.168.10.119:9092,192.168.10.122:9092,192.168.10.123:9092 + + #kafka broker下的topic名称 + kafka.topic=POLICY-EVENT-LOG + + #读取topic,存储该spout id的消费offset信息,可通过该拓扑命名;具体存储offset的位置,确定下次读取不重复的数据; + group.id=POLICY-EVENT-COM + + #输出topic + results.output.topic=POLICY-EVENT-COMPLETED-LOG + + #storm topology workers + topology.workers=1 + + #spout并行度 建议与kafka分区数相同 + spout.parallelism=3 + + #处理补全操作的bolt并行度-worker的倍数 + datacenter.bolt.parallelism=3 + + #写入kafkad的并行度 + kafka.bolt.parallelism=3 + + #用于过滤对准用户名 + check.ip.scope=10,100,192 + ``` + + * 修改redis_config.properties + ``` + #redis服务器ip + redis.ip=10.0.8.16,10.0.8.17,10.0.8.18,10.0.8.19 + + #redis服务器端口号 + redis.port=7001,7002,7003,7004 + ``` + + * 启动停止 + ``` + 在 /home/ceiec/topology/completion + + ./startall.sh completionconfig/ + + ./stopall.sh completionconfig/ + ``` + +4. log-stream-connections + * 修改kafka_topic.properties + ``` + #管理kafka地址 + bootstrap.servers=192.168.10.119:9092 + + #kafka broker下的topic名称 + kafka.topic=SESSION-RECORD-LOG + + #kafka消费group id + group.id=connections-count + + #storm topology workers + topology.workers=1 + + #一般与kafka 分区数量1:1关系 + topology.spout.parallelism=3 + + #计算bolt并行度 + topology.bolt.time.calculate=6 + + #最大容忍区间 + max.number=30 + + #输出Kafka地址 + results.output.servers=10.4.35.7:9092,10.4.35.8:9092,10.4.35.9:9092 + + #输出Topic + results.output.topics=TRAFFIC-METRICS-LOG + ``` + * 启动停止 + ``` + /home/ceiec/topology/connections 目录下 + 使用./start.sh 启动 + 使用./stop.sh 停止 + ``` + +5. log-stream-topn + * 修改 realtime_routine.properties + ``` + #管理kafka地址 + bootstrap.servers=10.4.35.7:9092,10.4.35.8:9092,10.4.35.9:9092 + + #从kafka哪里开始读:earliest/latest + auto.offset.reset=latest + #auto.offset.reset=earliest + + #输出Kafka地址 + results.output.servers=10.4.35.7:9092,10.4.35.8:9092,10.4.35.9:9092 + + ``` + + * 启动停止 + ``` + 在 /home/ceiec/topology/top + + ./startall.sh topconfig/ + + ./stopall.sh topconfig/ + ``` + + // todo
\ No newline at end of file |
