Tongwin 最近的时间轴更新
Tongwin

Tongwin

V2EX 第 509274 号会员,加入于 2020-09-23 09:14:47 +08:00
今日活跃度排名 855
深圳收台二手 kindle
二手交易  ?  Tongwin  ?  197 天前  ?  最后回复来自 beayrdghkj
1
持币 200-300 收张玩网游的显卡
二手交易  ?  Tongwin  ?  263 天前  ?  最后回复来自 Tongwin
11
2023 年,求推荐深圳洗牙方案
问与答  ?  Tongwin  ?  317 天前  ?  最后回复来自 ggmood
10
[深圳] 收永诺 50mm f1.8/85mm f1.8 镜头 Z 卡口
二手交易  ?  Tongwin  ?  338 天前  ?  最后回复来自 Tongwin
4
深圳 1450 元面交出 xps13 9360
二手交易  ?  Tongwin  ?  2023-04-10 17:35:52 PM  ?  最后回复来自 Tongwin
4
[深圳]迫于 XPS13 退休,收 m1 macbook air 8+256
二手交易  ?  Tongwin  ?  2022-11-25 15:25:36 PM  ?  最后回复来自 Tongwin
2
深圳电信宽带求助
宽带症候群  ?  Tongwin  ?  2022-10-09 14:47:47 PM  ?  最后回复来自 HFX3389
19
迫于也没收到,继续收 2016-2017 款 MBP 8+256,坐标深圳
二手交易  ?  Tongwin  ?  2021-11-05 16:47:35 PM  ?  最后回复来自 czwstc
11
Tongwin 最近回复了
20 天前
回复了 coloz 创建的主题 ? 宽带症候群 ? 宽带因为挂 NAS 被封了
@hcocoa 是运营商扫你的服务,封境外 ip 只能起到防攻击效果吧?
20 天前
回复了 coloz 创建的主题 ? 宽带症候群 ? 宽带因为挂 NAS 被封了
@hcocoa 我搞过 wireguard ,应该跟 tailscale 这些差不多。走 vpn 管道,相当于哪个设备要连局域网内的服务都要搞一次代理才能够连。 你这连 sp 应该也是同理。还是挺麻烦的。
低端口更容易被运营商扫到吧
100 天前
回复了 erwin985211 创建的主题 ? iPhone ? 关于 iphone16 基础班猜测(个人向)
手持 xsmax ,是现在 8200 买一台 15pm 还是等等 16pm 呢?
133 天前
回复了 rookie333 创建的主题 ? 问与答 ? 不懂就问,这种私服会有大哥玩吗?
请问下这种场景能实现么?
动态公网 ip+DDNS+内网 docker 部署游戏, 能够提供给几个基友在外网玩么?
@codedreamstar 大佬真的万分抱歉,1 周后才来回复你信息。 最近杂事缠身。我们用 kafka 并不是自己封装的,也是使用正常的依赖,由于本身架构问题,所以没法使用 Spring for kafka 。不过后续我们需要重构这个项目,后面以 SpringBoot 来框架进行搭建就会用 Spring for kafka 去设计了。 尴尬的是中间进程下发 B 是没有限流逻辑,我们后面会优先开发这一块。之前的数据的实时速率都没有达到应用 B 的峰值。
后面应用重构,确实是考虑过把 redis 砍掉,原有 redis 功能是为了保证数据不丢失(比如应用 B 处理失败,应用 A 有相关的重发机制),后续重构我的想法是砍掉 redis , 消费 topic 进而下发数据,如果应用 B 处理失败,则应用 A 把失败的数据推送到另一个 topic-C 。 应用 A 继续消费 topic-C 的数据来实现重发机制。
感谢大佬提供的思路,让我对 kafka 以及项目设计有了进一步的认识。
@flmn hi 大佬,我昨天就已经在测试了,配置大概是 max.poll.record 设置为 200 ,fetch.min.bytes 使用默认值。 通过限流打日志查看,每一次 poll 都是 200 。不过是在本地单实例跑的。 我大概懂你意思了,你说的情况应该是,我在消费的同时,上游也在造数据。如果我的消费速度超过生产速度,那么确实会出现,上游推来一条,我就消费 1 条的情况。
@flmn 我之前可能理解错意思了, 但我还是有点疑惑, 如果我设置 max.poll.record=1000 ,fetch.min.bytes 默认值是 1 ,你说的小坑是什么场景呢? 我理解的是只要有数据就会获取, 一次 Poll 最多拿 1000 条,如果不足 1000 条就拿剩余的条数回来。
@codedreamstar 我大概讲一下场景出来吧。 应用 A 设计之初并没考虑到那么长远,初衷也是能消费多快就消费多快。因此就用上了多线程异步处理数据。 处理数据这块其实也只是为了把数据存到 redis 里。 然后我们有另外的进程去从 redis 的队列里拿到数据,然后把这些数据再下发到下游(通过调用下游接口,简称应用 B )。 目前消费的 topic 都是推过来的实时数据,因此各项的 tps 都能够满足;不过应用 B 是有一个峰值的 tps 的。之前来了个需求,新接入一个 topic (简称(topic-new),topic-new 推过来的量是固定的,我这边撑这块业务为:存量初始化。 之前协商好上游提供 topic 过来的时候是控制速率的(因此原本我这边不用考虑限速限流的),后来因沟通问题上游又不作限速处理,最终限速操作只能在应用 A 这边进行。
针对限速这块其实我是有过几个思考方案的
方案一:直接搞一个 Spark 应用来进行存量初始化,Spark 在控制批量消费还是很好控制的
方案二:使用令牌桶对应用 A 特殊的 Consumer 进行限流
方案三:对应用 A 的流入和流出都作限流操作(后续一定会排期对数据流出作限流操作,但是听各位大佬的建议,好像并不推荐对流入数据也作限流操作)
综合考虑各种因素,目前是考虑使用方案二进行限流操作,当完成存量初始化之后就可以下线该 topic 了,后续先实现流出的限流功能,其他功能再考虑可行性。
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5519 人在线   最高记录 6543   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 31ms · UTC 03:45 · PVG 11:45 · LAX 20:45 · JFK 23:45
Developed with CodeLauncher
? Do have faith in what you're doing.


http://www.vxiaotou.com