纽交所通过Redpanda将实时流数据传输速度提升5倍

时间:2025-08-22 18:30:02来源:互联网

下面小编就为大家分享一篇纽交所通过Redpanda将实时流数据传输速度提升5倍,具有很好的参考价值,希望对大家有所帮助。

实时流数据对各行业应用场景具有重要价值。对纽约证券交易所(NYSE)而言,流数据就是真金白银。

作为全球最大金融交易所之一,NYSE拥有悠久的金融市场数据共享历史。

百年前它依靠电报行情带传递信息。如今已自主研发部署低延迟、高性能的本地化技术供机构对接。

现在NYSE正迈向新阶段——采用基于开源Apache Kafka流技术的方案,将最优报价交易(BQT)数据推送至AWS云平台。

为此,NYSE与流数据平台供应商Redpanda合作,后者使用C++语言重构了Kafka实现。

NYSE部署Redpanda的C++流平台后性能提升4-5倍,暴露出传统Kafka方案在突发流量处理上的根本缺陷。

随着企业扩展需要稳定低延迟的AI应用,这种性能差距变得至关重要。基于Kafka的数据流还能实现代理间通信,媲美谷歌A2A方案,并可扩展支持模型上下文协议(MCP)。

"市场共识是所有大模型都已充分索引公开数据集,下一战场是私有数据集。Redpanda真正开启了代理访问私有数据的大门。"Redpanda创始人兼CEO Alex Gallego表示。

NYSE的云平台布局

NYSE构建云流平台服务无法直连数据中心的客户,主要面向需要AWS实时行情访问的金融科技公司和零售经纪商。

"并非所有数据用户都有能力直连我们数据中心获取数据流,"NYSE云与全栈工程主管Vinil Bhandari解释,"但香港的小型机构只需AWS账户即可接入,这正是我们的目标客群。"

NYSE的BQT数据流整合了旗下七家交易所的实时数据,该部署需要全新基础设施而非扩展现有系统。

技术选型关键:编程语言的决定性作用

NYSE每日处理超5000亿条消息,市场波动时消息量可在微秒级激增1000倍

传统Java实现难以应对这种模式,垃圾回收会导致不可预测的延迟峰值。

"原生Kafka用Java编写,其垃圾回收机制不适合突发流量场景,"Bhandari指出,"Redpanda用C++重写Kafka协议,使我们能从容应对市场波动带来的流量洪峰。"

正是编程语言选择促使NYSE放弃Confluent等方案而采用Redpanda。

这一技术决策带来显著性能提升:"使用Redpanda的数据传输速度比采用Kafka的竞品快4-5倍。"

这对企业选型的启示在于:Java流方案在流量峰值时可能崩溃,而C++方案能保持稳定性能。

可观测性:关键任务部署的生命线

Bhandari强调可观测性对生产环境至关重要。Redpanda内置遥测功能提供了即时运维价值。

"部署环境的可观测性越强,数据生产者和消费者的体验就越好。"这种能力可在问题影响客户前实现主动监测与修复。

架构哲学转变:流式数据作为AI基石

NYSE初期将以传统方式使用流数据,即向用户提供交易所数据。

但Redpanda的发展方向指向更智能的AI未来。其CEO Gallego认为企业应重新思考AI时代的流架构:

"流式架构的价值不在于速度,而在于它是响应式与代理式应用的理想范式。"

除解决传统性能问题外,Redpanda通过MCP协议封装数据连接器,使AI代理能直接访问企业数据源。

这解决了企业部署多AI代理时的计算复杂度问题:"采用Kafka API可将代理间通信的计算复杂度从n²降为线性级。"

据透露,已有银行部署数百个代理,某客户计划两年内构建1000个代理,另一客户正开发130个生产级代理。这种规模需求使代理协调架构成为AI战略成败关键。

对企业数据战略的启示

实时流数据正成为企业运营的核心要素。NYSE的选型过程揭示了关键决策标准:

Java版Kafka在突发流量下存在性能瓶颈。处理不可预测负载的企业应优先评估C++方案,4-5倍的性能差异不是优化而是能力代差。

云优先流策略可实现生产级性能。这打破了延迟限制带来的全球数据访问壁垒,为数据驱动型业务开辟新市场。

代理协调必须依赖流架构。当AI部署超越单一代理时,流平台就从性能优化项进化为核心基础设施,其计算复杂度优势将在规模效应中凸显。

计划AI实施的企业应优先选择支持MCP集成与代理协调的流平台。初期正确的架构设计比后期改造事半功倍。尚未部署AI的企业更需意识到:今天的流架构决策将深度制约未来的AI能力边界。

本站部分内容转载自互联网,如果有网站内容侵犯了您的权益,可直接联系我们删除,感谢支持!