纽交所利用Redpanda将实时流数据处理速度提升5倍

时间:2025-08-20 13:30:02来源:互联网

下面小编就为大家分享一篇纽交所利用Redpanda将实时流数据处理速度提升5倍,具有很好的参考价值,希望对大家有所帮助。

想在收件箱中获得更智能的洞察?订阅我们的每周简报,专为企业AI、数据和安全决策者精选关键内容。 立即订阅

实时流数据对各行业的应用场景极具价值。对纽约证券交易所(NYSE)而言,流数据直接等同于金钱。

作为全球规模最大的金融交易所之一,NYSE拥有悠久的金融市场数据共享历史。

百年前它通过电报行情带传递信息,如今则自主研发了部署在本地的高性能低延迟技术供外部机构对接。现在,NYSE正迈向新阶段——采用基于开源Apache Kafka流技术的架构,将NYSE最佳报价与交易(BQT)数据推送至AWS云平台。

AI扩展遭遇瓶颈

算力限制、代币成本激增和推理延迟正在重塑企业AI格局。参与我们的独家沙龙,了解顶尖团队如何破局:

抢占席位保持领先:https://bit.ly/4mwGngO

为此,NYSE选择与流数据平台供应商Redpanda合作。后者使用C++编程语言重构了Kafka实现方案。NYSE部署Redpanda的C++流平台后,性能较传统Kafka方案提升4-5倍,暴露出多数机构处理突发数据负载的根本性缺陷。

当企业扩展需要持续低延迟数据访问的AI应用时,这种性能差距尤为关键。基于Kafka的数据流还能实现代理间通信,与谷歌A2A等技术抗衡,并可扩展支持模型上下文协议(MCP)。

"市场共识是:所有大型基础模型已充分索引公开数据集,下一战场是私有数据集。Redpanda真正开启了私有数据集的代理访问通道。"Redpanda创始人兼CEO Alex Gallego向VentureBeat表示。

NYSE的云端布局

NYSE构建云流平台服务于无法直连数据中心的客户,主要面向需要基于AWS获取实时市场数据的金融科技公司和零售经纪商。

"并非所有市场数据使用者都有能力接入我们数据中心获取数据流。"NYSE云与全栈工程主管Vinil Bhandari解释道,"但香港的小型机构只需创建AWS账户即可接入——这正是我们想要服务的群体。"

NYSE通过BQT数据流聚合旗下七大交易所的实时数据。该部署需要新建基础设施而非扩展现有系统。

Redpanda胜出之谜:编程语言的选择逻辑

NYSE每日处理超5000亿条跨交易所消息。市场波动时,消息量可在微秒级暴增1000倍。

传统Java实现难以应对这种模式,因为垃圾回收会导致不可预测的延迟峰值。

"经典Kafka采用Java编写,这种突发流量与Java的垃圾回收机制存在天然冲突。"Bhandari指出,"Redpanda用C++重写Kafka协议,使我们能从容应对市场波动带来的流量洪峰。"

编程语言的选择也是NYSE放弃Confluent和亚马逊MSK等方案的关键原因。这一技术决策带来了可量化的性能提升。

"可以确认,使用Redpanda的数据传输速度比采用Kafka技术的头部竞品快4-5倍。"Bhandari强调。

这对企业选型具有启示意义:基于Java的数据流方案在流量激增时可能受限,而C++方案能保持稳定性能。

可观测性:关键任务部署的生命线

Bhandari强调可观测性对生产级流部署至关重要。Redpanda内置的遥测功能即时提供了运维价值。

"部署环境的底层可观测性越强,数据生产者和消费者的体验就越好。"这使团队能在问题影响客户前主动发现并解决。缺乏全面监控的企业往往在故障影响生产后才后知后觉。

架构哲学转变:流数据作为AI基石

NYSE初期将以传统方式使用流数据能力,即向用户提供市场数据。但Redpanda的发展方向指向更具自主性的AI未来。

Redpanda CEO Gallego认为:"流式架构的价值不在于速度,而在于它是响应式和自主式应用的理想架构。"

除解决传统流性能问题外,Redpanda通过MCP协议封装数据连接器,使AI代理能直接访问企业数据源。这解决了多代理部署时的计算复杂度难题。

"没有Kafka API时,代理间通信存在n²复杂度问题。引入Kafka API后,复杂度降至线性级。"Gallego透露,已有银行部署数百个代理,某客户计划两年内构建1000个代理,另有客户正开发18个月内投产的130个代理。这种规模需求使代理协调架构成为AI战略成败关键。

对企业数据战略的启示

实时流数据正成为企业运营的核心要素。NYSE的评估流程揭示了关键决策标准:

Java版Kafka在突发流量下存在性能天花板。处理不可预测负载的企业应优先评估C++方案,4-5倍的性能差距并非边际优化而是本质能力差异。

云优先流策略可实现生产级性能。突破延迟限制的全球数据访问模式,为数据驱动型业务开辟新市场机遇。

代理协调需要流式架构。当AI部署超越单一代理时,流平台将从性能优化工具升级为核心基础设施。规模效应下,计算复杂度优势将至关重要。

对计划AI实施的企业,必须选择同时支持MCP集成和代理协调的流平台。初始架构设计的正确性,远比后期改造更为高效。尚未部署AI的企业需意识到:当前的流架构选择将深远影响未来AI能力边界,其制约程度远超大多数决策者预期。

本站部分内容转载自互联网,如果有网站内容侵犯了您的权益,可直接联系我们删除,感谢支持!