11 月 19 日,NVIDIA 介绍了劳伦斯伯克利国家实验室 Molecular Foundry 的一台高动态范围电子显微镜相机。它通过 NVIDIA 的数据采集库 DAQIRI 接入 GPU 处理。该仪器在测量电子能量损失时,数据速率可超过每秒 500 千兆比特;公司称这超过传统 EELS 数据流的 500 倍。FPGA 读出装置经以太网将数据发到 ConnectX 网卡;DAQIRI 将数据载荷送入 GPU 可访问内存,GPU 在实验期间组装帧、校正探测器、归约谱线并可视化结果。NVIDIA 还公布了硬件包重排、ibverbs 后端和用于低延迟控制流量的直接轮询。 NVIDIA 关于 DAQIRI 和显微镜的报告
核心变化是计算发生的位置。熟悉的仪器流程会先采集原始数据、写入存储,再发到工作站或计算中心分析。速率非常高时,存储和传输会延迟反馈,或迫使仪器在研究人员弄清数据价值之前先丢弃或压缩信息。DAQIRI 的设计把 GPU 内存放进采集路径。这样软件有机会在实验运行中检查、归约数据,并可能在下一次采集决策前调整设置。这个方向重要,但必须与伯克利案例实际展示的内容,以及仍只是平台能力的部分区分开来。
探测器带来数据路径问题#
电子能量损失谱(EELS)测量电子与样本相互作用时损失的能量。谱线有助识别样品中有哪些元素以及它们如何键合。测量包含强弱不同的信号。NVIDIA 描述的传统方法需要快速连续运行两个分别针对不同强度范围优化的采集过程。它需要精确协调电子光学、曝光时间和探测器读出;之后还要对齐并合并两批结果,增加采集与处理的复杂度。高动态范围探测器能在单次采集中覆盖更广强度范围,简化光学和时序设置,但单位时间产生的数据也显著增加。 NVIDIA 关于 EELS 相机工作流
每秒超过 500 Gbps 不只是网络领域的宣传数字。除以 8,意味着流量活跃时至少每秒 62.5 GB。如果持续达到该速率,理论上一小时约 225 TB,一天约 5.4 PB,尚未计协议开销或任何归约。这种算术说明为何“先存下全部数据、之后再看”可能不现实,但不代表这台显微镜会以该速率连续运行整天。采集可能是分段的,后续处理也可能压缩或筛选值得保留的测量结果。
显微镜相机、FPGA 读出、以太网链路、网卡和软件共同组成采集系统。探测器输出只有在后续阶段能无损接收、重建帧结构,并在实验进行时算出结果,才有用途。如果链路丢包或缓冲溢出,GPU 无法恢复缺失测量。如果数据完整但乱序到达,组帧之前必须排序。如果只能等到长时间写盘后才能处理,所得信息可能错过它原本要影响的决策点。
因此,数据搬运本身也是实验设计的一部分。科学家通常在采集前根据样本和探测器行为选择曝光、扫描和感兴趣区域。新型高动态范围相机能同时记录以前被掩盖、需要分次测量的强弱信号;但只有在采集路径及时提供有用结果时,额外细节才有价值。问题不只是相机采得更多,而是能否在实验仍可调整时,把这些新增信息交给研究人员。
伯克利实验室已有一个相关先例,但它是另一台仪器和另一种数据路径。伯克利称,4D Camera 每秒运行 87,000 帧,15 秒内可产生最多 700 GB 数据。既有流程通过 FPGA 连接的接收服务器将数据读入 RAM,再写入闪存,随后在本地处理或转移到 NERSC 的高性能计算资源。实验室表示,流式工作流缩短了数据周转时间,并支持实时决策。这说明快速获取显微镜数据的价值,但不能与新的 500 Gbps 高动态范围 EELS 相机或 DAQIRI 流程混为一谈。 伯克利实验室关于 4D Camera 流式工作流 · 美国能源部关于大型探测器数据实时分析的说明
新系统改变了可以在哪里进行更多处理。早先工作流中的闪存写入和传输至集中计算资源仍有价值,可用于保存数据和大型计算。DAQIRI 路径则支持在边缘对选定操作处理,不必等过了这些存储步骤。这更像互补架构,而非简单替换硬盘或 HPC。研究人员可能既要原始档案用于重分析,又要实时归约结果立即调整参数。要存、要归约还是丢弃,取决于科研复现要求与实验计划。
DAQIRI 将采集路径引向 GPU#
DAQIRI 全称为 Data Acquisition for Integrated Real-time Instruments。NVIDIA 将其描述为软件定义库,可把高带宽传感器及仪器数据送入 GPU 就绪的工作流。兼容硬件上,它可以在用户态直接操作网卡,绕过 Linux 内核网络栈,并通过 GPUDirect 在网卡和 GPU 之间传输数据,避免由 CPU 中介的拷贝。其 API 支持 C++ 和 Python。DAQIRI 属于 Holoscan 生态,用于构建流式传感器处理和实时 AI 应用。 NVIDIA DAQIRI 仓库及文档 · DAQIRI 开发者概览
“GPU 原生采集”并不意味着 GPU 替代显微镜或全部读出电子部件。伯克利案例中,相机和 FPGA 仍负责采集与格式化探测器数据。以太网将数据包传向兼容网卡。DAQIRI 负责传输、排序和内存放置。随后 GPU 内核组装帧、执行探测器校正,再将信息归约为 EELS 谱线。NVIDIA 称,计算处理使探测器上 5 微米像素采样的信息可恢复到亚微米空间分辨率。该系统由多个专用组件协作构成,DAQIRI 把测量端与加速处理连接起来。
“零拷贝”也有边界。它指在受支持的数据路径中避免额外拷贝,例如将网络载荷直接传入 GPU 可访问内存。它并不意味着不需要缓冲、解析、排序、探测器校正、转换或后续存储。有些流水线阶段可能按设计复制或转换数据,支持的传输模式也取决于系统使用独立 GPU 还是统一内存平台。零拷贝可减少 CPU 和内存开销,但端到端处理速率仍由 GPU 内核、探测器格式、队列行为、网络流量和软件调度共同决定。
硬件支持有明确范围。DAQIRI 仓库称,高性能 Raw Ethernet、RoCE 和 GPUDirect 路径要求 NVIDIA ConnectX-6 Dx 或更新网卡,以及受支持的 CUDA GPU。项目列出 DGX Spark、IGX 和 RTX Pro Servers 等平台。普通 Linux socket 路径可在更广泛的硬件上运行,但不提供相同的峰值性能。当前系统配置文档还说,包节流、精准定时发送和硬件重排需要 ConnectX-7 或更新型号。GPU 原生是一种兼容系统上的架构选项,不是任何工作站都能获得的软件速度提升。 DAQIRI 系统要求 · DAQIRI 硬件配置
独立 GPU 和集成 GPU 平台的数据路径也不同。NVIDIA 系统指南称,配备独立 GPU 的 IGX 平台有单独的 GPU BAR1,并通过 PCIe 连接网卡与 GPU;DGX Spark 则使用 GB10 超级芯片,共享 CPU/GPU 内存并集成 ConnectX-7,GPUDirect 模式使用 host-pinned 缓冲区。这些差异影响基准数据的解释。表面上同样叫“直接进 GPU”,底层可能涉及不同内存拓扑和传输机制,因此延迟和吞吐量表现也会不同。
软件选型同样会影响表现。DAQIRI 支持 Raw Ethernet、RoCE/RDMA 与 Linux sockets 路径、不同接收引擎、CPU 或 GPU 重排,以及多种缓冲区放置方式。开发者需要配置接口、队列、数据流和内存区域。发布中的功能不是自动让所有数据流实时化的单一模式。工程师仍须为仪器选择合适的传输与队列方案,调整主机和网络,并在真实负载下验证丢包、内存压力与处理流水线。NVIDIA 的入门指南本身建议先构建库,按需要调整主机,再在目标系统上跑基准。 DAQIRI 入门指南 · DAQIRI API 指南
三项更新针对不同瓶颈#
11 月 DAQIRI 更新为支持的 ConnectX-7 或更高型号网卡增加了硬件包重排。网络可能乱序传包,而传统软件处理会增加 CPU 工作量、内存开销和延迟。在支持的包格式中,网卡可以解析序号字段,将载荷放入内存中正确的顺序位置。应用随后收到已整理的缓冲区,不再需要单独的软件重排和拷贝步骤。配置仍需指定序号位于何处,以及缺包时如何处理。这是针对特定队列的功能,并不保证不会丢包,也不意味着所有仪器都使用兼容的序号格式。 NVIDIA 对硬件重排的说明
第二项更新是用于高速 Raw Ethernet 收发的 ibverbs 引擎。NVIDIA 称它降低了每包 CPU 开销;对于不超过 1,024 字节的小包,在超过 200 Gbps 的高速率下,其单核吞吐量约为此前默认 DPDK 后端的两倍。测试平台包括 DGX Spark、IGX Thor 和 RTX Pro Servers。文章第三幅图展示 IGX Thor 单队列结果,并称 DGX Spark 和 x86 预计有类似表现;对于 8 KB 大包,结果相近。结论有细节:收益取决于包大小和比较条件,而不是所有场景的带宽都翻倍。 NVIDIA ibverbs 基准条件
第三项功能 direct polling 针对延迟敏感的控制消息。普通 I/O worker 与应用线程分开收发数据,会增加线程间交接。Direct polling 允许应用线程直接收发,从而减少这一步。NVIDIA 报告,同一主机两个端口通过网线回环测试,直接轮询的发送到接收延迟约为 2 至 4 微秒。这是本机网络微基准,不是从相机测量、GPU 分析到仪器调整的完整时延。完整反馈还包含探测器读出、封包、调度、GPU 计算、决策逻辑和控制器响应。微秒数字只适用于其中一个链路。 NVIDIA 的 direct polling 测试说明
这些功能可以按需组合。高流量测量队列可用硬件重排,较小的控制队列可用 direct polling。批量数据处理优先考虑吞吐量,时间敏感的反馈消息则使用另一种队列配置。这对应两项不同要求:高效接收大数据流,以及及时发出控制消息。一项优化可能与另一项冲突,因此构建系统时要在真实竞争负载下测量两者,不能将单个最低延迟数字当作整台仪器的表现。
EELS 案例是实时图像处理,并非演示过的 AI 闭环#
NVIDIA 将 DAQIRI 定位为帮助科研仪器开展实时 AI 的基础设施,并称该库支持分析和反馈应用。伯克利 EELS 案例展示高速采集和测量期间的 GPU 处理。文章列出的 GPU 步骤是帧组装、探测器校正、谱线归约和可视化,没有指明某个 AI 模型在这个闭环中自主操控显微镜,也没有报告该相机上的 AI 精度或自动控制结果。 NVIDIA 的伯克利案例
这条边界很重要,因为 GPU 流水线不等于 AI 模型推理。GPU 内核可以执行确定性的校正、变换和归约而无需推理。Holoscan 和 TensorRT 能承载下游流式 AI 应用,DAQIRI 可将数据准备好以供这类推理。NVIDIA 的平台故事是采集路径能让实时 AI 成为可能。在所述 EELS 工作流中,报告的结果是采集继续时数据可处理和查看。若要声称科研发现或 AI 自动调整了实验,需要单独描述并提供证据。
这一区分也有助理解反馈。测量期间,研究人员可以查看数据并调整参数或感兴趣区域。这代表有人在环的机会。自主反馈则还要识别条件、决定设置、确保修改安全,并验证下一次测量。博客讨论了反馈能力和时间敏感控制,却没有报告 EELS 示例已经运行一个 AI 系统自主决定如何操作显微镜。该架构可以支持后续开发;不能把已有案例写成已证明的闭环 AI 实验。
NVIDIA 所说“超过传统 EELS 500 倍”的比较也是厂商说法,依赖其比较的数据流。博客解释,传统 EELS 为强弱信号分别运行优化的采集过程,但没有完整定义 500 倍数字所用的传统仪器、探测器、采集时长和处理边界。这一数字有助理解规模,但应归因于 NVIDIA,不能作为经独立审计的行业通用比例。
独立显微镜研究说明了实时处理为何长期重要。伯克利实验室的 4D Camera 项目每秒运行 87,000 帧,并在不到 15 秒内生成最多 700 GB 数据。既有工作流将数据接收入 RAM、写入闪存,再在本地处理或传输到 NERSC。实验室称流式工作流改善了数据周转时间,并支持实时决策。另有一篇 2025 年显微镜流式研究描述了大数据集的存储和处理难题,以及 FPGA 接收、内存和存储路径。这些不是新 EELS 相机或 DAQIRI 的测量,却说明探测器速率与分析延迟长期影响仪器设计。 伯克利实验室的 4D Camera 工作流 · 大规模显微镜数据流研究
新系统改变了可以在哪里进行更多处理。旧工作流中的闪存写入和传输至集中计算资源仍有价值,可用于保存数据和大型计算。DAQIRI 路径则支持在边缘处理选定步骤,不必等数据存储之后。这更像互补架构,而非简单替换硬盘或 HPC。研究人员可能既要保留原始档案供以后重分析,又要用实时归约结果立即调整参数。要存、要归约还是丢弃,取决于科研复现和实验计划。
实时处理会重塑实验选择#
测量期间就能看到数据,可能更早发现问题。图像中的异常信号、探测器问题或感兴趣区域选取不当,可能在长时间采集完成前显现。它的潜在价值不仅是事后处理更快,还能避免采集错误的数据。若仪器时间宝贵或样本敏感,早期预警会影响下一步测什么。这就是把分析移近探测器的重要性。
尽早行动与保留后续证据之间需要平衡。实时归约或许能迅速生成有用谱线,但原始探测器流可能包含未来算法可恢复的细节。如果为保证流水线吞吐而丢弃数据,采集计划需要记录归约内容和理由。如果原始流也保存,存储与网络压力依然存在。“落盘前处理”可缓解部分工作流的存储压力,但数据管理并没有消失。
具备 GPU 原生采集后,仪器制造商也可能重新考虑读出设计。NVIDIA 认为,如果新相机能在一次采集中捕捉强弱信号,过去服务于两次采集的光学和协调步骤可以简化。但系统仍需要探测器电子元件和 FPGA 读出承担数据速率,并配置容量足够的网络与计算路径。高速链路可能只是把瓶颈移走。如果 GPU 帧重建或谱线抽取跟不上,队列就会积压,或必须降低采集速度。
对需要反馈的仪器,最重要的性能指标是负载下的端到端延迟。2 至 4 微秒回环结果还不够。系统需要测量从探测器事件到有效科研指标,再经过控制决策并影响仪器的完整耗时;也要监控抖动和丢包,而不只是平均吞吐量。相机可能以突发方式输出数据,因此峰值与尾延迟可能比平均速率更影响控制时序。测量这些指标后,才能判断流水线是否可以安全地影响采集,而非仅显示预览。
科研反馈还需要约束。如果异常的一帧就让算法调整一个高影响测量参数,会有风险。应用可能需要置信度检查、参数变动上限和人工确认。日志系统应保存原始测量、派生信号、软件版本和采取的操作。没有这些信息,更快反馈反而可能降低实验的可复现性。只有当低延迟路径能更早提供证据,又让证据链可检查时,它才真正有用。
性能数字说明了什么,又没有说明什么#
报告中的吞吐量数字绑定了包大小、队列数量、硬件和后端版本。ibverbs 结果是在大于 200 Gbps 下比较小包的单核吞吐量,而大包吞吐量据称相近。Direct polling 延迟来自同一主机有线回环。伯克利相机流是独立应用场景,速率超过 500 Gbps。这些数字回答不同问题,不能拼成“这台显微镜在 500 Gbps 下实现了 4 微秒 AI 反馈”的结论。
测试应从目标系统开始。NVIDIA DAQIRI 设置文档列出 Linux 要求、网卡与 GPU 组合、大页内存和 CUDA 依赖,并称容器构建包含打补丁的 DPDK 和网络依赖。峰值 GPUDirect 性能依赖兼容硬件。普通 Linux socket 路径可运行于较低配置设备,但并不是同一条高性能路线。这会影响采用范围,以及所需的采购和工程工作。 DAQIRI 硬件与软件要求
NVIDIA 文章建议使用 DAQIRI 基准来评估目标系统的吞吐量和通信延迟。有效部署测试应包括仪器的实际包结构、是否乱序、采集突发模式、GPU 内核、存储要求和反馈周期。还应测试过载与缺包恢复。硬件重排需要受支持的网卡和兼容的序号格式,包超时策略可能丢弃不完整批次。这些设置关系科研数据完整性,不只是速度。
一项干净的基准可以比较不同流水线路径:常规接收与拷贝、GPU 直传、软件重排、硬件重排、批量处理,以及控制流量的 direct polling。应保持探测器数据和分析不变,每次只改变链路一部分。结果可能显示,复杂硬件功能在大包下没有明显收益;也可能显示直接轮询降低了控制延迟,却占用一个应用核心。这些结论都很有用,目标不是默认启用每项新功能。
是否保留原始测量,还是在边缘归约,应与网络吞吐量分开评估。有些实验只需选择性谱线支持实时决策;其他实验需要原始数据用于审计、重新校正或尝试新的分析。DAQIRI 即使能把数据直接送入 GPU,也无法替研究人员决定丢弃哪些信息是安全的。测量计划和后续分析决定这个边界。
什么证据会让下一步结果更有说服力#
最有力的后续证据,是公开新相机与 DAQIRI 路径的完整仪器工作流,包括持续和突发数据速率、丢包率、GPU 与存储表现、处理延迟,以及保留了多少原始数据。前后对比还应定义“超过 500 倍”所对应的传统 EELS 配置,并说明比较的是探测器输出、组装帧还是完整谱线结果。这样其他实验室才能判断吞吐量主张的具体含义。
关于 AI 反馈,应单独说明使用的模型或算法、要检测的测量条件、允许采取的控制操作,以及相对于真值或经人类批准流程的结果。测试应覆盖漏报、误报和异常样本,并报告反馈是否提高实验产率或缩短耗时,同时不损失后续分析需要的数据。GPU 就绪的数据传输是基础设施,不替代科研方法本身的验证。
可复现性还需要软件和硬件细节。论文或基准应列出 DAQIRI 版本、网卡与 GPU 型号、驱动及 CUDA 版本、队列配置、包大小、重复次数、样本变化和不确定性。还应标明哪些测量来自 NVIDIA、哪些来自仪器团队、哪些属于独立测试。当前技术文档提供了有用工程细节,尤其是功能与测量路径;独立结果能帮助判断性能可以推广到多大范围。
还有一个生态系统问题。DAQIRI 是 Apache-2.0 开源项目,并提供 C++ 与 Python 接口,但峰值性能仍依赖受支持的 NVIDIA 网卡和 GPU。其他网卡可使用 socket 路径,而零拷贝高速模式的兼容范围更窄。科研设施常把旧仪器、自定义 FPGA 和共享计算集群结合起来。集成工作量、故障处理和长期支持,与带宽数字同样会影响采用。 DAQIRI 源码仓库及支持方式
更快的测量路径,AI 闭环仍待证明#
NVIDIA 的 DAQIRI 更新针对了仪器的具体问题:高频数据可能超出先存再分析的采集路径能力。伯克利 EELS 相机提供了具体案例,GPU 原生传输让采集期间处理数据成为可能。硬件包重排、ibverbs 和 direct polling 分别针对包传递和控制通信中的瓶颈。公开性能结果仍受包大小、测试设备和工作负载限定。
AI 是平台方向。DAQIRI 可将数据交给 GPU 处理、推理和反馈,但 NVIDIA 文章描述的伯克利工作流执行帧组装、探测器校正、谱线归约和可视化,并未显示 AI 模型自主操控显微镜。研究人员可以在测量期间查看并调整设置。这本身有价值,但与经过验证的闭环 AI 实验是两回事。
值得继续跟踪的是,这条采集路径能否端到端地改善测量决策。令人信服的证据会连接相机输出、传输、GPU 分析和控制,呈现可复现的科研结果,同时说明原始数据保存和故障模式。在那之前,DAQIRI 更适合被理解为让分析接近仪器的基础设施。数据流水线正在走向 AI;目前演示的成果是更快地访问测量数据。