跳到主要内容

Vane Data:从多模态文件到可查询数据

· 阅读需 16 分钟

AI 应用往往需要处理 PDF、图片、音频和视频。进入数据管道前,需要对 PDF 拆页、对图片解码、对音频重采样,并沿视频时间轴展开,同时保留文件名、页码和帧号等定位信息。本文以这四类文件为例,介绍 Vane Data 如何以 Relation(多模态数据集)为核心,串联文件展开、批量处理、模型推理、查询和写出,把原始文件转化为可查询的数据。

Vane Data:如何让 DuckDB 成为 AI 多模态数据引擎

· 阅读需 11 分钟

Vane Data 是基于 DuckDB 构建的多模态原生数据引擎,将数据处理、模型推理和异构资源调度纳入同一条 Relation 流水线。本文介绍它如何组合 AI Functions、Python UDF 与 vLLM,如何通过动态批处理、流水线并行、背压和容错让任务稳定运行,并以车险理赔为例展示从图片预处理到审核分流的完整流程。