跳到主要内容
Vane Data / 教程

概览

这些示例展示了 Vane 如何在实际数据工作流中组合 Relation、SQL、批量 UDF、AI 函数,以及可配置的本地或 Ray 执行方式。每篇文档都对应 Vane 生态中的可运行源码:先交代问题,再分阶段拆解处理流程,解释关键实现选择,最后说明应检查哪些产物。

大多数脚本默认使用小型、自包含的样例数据。你可以先在本地理解工作流,再切换到真实数据集、模型或服务。

运行示例脚本

先按照安装页面创建环境并安装已发布的 Vane wheel。只下载 0.1.0 可运行脚本时,可以使用 git clone --branch v0.1.0 --depth 1 --filter=blob:none --sparse https://github.com/AstroVela/vane.git vane-examples,然后执行 cd vane-examples 和 git sparse-checkout set examples。通过 uv pip install vane-ai==0.1.0 numpy pyarrow 安装匹配版本的 wheel 和通用运行依赖,再按下表补充示例专用依赖。

Sparse checkout 不会把 vane/ 和 duckdb/ 源码目录放入工作区,因此示例脚本和本地 Ray worker 会导入已安装的 wheel,而不是相邻的源码副本。

按需安装依赖

上面的基础环境足以运行 MinHash 去重和占位图像生成。只需为准备运行的工作流安装额外依赖:

示例默认样例需要的额外依赖可选模式
Common Crawl 与 Red Pajamasuv pip install torch sentence-transformers transformers缓存 sentence-transformers/all-MiniLM-L6-v2 后可启用仅本地文件选项;Common Crawl 也可以跳过嵌入阶段
查询图像uv pip install PillowOpenImages 数据源还需要网络访问
图像生成占位后端无需额外依赖Stable Diffusion 需要 uv pip install diffusers transformers accelerate torch Pillow
语音 AI 分析uv pip install torch sentence-transformers transformersFaster-Whisper 需要 uv pip install faster-whisper av;OpenAI 摘要需要 uv pip install 'vane-ai[openai]==0.1.0'
基础 Promptuv pip install 'vane-ai[openai]==0.1.0' 和 OPENAI_API_KEY—

使用 CUDA 工作流时,请安装与操作系统、GPU 和驱动匹配的 PyTorch build。PyPI 默认包不一定是适合当前机器的 CUDA build。

运行有界样例

在 sparse checkout 根目录运行以下命令。大多数示例使用内置或生成的输入;基础 Prompt 会读取自带的 example.png 并调用托管模型。

示例有界运行命令默认结果
Common Crawlpython examples/common_crawl.py --source sample --limit 5页面、文本块和嵌入写入 examples/output/common_crawl/
MinHash 去重python examples/minhash_dedupe.py --source sample --limit 10标注、保留、重复、聚类、候选与桶 CSV 写入 examples/output/minhash_dedupe/
Red Pajamaspython examples/llms_red_pajamas.py --source sample --limit 6在终端显示匹配;添加 --output-csv PATH 可以持久化结果
查询图像python examples/querying_images.py --source sample --limit 5图像预览、掩码和 top_red_images.csv 写入 examples/output/querying_images/
图像生成python examples/image_generation.py --source sample --limit 4占位 PNG 与 metadata.csv 写入 examples/output/image_generation/
语音 AI 分析python examples/voice_ai_analytics.py --source sample --limit 3摘要、字幕和片段嵌入写入 examples/output/voice_ai_analytics/
基础 Promptpython examples/basic_prompt.py在终端显示纯文本、结构化、原始和 SQL Prompt 结果;需要先设置 OPENAI_API_KEY

这些脚本不会显式设置 Vane runner,因此会采用已安装包的默认值。使用本地 runner 时设置 VANE_RUNNER=local;如需使用已有 Ray 集群,则保持 runner 未设置,并在启动前设置 RAY_ADDRESS。每个 worker 都需要安装相同的示例专用依赖,并能访问相同的数据、模型缓存和凭证。配置的 runner 会物化整条 Relation 工作流,而不会改变样例契约。

示例

示例你将构建什么默认输入
处理 Common Crawl 数据解码 WET 记录、按语言过滤、切分网页文本并生成嵌入WARC 结构的内置记录
MinHash 文本去重规范化文本、生成 MinHash 签名、查找 LSH 候选并为每个连通分量保留一行内置的重复文本块
Red Pajamas 语义检索为 StackExchange 风格问题生成嵌入,并把低分问题匹配到相关的高分问题内置的问题对
查询图像数据加载图像字节、在批量 UDF 中检测红色区域,并为图像和掩码排序生成的样例图像
从文本生成图像使用占位后端或 Stable Diffusion,把提示词行转换为 PNG 字节确定性的占位图像
语音 AI 分析转写音频、总结转录文本、生成字幕行并为片段创建嵌入生成的音频与预设转录文本
基础 Prompt对文本与图像行发起 Prompt、返回结构化值并检查原始 provider 响应自带示例图像与托管模型

用例

这些用例会组合多个源系统、模态分支或 SQL 派生表。页面集中说明核心处理与决策路径,不展开运维脚手架。大多数用例都是带有独立固定依赖的项目;请按对应项目的安装步骤操作,不要复用上面的 wheel 示例环境。客服录音 Doris 教程是例外:它是自包含教程,脚本直接内联在页面中;该教程面向 Vane 0.2.0,因为上面引用的 0.1.0 wheel 不包含 Doris sink。

用例你将构建什么默认场景
基于多模态证据的理赔处置组合理赔记录、照片、OCR、多模态事实和有序 SQL 规则,为每个理赔案件生成一条工作流建议覆盖全部建议结果的四个合成案件
企业 Agent 证据治理解析可复用多模态资产、识别证据缺口与冲突,并构建经过治理的 Agent 上下文和审查队列五个公开来源资产关联到四个合成业务事项
多模态训练数据发布集把文档、图像、音频和文本分支处理成统一的发布表与可审查的拒绝记录集五个固定版本的公开来源资产
采购合规审计从证据图像抽取事实、比较专家评分、重新计算中标方并生成确定性审计发现一个包含两张证据图像的合成招标项目
基于全局 LSH 的网页文本去重生成全局 LSH 候选、用精确 Jaccard 校验、形成图聚类并保留代表文档24 篇包含重复组与单例的文档
Vane + Doris 客服录音检索转写客服录音、提取候选故障类别并生成向量,写入 Doris 后检索相似反馈并关联订单与批次三段示例 WAV 录音与工单清单

如何选择

文本与嵌入工作流可以从 Common Crawl 或 Red Pajamas 开始。精简的 MinHash 示例适合了解算法;全局网页文本用例则继续覆盖候选诊断、精确校验、聚类和发布。图像生成、图像查询、语音和基础 Prompt 示例展示了二进制媒体与模型结果如何在 Arrow 支撑的 Relation 中流转。如果需要由多个输入和明确下游策略组成的完整工作流,可以选择理赔、采购、Agent 证据或训练数据发布用例。

代码来源

示例页和有 demo-scene 支撑的用例页中的每个代码块都复制自对应的源码项目。示例使用 Vane v0.1.0 tag 下 examples/ 目录中的文件,这些用例使用 demo-scene 仓库中同名目录下的文件。客服录音 Doris 教程的脚本直接内联在页面中,因此该工作流以页面本身为最终依据。正文只负责解释和串联这些片段,其他工作流仍以可运行项目为最终依据。