Aravind Srinivas 汇总 Perplexity 近期七项开源贡献
最近来自 Perplexity 的几项开源贡献:
•pplx-decider-v1-27b:最先进的多模态决策模型。在 11 个基准测试中平均得分 85.7%,领先于 Jev。 •pplx-embed-v2-context-9b-preview:最先进的上下文嵌入,在 ConTEB 和 turbopuffer context-bench 上表现最佳。 •Lily:专为 Apple 芯片设计的本地推理引擎。使用 Rust 加上自定义 Metal 内核,无需 PyTorch 或 MLX。在 M5 Max 上,预填充速度比 MLX-LM 为其 1.23 倍,解码速度为其 1.35 倍。 •PII-Tracer:0.6B 的设备上 PII 分类器,用于决定混合计算任务何时保留在你的 Mac 上。在所有 5 个公共基准测试中击败 OpenAI 的隐私过滤器。同时发布了 PII-TRACE 基准:13 种语言的 13k 条对话。 •WANDR:针对宽泛和深度研究代理的基准。500 个任务,需要 170k 个来源支持的记录。 •Numbat:针对笔记本电脑和工作站的代理检测和响应。52 条规则,单一 Go 二进制文件,支持 macOS、Linux 和 Windows。 •Bumblebee:针对开发机器的只读供应链扫描器。覆盖软件包、MCP 配置,以及编辑器和浏览器扩展。
很快会有更多开源贡献!
对照原文
a few open source contributions from perplexity recently: •pplx-decider-v1-27b: SoTA multimodal decision model. 85.7% average across 11 benchmarks, ahead of Jev. •pplx-embed-v2-context-9b-preview: SoTA contextual embeddings, best on ConTEB and turbopuffer context-bench. •Lily: local inference engine for Apple silicon. rust plus custom metal kernels, no pytorch or mlx. 1.23x faster prefill and 1.35x faster decode than MLX-LM on an M5 Max •PII-Tracer: 0.6B on-device PII classifier that decides when a hybrid compute task stays on your Mac. beats OpenAI’s Privacy Filter on all 5 public benchmarks. also released with the PII-TRACE benchmark: 13k conversations in 13 languages •WANDR: benchmark for wide and deep research agents. 500 tasks needing 170k source-backed records •Numbat: agent detection and response for laptops and workstations. 52 rules, single go binary for macOS, linux and windows •Bumblebee: read-only supply chain scanner for dev machines. covers packages, MCP configs, and editor and browser extensions. a lot more open source contributions coming soon!