qmh - OpenAI 仅用两周便重塑市场,Jev 不再有立足之地?
就在15天前,Jev 正处于风口浪尖,而现在,它面临着前所未有的挑战。今日在 DevDay 活动上,OpenAI 隆重推出了全新的 Decisions API,这一产品以其在性能和成本上的优势,迅速吸引了业内的关注。该 API 依托于 OpenAI 当前最小、价格最低的 GPT-6 Luna,在一组预设选项中迅速作出选择,并返回相应的置信度分数,其响应时间仅 150 毫秒,而使用 GPT-6 Luna 直接完成类似任务则需耗时 1.6 秒。开发者们只需提交问题、候选答案和上下文信息,模型便可提供直接可操作的决定:内容应归类何处,请求应由哪个模型处理,Agent 下一个动作应如何展开。这几乎是 Jev 在过去几周内最为倚重的核心能力。
消息一出,Reddit 的 AI_Agents 版块迅速反应,一个简洁直接的帖子应运而生,标题赫然写着:“Jev Is Dead”。发帖者直言不讳,认为随着 OpenAI 推出 Decisions API,Jev 的生存空间变得愈加渺茫,而其当前仅剩的竞争优势,似乎也只是“飞快的速度与极低的价格”。更有评论理性分析,认为“Jev 从未建立过真正的护城河”。
在 OpenAI 的 DevDay 主题演讲中,Sam Altman 提到 Decisions API 时只用了简单几句话便已揭示其核心:该产品能在几分之一秒内迅速回应,通过给 Luna 模型提供一组预设选项,从而实现极致的响应速度。这一表述中蕴含了两个至关重要的信息:首先,Decisions API 的设计理念与 Jev 的 Choice 原语高度吻合,二者都将开放式生成收窄为“从明确选项中作选择”。其次,决定使用 Luna 作为底层模型,意在将决策任务交给这一当前体量最小、成本最低的模型,这一选择明示该能力的定位是高频、低成本,并适合大规模嵌入 Agent 工作流。 qmh
目前,Decisions API 仍处于限量预览阶段,尚未披露定价、单次请求所支持的候选答案上限以及开发者是否可以使用自有数据进行调优等关键信息。一位 OpenAI 的发言人向外界透露,更多的细节将在项目“全面推出时”公布,因此可以推测,OpenAI 很可能是为了抢在 DevDay 之前发布新功能,才仓促推进了这次发布。
这种产品填补了传统开放聊天模型与单纯分类器之间的空白。以往,若开发者希望模型在多个答案中作出选择,通常需调用普通聊天模型,再通过提示词要求其仅返回某一选项。如果需要置信度,开发者只得通过读取 token 概率,或让模型自行产生数字。然而,聊天模型提供的置信度往往只是粗略估计,为了完成简单的判断,模型可能还需生成大量的 token。另一条路则是训练专用的小型分类器,虽然这种模型速度快、成本低,但却要求开发者准备带标签的数据。而一旦分类标签发生变动,往往还需重新训练。
Decisions API 则巧妙地结合了这两者的优点。开发者可如同使用大型语言模型般,通过提示词提供新问题与标签,并获取类似分类器的结构化结果和置信度。这个设计对 OpenAI 来说并非全新,Moderation API 也早已针对预设类别返回分数,但不同之处在于,Moderation API 的类别由 OpenAI 固定,而 Decisions API 则允许开发者自主定义问题和候选答案。 qmh
而这一系列逻辑与 Jev 的初衷几乎完全重合。9 月 15 日,TypeSafe AI 正式发布了 Jev。根据《金融时报》的报道,Jev 在上线后迅速引起投资者的浓厚兴趣,围绕其超 100 亿美元的估值展开发掘。在此之前,该公司的估值仅在 2 亿美元左右。Jev 创始人 Diogo Almeida 曾在 OpenAI 参与构建 GPT-4、ChatGPT 和 RLHF/InstructGPT。阿尔梅达曾指出:“我参与了 OpenAI 多项最重要的公开成果,包括 GPT-4、ChatGPT 及 RLHF/InstructGPT。我所在的团队几乎是创造了‘后训练’的概念。但我与众不同的是,我可能是 OpenAI 中少数几位会直言批评 ChatGPT 的人之一。”他的经历确实非同寻常,OpenAI 在 GPT-4 的贡献者名单中特意将他列为“Foundational RLHF and InstructGPT work”中的一员,他同时也是 InstructGPT 论文的第四作者。2024 年他离开 OpenAI 后,与 Erik Gafni、Sasha Sheng 共同创立了 TypeSafe AI,经过两年的秘密研发,才终于推出了 Jev。根据 TypeSafe 的官方定义,Jev 是……
灰熊队启程训练营,球员登机瞬间曝光
提供篮球健身方案设计、健康体能检测和专业康复辅助服务,提升运动员的竞技表现。...
科乐美与法甲续签多年战略合作协议
提供篮球健身方案设计、健康体能检测和专业康复辅助服务,提升运动员的竞技表现。...