一款不具备聊天功能的AI产品，近日成功获得了8.7亿美元的融资。
10月9日，TypeSafe AI宣布完成A轮融资，估值迅速攀升至75亿美元。此次融资由a16z领投，红杉资本、DCVC等机构跟投。
更引人关注的是该团队的构成。
TypeSafe AI的三位联合创始人分别是Erik Gafni、Sasha Sheng和Diogo Almeida。其中，Erik Gafni是一位连续创业者，曾早期加入Invitae和Freenome；Sasha Sheng曾在Meta/FAIR担任研究工程师；而Diogo Almeida则曾参与OpenAI的ChatGPT研发工作。
如今，Diogo Almeida独立创业，其推出的新产品竟迫使前东家迅速跟进。
9月15日，这款名为Jev的产品正式上线。
仅两周后，OpenAI便宣布推出Decisions API的有限预览版，并于10月6日直接面向公开测试。
负责API产品的Nikunj Handa坦率承认：Jev激发了这一举措。
这款不擅长聊天的AI，究竟凭借什么吸引了投资人和OpenAI的注意？
它不进行闲聊，也不直接执行任务，只专注于一项功能：理解内容并快速做出判断。
例如，邮件是否需要提醒？请求应分配给哪个工具？内容是否需要人工审核？
更多时候，它的“对话对象”是软件，输出结果可能只是一个选项或一个概率值。
软件接收到结果后，便可按既定规则继续运行。
而你甚至无需查看它的回答。
Jev瞄准的是你每天面临的小型判断。
打开邮箱，成百上千条信息扑面而来。
促销、订阅、工作等各类信息混杂在一起。
你想筛选出真正重要的内容，但又不愿逐一点击。
这类任务，以往也可借助大模型完成。
但问题是，每封邮件都调用一次AI，等待时间和成本会逐渐累积。
当同样的判断每天重复数千次、数万次时，每次调用在耗时和费用上的差异都会被放大。
Jev正是针对这种高频发生的小判断而设计。
以邮件筛选为例，开发者可以用自然语言设定标准：这封邮件是否涉及即将到期的账单？是否需要本人紧急回复？是否包含时间或地点的变更？
Jev读取内容后，会直接返回判断结果及相应的概率值。软件再根据预设规则，自动归类或发出提醒。
Jev直接返回选项或概率，无需生成长篇回答。程序可直接读取结果，无需再从大量文本中提取结论。
据TypeSafe介绍，Jev还能并行处理多个问题，并以结构化格式返回结果，供软件直接使用。
为此，公司采用了专门的模型架构和训练方法，其中重点之一是提升概率估计的可靠性。
调用AI的成本也被大幅降低。
每百万输入token仅需0.042美元，输出完全免费。
调用门槛降低后，许多原本不值得动用AI的小步骤，也有了尝试自动化的空间。
开发者的反应十分迅速。
9月18日，Vercel披露，Jev接入其AI Gateway后，首个24小时内，就有接近13%的付费团队使用过。
首日使用它的付费团队数量，是此前任何模型发布首日使用团队数量的两倍以上。
这仅是一个平台的首日成绩，尚不能代表长期留存情况。
但至少表明，开发者愿意为这种新用法进行尝试。
让AI替人处理琐碎小事，前提是用得起、等得起。
Almeida在OpenAI工作期间就已萌生这一想法。
据他在LinkedIn上的回忆，他曾思考过一个问题：如果AI真的改变经济，未来大量调用AI的，究竟是人，还是自动运行的代码？
他判断，后者将占绝大多数。
他将构想写成文档，并展示给奥特曼。
据他所述，奥特曼非常支持，甚至建议他放下手头工作，去探索这个方向。
后来，Almeida与Erik Gafni、Sasha Sheng共同创立了TypeSafe。经过两年研发，Jev终于公开亮相。
这一次，前东家迅速跟进。
在Latent Space访谈中，Handa提到，Jev推出后，OpenAI的用户和内部团队纷纷提出需求：他们也需要更快的分类系统。
主持人追问，四周前，这个项目根本不在开发计划里，对吗？
Handa确认，当时完全没有。
OpenAI并未从头训练新模型，而是改造现有的GPT-6 Luna：让它直接输出判断结果，同时处理多个问题，并加快后台运算，使第一个结果更快返回。
Jev和OpenAI提供了类似的能力，但做法完全不同。
Jev主打专门的模型与训练方法；OpenAI则先利用现有Luna模型，将其用于快速判断服务。
OpenAI还多了一项能力：支持图片输入，可判断照片中的物品是否有可见损伤。
开发者可以将商品照片和检查要求一同发送给Decisions API，例如判断物品是否有裂痕、撕裂或凹痕。
GPT-6 Luna根据图片作出判断，并返回损坏概率，应用据此筛选出需要提醒或人工复核的商品。Jev目前仅支持文本输入。
价格方面，Decisions API的基础输入价为每百万token 0.10美元，输出同样免费。
相比之下，Jev的0.042美元仍然更低。
至于OpenAI宣称的“最高快10倍”，比较的是通过自家Responses API调用同一模型时的表现。
前员工刚触及痛点，就被前东家迅速跟进。
但谁能笑到最后，还需看每一次判断的结果。
Jev的低成本，也得到了一项独立研究的初步验证。
9月29日，来自波恩大学、Lamarr研究所等机构的研究者提交了一篇预印本。
他们在37个数据集上测试Jev 1.13.0，完成了346,009次请求，总花费不到10美元。
超过34万次请求，不到10美元。这笔账确实令人印象深刻。
测试覆盖了分类、阅读理解、内容审核和评分等任务。不过，这个成本对应的是特定评测，不能直接换算成任何工作都如此便宜。
研究还发现，Jev在选择题上的概率校准表现较好，但处理二元判断时，直接套用固定的0.5阈值，效果并不总是理想。在部分任务上，根据训练数据调整阈值，结果明显改善。
简单来说，模型给出一个概率，软件还需决定：达到什么程度才值得采取行动？
再看邮箱这个场景。
错把广告邮件当成重要通知，可能只是多打扰一次。漏掉一封当天必须回复的消息，代价则大得多。
哪些能自动归档，哪些必须提醒，哪些拿不准时要交给人，都需要结合实际效果来调整。
就连TypeSafe自己的文档，也没有回避短板。
计数不够可靠，日期先后比较可能出错，多层推理容易遇到困难。输入中一旦混入大量无关内容，也会影响判断。
答案只有寥寥几个选项，并不等于每次都能选对。
Jev适合接手哪些步骤，还需要逐项验证。算术交给普通程序，复杂问题交给更强的模型，重要又拿不准的判断，留给人来复核。
省下的调用费，不能又变成用户收拾烂摊子的时间。
Jev的名字致敬了经济学家William Stanley Jevons。
他提出的“杰文斯悖论”描述了这样一种现象。
资源利用效率提高、使用成本下降，可能刺激更大的需求，最终导致总体消耗反而增加。
TypeSafe将杰文斯悖论的逻辑应用于AI：当调用AI的成本足够低，更多琐碎小事就值得交给AI处理。
过去，我们常常需要特意打开聊天窗口，粘贴材料、撰写要求，再将答案复制回原来的软件。
如果筛选、分类、检查这些能力能直接融入软件，许多步骤就可以在后台完成。
邮箱先筛出值得提醒的消息，写作工具先标出需要检查的句子，助手处理简单请求时快速响应，遇到复杂问题再调用更强的模型。
你不用每次都特意找AI，软件也有机会替你多做一步。
对用户而言，后台用的是Jev、Luna，还是其他模型，未必是最关心的事。
少等几秒，少点几次确认，少漏掉一条重要信息，这些变化才是最重要的。
8.7亿美元融资，给了TypeSafe继续研发的资金。OpenAI的快速跟进，也让竞争迅速升温。
接下来，Diogo和TypeSafe需要用实际表现证明：开发者为什么愿意继续选择Jev。
而普通用户的期待或许很简单：每天那些消耗耐心的琐碎判断，能有人替自己打理好。
等到真正需要我们拿主意时，AI再把决定权交回我们手中。
参考资料：
https://developers.openai.com/api/docs/guides/decisions
本文来自微信公众号“新智元”，作者：ASI启示录；编辑：元宇，36氪经授权发布。
评论4