深夜突发:即刻免费上线,降价%

机器之心报道

机器之心编辑部

大模型向小了。还没「休息」几天,AI大模型再次卷起来了。

刚刚,OpenAI突然宣布了「Mini」版本的GPT-4o模型。该公司表示,新的轻量级版本旨在让更多公司和项目能够获得最先进的技术。

这款名为GPT-4omini的新模型立即上线,它在MMLU上的得分为82%,目前在LMSYS排行榜的聊天方面分数优于GPT-4。

除了立即在ChatGPT免费版、付费版上可用以外,GPT-4omini的商用价格是每百万输入token15美分,每百万输出token60美分——比之前的SOTA模型便宜一个数量级,比OpenAI此前最便宜的GPT-3.5Turbo还要便宜60%以上。

OpenAICEO山姆・奥特曼对此的形容是:通往智能的成本已经「toocheaptometer」。

GPT-4omini凭借其低成本和低延迟的性能实现了广泛的任务,例如链接或并行化多个模型调用(如调用多个API)的应用程序、将大量上下文传递给模型(如完整的代码库或对话历史记录)或通过快速、实时的文本响应与人互动(例如客户支持聊天机器人)。

OpenAI表示,目前GPT-4omini在API中支持文本和视觉,很快也将支持文本、图像、视频和音频输入和输出。该模型具有128Ktoken的上下文窗口,知识截至2023年10月。得益于与GPT-4o共享的改进版tokenizer,处理非英语文本能力也更加经济高效。

OpenAI将新模型的推出描述为努力让AI「尽可能广泛普及」计划的一部分,但这也反映了AI技术供应商之间日益激烈的竞争,以及人们对小型和免费开源大模型的兴趣。另有消息称,Meta预计将于下周推出Llama3的最大体量版本。

在人们看来,GPT-4omini可以替代GPT-3.5Turbo,对标的是Claude3Haiku和Gemini1.5Flash——作为后来者,GPT-4omini毫无疑问的比这两者更便宜,性能也更好。

「OpenAI的全部意义在于安全地构建和分发AI,并使其广泛普及,」OpenAI负责新模型的产品经理OlivierGodement表示。「以更低的成本提供智能是我们实现目标的有效方法之一。」

Godement表示,该公司通过改进模型架构、优化训练数据和训练方案,开发出了GPT-4o的这个最新版本。它在几个常见的基准测试中也优于市场上其他的「小体量」模型。

小模型中最能打的

GPT-4omini在文本智能和多模态推理方面,在学术基准上超越了GPT-3.5Turbo和其他小型模型,并支持与GPT-4o相同范围的语言。

GPT-4omini还在函数调用方面表现出强大的性能,使开发人员能够构建应用程序,以获取数据或执行操作。

值得注意的是,与GPT-3.5Turbo相比,GPT-4omini提高了长上下文性能。

GPT-4omini已在多个关键基准测试中进行了评估,包括:

推理任务:GPT-4omini在涉及文本和视觉的推理任务上优于其他小型模型,在文本智能和推理基准MMLU上得分为82.0%,而GeminiFlash为77.9%,ClaudeHaiku为73.8%。数学和编码能力:GPT-4omini在数学推理和编码任务方面表现出色,优于以前的小型模型。在MGSM上,对于数学推理任务,GPT-4omini得分为87.0%,而GeminiFlash为75.5%,ClaudeHaiku为71.7%。编码性能方面,GPT-4omini在HumanEvalji'zhun上得分为87.2%,而GeminiFlash的得分为71.5%,ClaudeHaiku的得分为75.9%。多模态推理:GPT-4omini在多模态推理评估基准MMMU上表现出强劲的性能,得分为59.4%,而GeminiFlash为56.1%,ClaudeHaiku为50.2%。作为模型开发过程的一部分,OpenAI也与一些合作伙伴合作测试了GPT-4omini,发现GPT-4omini在一些任务上明显优于GPT-3.5Turbo,例如从收据文件中提取结构化数据,或者生成高质量电子邮件回复。

安全对齐

从一开始,OpenAI就在模型中内置了安全措施,并在开发过程中的每一步都加以强化。

在前期训练中,团队会过滤掉他们不希望模型学习或输出的信息,如仇恨言论、成人内容、主要汇集个人信息的网站和垃圾邮件。在后期训练中,会使用RLHF等技术使模型的行为与自身策略保持一致,以提高模型响应的准确性和可靠性。

GPT-4omini内置了与GPT-4o相同的安全缓解措施,OpenAI根据PreparednessFramework和自愿承诺,通过自动和人工评估对其进行了仔细评估。70多名社会心理学和错误信息等领域的外部专家对GPT-4o进行了测试,以确定潜在风险,这些问题的解决方法会在即将发布的GPT-4osystemcard和Preparedness记分卡中分享。这些专家评估得出的见解有助于提高GPT-4o和GPT-4omini的安全性。

在这些经验的基础上,团队还利用研究中获得的新技术努力提高GPT-4omini的安全性。

API中的GPT-4omini是第一个应用指令分层(instructionhierarchy)方法的模型,该方法有助于提高模型抵御越狱、提示注入和系统提示提取的能力。这使得模型的响应更加可靠,有助于在大规模应用中更安全地使用。

价格降低

OpenAI表示,GPT-4omini现在可在AssistantAPI、ChatCompletionsAPI和BatchAPI中作为文本和视觉模型使用。每100万输入token价格为15美分,每100万输出token(大约相当于一本标准书的2500页)价格为60美分。

OpenAI也计划在未来几天推出GPT-4omini微调版本。

在ChatGPT中,Free、Plus和Team用户今天起就能够取代GPT-3.5Turbo访问GPT-4omini。从下周开始,深夜突发:即刻免费上线,降价%企业用户也将可以访问。

OpenAI表示,在过去的几年里,人工智能有了显著进步,成本也大幅降低。例如,自2022年OpenAI推出功能较弱的模型text-davinci-003,至如今的GPT-4omini,每个token成本已下降了99%。OpenAI致力于降低成本同时增强模型能力。

OpenAI设想未来模型可以无缝集成到每个应用程序、每个网站中。GPT-4omini为开发人员更高效、更经济地构建和扩展强大的AI应用程序铺平了道路。

参考内容:

https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/

https://www.wired.com/story/openai-gpt-4o-mini/

https://www.theverge.com/2024/7/18/24200714/openai-new-cheaper-smarter-model-gpt-4o-mini

免责声明:本网站部分内容由用户自行上传,若侵犯了您的权益,请联系我们处理,谢谢!联系QQ:2760375052

分享:

扫一扫在手机阅读、分享本文

最近发表