从现在起,上超亿开发者可直接访问全球顶级大模型,构建应用
机器之心报道
编辑:杜伟、佳琪
GitHub推出的全新功能「GitHubModels」将有望加快AI工程师时代的到来。
什么?大家熟悉的代码托管平台GitHub又进化了!该平台也开始提供AI大模型的Playgroud了。
所有你能叫得上名字的业界流行大模型,包括微软的Phi-3、OpenAI的GPT-4o、Meta的Llama3.1、Cohere的CommandR 、MistralAI的MistralLarge,都可以在一个交互式沙盒中试用。
在未来几个月,Github也将添加更多语言、视觉以及其他类型的模型。
也就是说,这张图上的模型都可以「白嫖」到了!相当于又多了一个可以免费测试各家大模型的新途径!
不仅如此,开发者还可以轻松地将合适的模型导入到自己的AI项目中。Github创建了一条能直接把模型放在Codespaces和VSCode开发环境中的快速通道,一下把部署AI模型的门槛打下来了。
这就是GitHub今天推出的「GitHubModels」功能!
对于开发者来说,只要有合适的工具并训练,每个人都可以成为AI工程师。开发者选择模型,在GitHub代码空间(Codespaces)中进行编码,从现在起,上超亿开发者可直接访问全球顶级大模型,构建应用然后通过Azure进行生产部署,提供了「一条龙」服务。
具体来说,你可以调用GitHubCLI中的GitHubModels命令,通过一系列JSON文件在GitHubActions用,还可以用GitHubModels构建GitHubCopilot扩展,覆盖应用开发的全周期。
当项目迈入上线阶段时,Github还提供了与AzureAI的无缝集成,Github的身份验证可以通过Azure订阅,AI应用部署到生产环境的门槛就这么被打下来了。
现在,你可以通过Github在全球25个以上的Azure区域部署AI应用,并获取Azure的企业级安全保护。
与GitHub和Microsoft对隐私和安全的持续承诺一致,GitHub模型中的任何提示或输出都不会共享给模型提供者,也不会用于训练或改进模型。
当然,试玩「GitHubModels」也不是完全不受限制。个人用户每天限制访问次数150次,每分钟不能超过15次,每次请求最多可以处理8000个token,最多输出4000个token。
对此,GitHubCEOThomasDohmke表示,该功能的推出标志着GitHub的又一次转型,从通过开源协作创建AI到借助AI的力量创建软件,再到如今利用GitHubModels推动AI工程师的崛起。
并且基于OSS存储库、CopilotExtensions和GitHubModels功能,GitHub希望将尽可能多的合作伙伴引入到自己的平台。
有开发者展示了在GitHub的代码空间中直接运行模型的案例,不需要安装什么东西,几秒内就可以启动。
图源:https://x.com/DanWahlin/status/1819113874689610133
不知道当Github「HuggingFace」化后,HuggingFace将如何接招呢?