GitHub推出Models新平台,可供开发者试用多种大型语言模型,并在游乐场(Playground)模型测试环境中测试不同的提示词和参数。开发者可以使用浏览器IDE Codespaces实验和开发,并利用范例程序代码集成模型,当测试完成,还可以简单地将新功能应用到项目中,部署至生产环境。
开发者现在可以利用GitHub内置的模型游乐场,免费试用Llama 3.1、GPT-4o、GPT-4o mini、Phi 3以及Mistral Large 2模型,只要通过鼠标点击,就可迅速测试当前多种热门的私有和开放模型,进行人工智能应用程序实验、比较甚至是部署。
官方指出,因为每个软件应用都是特殊的,模型在功能、性能和成本上也不一样。通过GitHub提供的模型组件,开发者可以更快地进行试验和学习。GitHub不只是提供游乐场让开发者测试模型,同时也创建了一个工作流程,让开发者可以更快地将人工智能应用,从概念性验证阶段过渡到生产阶段。
借助Codespaces,开发者可以将模型推理程序代码,应用到自己的项目上进行试验,官方也准备了各种语言的框架样板程序代码,方便开发者在各种场景进行测试。一旦开发者在游乐场和Codespaces中试验完毕,就能将测试的结果整合到应用程序中,并运用GitHub Actions进行提示词评估等各种自动化操作,最后使用Azure AI将应用部署到生产环境中,而这只需用Azure订阅和凭证替换GitHub个人访问令牌即可。
GitHub Models目前仍在测试阶段,当服务正式推出时,官方将会在平台添加更多语言和模型支持。官方也承诺,GitHub Models中的任何提示词以及输出,都不会与模型提供者共享,也不会用于训练和改进模型。