速来报名!AICon北京站鸿蒙专场~ 了解详情
写点什么

吴恩达发布开源 Python 库,一个接口可调用多个大模型

  • 2024-11-29
    北京
  • 本文字数:526 字

    阅读完需:约 2 分钟

大小:268.36K时长:01:31
吴恩达发布开源Python库,一个接口可调用多个大模型

近日,吴恩达宣布推出了新的开源 Python 库:aisuite。

 

“在构建应用程序时,我发现与多个提供商集成很麻烦。”吴恩达说道,“这(aisuite)使开发人员能够轻松使用来自多个厂商的大型语言模型。”

 

据介绍,aisuite 允许用户通过更改一个字符串来选择一个 “provider:model”,例如 openai:gpt-4o、anthropic:claude-3-5-sonnet-20241022、ollama:llama3.1:8b 等。

 

Aisuite 为开发人员提供了一个标准化接口,使其能够轻松地使用多个大型语言模型。它采用了类似于 OpenAI 的接口,允许用户轻松地与最流行的 LLM 进行交互并比较结果。作为一个 Python 客户端库的轻量级包装器,Aisuite 允许开发者在不改变代码的情况下,无缝交换和测试来自不同 LLM 提供商的响应。

 

目前,该库主要专注于聊天完成功能,吴恩达计划在不久的将来扩展其功能以覆盖更多用例。当前支持的 LLM 提供商包括 OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral、HuggingFace 和 Ollama。为了确保最大的稳定性,Aisuite 通过 HTTP 端点或 SDK 调用这些提供商的服务。

 

吴恩达还给出了使用演示:

 


据悉,aisuite 遵循 MIT 许可协议,开发者可以自由使用、修改和分发代码,用于商业和非商业用途。


开源地址如下:

https://github.com/andrewyng/aisuite

2024-11-29 17:3710730

评论

发布
暂无评论
发现更多内容
吴恩达发布开源Python库,一个接口可调用多个大模型_AI&大模型_褚杏娟_InfoQ精选文章