大小:268.36K时长:01:31
近日,吴恩达宣布推出了新的开源 Python 库:aisuite。
“在构建应用程序时,我发现与多个提供商集成很麻烦。”吴恩达说道,“这(aisuite)使开发人员能够轻松使用来自多个厂商的大型语言模型。”
据介绍,aisuite 允许用户通过更改一个字符串来选择一个 “provider:model”,例如 openai:gpt-4o、anthropic:claude-3-5-sonnet-20241022、ollama:llama3.1:8b 等。
Aisuite 为开发人员提供了一个标准化接口,使其能够轻松地使用多个大型语言模型。它采用了类似于 OpenAI 的接口,允许用户轻松地与最流行的 LLM 进行交互并比较结果。作为一个 Python 客户端库的轻量级包装器,Aisuite 允许开发者在不改变代码的情况下,无缝交换和测试来自不同 LLM 提供商的响应。
目前,该库主要专注于聊天完成功能,吴恩达计划在不久的将来扩展其功能以覆盖更多用例。当前支持的 LLM 提供商包括 OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral、HuggingFace 和 Ollama。为了确保最大的稳定性,Aisuite 通过 HTTP 端点或 SDK 调用这些提供商的服务。
吴恩达还给出了使用演示:
据悉,aisuite 遵循 MIT 许可协议,开发者可以自由使用、修改和分发代码,用于商业和非商业用途。
开源地址如下:
评论