近日,吴恩达宣布推出了新的开源 Python 库:aisuite。
“在构建应用程序时,我发现与多个提供商集成很麻烦。”吴恩达说道,“这(aisuite)使开发人员能够轻松使用来自多个厂商的大型语言模型。”
据介绍,aisuite 允许用户通过更改一个字符串来选择一个 “provider:model”,例如 openai:gpt-4o、anthropic:claude-3-5-sonnet-20241022、ollama:llama3.1:8b 等。
Aisuite 为开发人员提供了一个标准化接口,使其能够轻松地使用多个大型语言模型。它采用了类似于 OpenAI 的接口,允许用户轻松地与最流行的 LLM 进行交互并比较结果。作为一个 Python 客户端库的轻量级包装器,Aisuite 允许开发者在不改变代码的情况下,无缝交换和测试来自不同 LLM 提供商的响应。
目前,该库主要专注于聊天完成功能,吴恩达计划在不久的将来扩展其功能以覆盖更多用例。当前支持的 LLM 提供商包括 OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral、HuggingFace 和 Ollama。为了确保最大的稳定性,Aisuite 通过 HTTP 端点或 SDK 调用这些提供商的服务。
吴恩达还给出了使用演示:
据悉,aisuite 遵循 MIT 许可协议,开发者可以自由使用、修改和分发代码,用于商业和非商业用途。
开源地址如下:
https://github.com/andrewyng/aisuite
12 月 13 日至 14 日(下周五至周六),AICon 全球人工智能开发与应用大会将在北京盛大开幕!本次大会汇聚 70+ 位 AI 及技术领域的顶尖专家,深入探讨大模型与推理、AI Agent、多模态、具身智能等前沿话题。此外还有丰富的圆桌论坛、以及展区活动,带你深入探索大模型的最新实践与未来趋势。年度最后一次 AI 盛宴,让我们一起见证 AI 未来。