吴恩达开源AISuite,简单高效调用多个大模型

发布于 2024-12-5 12:36
浏览
0收藏

AISuite是个Python库,能让你通过单一接口轻松接入多家生成式AI服务。今天带大家一步步了解如何安装和配置AISuite,并使用它与各种AI模型进行高效互动。

1 安装 AISuite

AISuite 托管在 GitHub 上,可以通过 pip 安装。运行以下命令:

pip install aisuite

此命令将获取并安装该库及其依赖项。

2 设置 API 密钥

要与生成式 AI 提供商交互,需要从计划使用的提供商那里获取 API 密钥。AISuite 支持多个提供商,例如:OpenAI,Anthropic,Azure,Google,AWS,HuggingFace 等等。

以下是设置密钥的步骤:

  • 在你的项目目录中创建​​.env​​ 文件。
  • 按照以下格式添加你的密钥:

OPENAI_API_KEY=你的_openai密钥
ANTHROPIC_API_KEY=你的_anthropic密钥
AZURE_API_KEY=你的_azure密钥
  • AISuite 在执行 API 调用时会自动读取这些密钥。

3 在 Python 脚本中使用 AISuite

以下是一个基本脚本,帮助你开始:

from aisuite import AIClient

# 初始化 AISuite 客户端
client = AIClient()

# 指定你想要使用的提供商(例如 'openai', 'anthropic')
response = client.query(
    provider='openai',
    prompt='法国的首都是哪里?',
    max_tokens=50
)

# 打印响应
print(response['output'])

此脚本演示了如何:

  • 初始化 AISuite 的客户端。
  • 选择一个提供商(例如 OpenAI)。
  • 向提供商发送提示。
  • 检索并显示响应。

4 轻松切换不同AI服务商

使用AISuite,你可以便捷地在不同的AI服务商之间切换。比如,如果想用Anthropic的Claude模型,可以这样操作:

response = client.query(
    provider='anthropic',
    prompt='法国的首都是哪里?',
    max_tokens=50
)
print(response['output'])

代码结构简单一致,让你轻松尝试多种模型。

5 高级功能

AISuite 包括高级功能,例如:

  • 模型选择:你可以在提供商内选择特定的模型,例如:

response = client.query(
    provider='openai',
    model='gpt-4',
    prompt='用简单的术语解释量子计算。',
    max_tokens=100
)
print(response['output'])
  • 自定义参数:调整温度、top-p 以及其他生成设置:

response = client.query(
    provider='openai',
    model='gpt-3.5-turbo',
    prompt='讲个笑话。',
    max_tokens=50,
    temperature=0.7
)
print(response['output'])
  • 批量查询:一次性发送多个提示以提高效率。

6 处理响应

AISuite 将所有提供商的响应标准化为字典格式,通常包括:

  • output:生成的文本。
  • model:使用的模型。
  • provider:提供商名称。

示例:

response = client.query(provider='openai', prompt='什么是 AI?')
print(f"提供商:{response['provider']}")
print(f"模型:{response['model']}")
print(f"输出:{response['output']}")

7 调试和日志

AISuite 提供了日志记录功能,方便调试。你可以启用详细输出以跟踪 API 请求和响应:

from aisuite import AIClient

client = AIClient(verbose=True)  # 启用详细模式

8 结语

AISuite是与多家生成式AI服务商合作的得力助手,凭借统一的接口、灵活的特性和用户友好的设计,是你AI工具箱中不可或缺的一部分。想要深入了解更多功能和获取最新更新,不妨访问其GitHub仓库。(https://github.com/andrewyng/aisuite)

本文转载自 AI科技论谈​,作者: AI科技论谈

收藏
回复
举报
回复
相关推荐