免费获取学习方案
ARTICLE DETAIL

资讯详情

深耕编程基础知识与建站技术分享的一线实战洞察。

AutoAgent 接入 Google Gemini 与 Vertex AI:LiteLLM 驱动下的完整 LLM 配置指南

AutoAgent 接入 Google Gemini 与 Vertex AI:LiteLLM 驱动下的完整 LLM 配置指南 AutoAgent 接入 Google Gemini 与 Vertex AILiteLLM 驱动下的完整 LLM 配置指南【免费下载链接】AutoAgentAutoAgent: Fully-Automated and Zero-Code LLM Agent Framework项目地址: https://gitcode.com/GitHub_Trending/au/AutoAgent本篇指南围绕 AutoAgent全自动、零代码的 LLM Agent 框架如何接入 Google 的两条主流模型通道——GeminiGoogle AI Studio与Vertex AIGoogle Cloud Platform系统讲解环境变量配置、模型命名规范与启动命令并结合仓库源码说明 AutoAgent 底层如何通过 LiteLLM 统一完成补全调用、以及为 Gemini 定制工具 Schema 的兼容逻辑。读者读完即可在本地 Docker / CLI 环境中用 Gemini 模型跑通 AutoAgent 的user mode、agent editor与workflow editor。配置原理AutoAgent 如何调用 Google 模型AutoAgent 的运行时核心是 autoagent/core.py其MetaChain类通过 LiteLLM 统一代理所有 LLM 补全调用from litellm import completion, acompletion # ... completion_response completion(**create_params)这意味着只要模型名遵循 LiteLLM 的provider/model-name命名规范AutoAgent 就能透明地路由到对应厂商。针对 Google 生态对应两个 provider 前缀gemini/...走Gemini - Google AI Studio通道vertex_ai/...走Vertex AI - Google Cloud Platform通道。同时模型名称通过 constant.py 中的环境变量COMPLETION_MODEL统一注入默认值为claude-3-5-sonnet-20241022并在 cli.py 的main与deep-research命令中被读取最终传给MetaChain的get_chat_completion。Gemini - Google AI Studio 配置通过 Google AI Studio 使用 Gemini 时只需配置两个环境变量即可以运行 AutoAgent Docker 镜像为例使用-e传入GEMINI_API_KEYyour-google-api-key LLM_MODELgemini/gemini-1.5-pro在 AutoAgent 的 CLI 启动方式下等价写法是在项目根目录的.env文件中设置GEMINI_API_KEY然后以环境变量方式指定模型并启动# .env 文件中配置 GEMINI_API_KEYyour_gemini_api_key # 启动 AutoAgent 完整功能user mode / agent editor / workflow editor COMPLETION_MODELgemini/gemini-2.0-flash auto main两点关键说明模型名必须带gemini/前缀这是 LiteLLM 路由到 Google AI Studio provider 的约定LLM_MODEL与COMPLETION_MODEL都遵循此规则。GEMINI_API_KEY会被 constant.py 通过dotenv的load_dotenv()加载进进程环境随后由 LiteLLM 的 Gemini provider 读取用于鉴权。Vertex AI - Google Cloud Platform 配置如果使用企业级 GCP 环境Vertex AI需要配置 GCP 服务账号凭证与项目、区域信息。同样以-e环境变量方式传入GOOGLE_APPLICATION_CREDENTIALSjson-dump-of-gcp-service-account-json VERTEXAI_PROJECTyour-gcp-project-id VERTEXAI_LOCATIONyour-gcp-location LLM_MODELvertex_ai/desired-llm-model配置说明环境变量含义说明GOOGLE_APPLICATION_CREDENTIALSGCP 服务账号 JSON 内容需将服务账号 JSON 文件内容整体注入或配置为文件路径用于 Vertex AI 鉴权VERTEXAI_PROJECTGCP 项目 ID指定调用哪个 GCP 项目下的模型资源VERTEXAI_LOCATIONGCP 区域如us-central1、asia-east1等决定模型端点所在区域LLM_MODELVertex AI 模型名必须以vertex_ai/前缀开头如vertex_ai/gemini-1.5-pro在 AutoAgent CLI 中的等价启动方式为COMPLETION_MODELvertex_ai/gemini-1.5-pro auto main源码级佐证Gemini 的工具调用兼容逻辑AutoAgent 是一个强工具调用的 Agent 框架Agent 的每个函数都会通过 autoagent/util.py 中的function_to_json序列化为 OpenAI 风格的 JSON Schema。而 Gemini 对工具参数的 Schema 校验比 OpenAI 更严格——它要求所有type为object的参数必须带有非空的properties。为此autoagent/core.py 专门实现了adapt_tools_for_gemini适配函数在检测到模型名包含gemini时自动生效if gemini in create_model.lower(): tools adapt_tools_for_gemini(tools)该函数的核心逻辑是对每个工具定义做深拷贝避免污染原始工具 Schema若顶层参数的type为object且缺少非空properties则自动补一个dummy字符串属性对嵌套的 object 类型参数同样递归处理。这意味着即使你在 AutoAgent 中自定义的 Agent 工具参数没有显式声明properties切换到 Gemini 模型后也不会因 Schema 不合规而报错框架会自动完成兼容修复。另外AutoAgent 还支持非函数调用non-function calling模式当模型不支持函数调用时可通过FN_CALLFalse环境变量切换将工具描述直接拼入系统提示词见 constant.py 中NOT_SUPPORT_FN_CALL与NOT_USE_FN_CALL的自动判定逻辑这与 Gemini 场景下的降级策略是互通的。相关配置速查接入 Google LLM 时常与以下 AutoAgent 全局配置项组合使用均定义于 constant.pyCOMPLETION_MODEL指定 LiteLLM 格式的模型名默认claude-3-5-sonnet-20241022Gemini 场景设为gemini/...或vertex_ai/...API_BASE_URL自定义 provider 的 Base URL默认NoneFN_CALL是否启用函数调用默认根据模型名自动判定DEBUG是否开启调试日志默认False。结语AutoAgent 借助 LiteLLM 的统一抽象让 Gemini 与 Vertex AI 的接入成本降到两个环境变量 一个带前缀的模型名。配合源码内置的adapt_tools_for_gemini工具 Schema 适配层即使是强工具调用的多 Agent 编排场景也能稳定运行在 Google 模型之上。更多 LLM 提供商的配置方式可参考仓库 docs 目录下的 llms.md 总览页。【免费下载链接】AutoAgentAutoAgent: Fully-Automated and Zero-Code LLM Agent Framework项目地址: https://gitcode.com/GitHub_Trending/au/AutoAgent创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表