ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

Agent Zero 模型接入全路径:云端到本地 5 分钟跑通

Agent Zero 模型接入全路径:云端到本地 5 分钟跑通 Agent Zero 模型接入全路径云端到本地 5 分钟跑通【免费下载链接】agent-zeroAgent Zero AI framework项目地址: https://gitcode.com/GitHub_Trending/ag/agent-zero刚装好 Agent Zero浏览器一打开发消息却卡在模型未配置想配吧设置页里一堆选项卡API 密钥该填哪儿、本地 Ollama 端点地址写什么全得靠猜。这就是 Agent Zero 模型配置最容易劝退人的地方。其实它就是把选模型源、放密钥、填端点三件事做对而已。看完这篇你能在云端 API 和本地 Ollama 两条路上任选其一5 分钟内让 Agent 真正开始干活。配置全貌三个决策点先理清先建立地图感细节后面再讲。整个配置过程只有三个关键决策选哪个模型源云端 APIOpenRouter、OpenAI、Anthropic 等、AI 账号Copilot、Gemini 等 OAuth 登录、还是本地模型Ollama、LM Studio、vLLM 等。密钥放哪API Key 统一在设置页的密钥区管理别散落在各个输入框里。端点怎么填云端基本不用管本地模型需要填你机器的实际地址Docker 部署时有专门的写法。配置入口有两个一是首次打开 Web UI 时的引导向导发一条消息就会弹出来二是侧边栏齿轮图标进入的 Settings 页面其中Settings → Agent → Models可以设置全局默认模型。场景 A接云端 API最省事的路径准备手里有一个云服务商的 API Key。没有账号的话OpenRouter 一个 Key 能路由多家模型是新手首选。操作打开 Web UI随便发一条消息弹出模型选择门后点Cloud provider或直接进设置页选Chat Model选项卡。在 Provider 下拉里选你的服务商如 OpenRouter、OpenAI、Anthropic、Google。在 API Key 输入框粘贴密钥模型下拉里选主模型负责对话和推理选强的。接着点Choose utility model配一个工具模型——它是干摘要、命名、记忆这类内部杂活的小模型选个快而便宜的就行。点Finish setup或Save保存。确认回到聊天窗口发一句用三句话介绍一下你自己能流式回话就说明云端链路通了。[!TIP] 工具模型别偷懒直接选跟主模型一样的内部任务调用频繁用大模型既慢又费钱同一供应商家选个 Mini / Flash 级别的小模型最合适。场景 B跑本地 Ollama数据不出门准备宿主机上已装好 Ollama 并拉了模型终端跑ollama list能看到模型名如llama3.2、qwen2.5:7b且 Ollama 服务正在运行。操作在模型向导里选Local modelProvider 里选Ollama。模型名输入与ollama list输出完全一致的名字一个字母都不能差。端点地址按部署方式二选一Agent Zero 跑在 Docker 里就填http://host.docker.internal:11434本机直接运行就填http://localhost:11434。同样给工具模型指一个小一点的本地模型或先指回同一个模型跑通再说。Save保存。确认发一条测试消息10 秒内开始出字就算成功如果一直转圈先回宿主机看 Ollama 日志里有没有收到请求。[!WARNING] 本地小模型容易出现光说不练——用文字描述工具调用而不是真的执行。这种情况切到内置的Tiny Local代理档案Agent Profile它会收紧小模型的工具调用格式详见 docs/guides/local-model-tool-use.md。场景 C混合与企业内网密钥集中管云端做主力、本地兜底或者内网只能访问自建推理服务思路都一样每个 Provider 的 Key 集中放到设置页的API Keys区域各给各的别混着填。这里同一区域还管理 Web UI 的登录账号和容器 SSH 密码改完记得 Save。内网自建推理服务vLLM、llama.cpp 等走和 Ollama 一样的Local model入口端点换成你自建服务的地址即可。确认ollama list之外的验证手段——让 Agent 做一个需要工具调用的小任务比如列个目录观察它是否正常发起工具请求。高频踩坑速查401 / 认证失败→ Key 复制时带了首尾空格或换行或 Key 属于另一个服务商 → 清空输入框重新粘贴保存后重发测试消息。本地模型一直转圈无响应→ 端点地址写错Docker 容器里localhost指的是容器自己 → 改成host.docker.internal:11434。模型名对了却报找不到模型→ 名字与ollama list输出不一致少了 tag 或多了前缀→ 原样照抄列表里的名字。回复是描述工具而不是执行工具→ 本地小模型驾驭不了默认的完整协议 → 切换 Tiny Local 档案或按官方文档处理。配完没生效→ 只改了聊天内选项没设全局默认 → 去Settings → Agent → Models确认全局预设。下一步建模型预设把强主模型 快工具模型存成命名预设聊天时一键切换。接外部 API把第三方服务的调用代码丢进聊天Agent 学会后把 Key 存进 Secrets 即可复用。上工具链连 A0 CLI 让 Agent 操作宿主机真实文件或配定时任务做周期活。模型通了剩下的就是喂它活干——从一条具体的任务开始。【免费下载链接】agent-zeroAgent Zero AI framework项目地址: https://gitcode.com/GitHub_Trending/ag/agent-zero创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表