跳转到内容

接入本地模型:Ollama 与 LM Studio

如果你已经在用 Ollama 或 LM Studio 在电脑上跑大模型,可以把它接到 Owlfy,让 AI 智能体用这个本地模型来思考和回答。

Owlfy 本身不内置本地大模型,模型由 Ollama 或 LM Studio 负责下载和运行,Owlfy 通过它们提供的接口来调用。

  1. 安装 Ollama 或 LM Studio。
  2. 下载一个模型,选择你电脑内存能带得动的大小。
  3. 启动本地服务:
    • Ollama 安装后通常会自动在后台运行;
    • LM Studio 需要在「Developer」页面启动本地服务器。

想让 AI 智能体帮你操作文件、调用工具,请选择**支持工具调用(Tool Calling)**的模型。

  1. 打开「设置 → AI」,打开「接入第三方模型」。

  2. 点「添加第三方模型」,渠道选择「Ollama 本地」或「LM Studio 本地」。

  3. 确认接口地址,一般不用改:

    渠道默认地址
    Ollama 本地http://127.0.0.1:11434/v1
    LM Studio 本地http://127.0.0.1:1234/v1
  4. 点「刷新模型」,选择你已下载的模型(也可以手动填写模型名称)。

  5. 点「测试并保存」,提示成功即可。

  6. 回到 AI 智能体,在模型选择里切换到刚添加的本地模型。

建议先问一个简单问题试试,再交给它需要动手操作的任务。

除了本地模型,「接入第三方模型」里还可以添加:

  • OpenAI、Anthropic、Google Gemini、Grok/xAI
  • DeepSeek、智谱 GLM、阿里云百炼、火山引擎方舟、Kimi/Moonshot
  • OpenRouter、CC Switch 网关
  • 任何兼容 OpenAI 接口的服务(选择「第三方 API(OpenAI 兼容)」)

填入对应的 API Key 和模型即可。使用这些模型时 Owlfy 不扣体力,费用由对应的模型服务商收取。

本地模型的表现完全取决于你选的模型和电脑性能:

  • 能聊天不代表能用工具,复杂任务建议选更大、支持工具调用的模型;
  • 想让它看图片,需要选支持图片输入的模型;
  • 处理长文档需要模型支持足够长的上下文;
  • 模型越大,速度越慢,对内存要求也越高。

使用期间,Ollama 或 LM Studio 要保持运行。

本地模型只负责「思考」这一步在你的电脑上完成。如果任务里要上网搜索、打开网页、使用在线技能或通过手机远控发消息,这些步骤仍然需要联网。

另外,本地模型只影响 AI 智能体。语音转文字是另一项独立设置,想让语音也在本地识别,请到「设置 → 隐私」打开本地语音识别。

  • Ollama 或 LM Studio 是否正在运行?
  • 接口地址和端口是否正确?改过端口的话,用软件里显示的实际地址。
  • 模型是否已下载,名称是否和软件里的一致?
  • 能聊天但不会动手操作?换一个支持工具调用的模型试试。

更多设置可参考 Ollama 文档 和 LM Studio 文档。

AI 智能体 · 隐私与数据