接入本地模型:Ollama 与 LM Studio
如果你已经在用 Ollama 或 LM Studio 在电脑上跑大模型,可以把它接到 Owlfy,让 AI 智能体用这个本地模型来思考和回答。
Owlfy 本身不内置本地大模型,模型由 Ollama 或 LM Studio 负责下载和运行,Owlfy 通过它们提供的接口来调用。
- 安装 Ollama 或 LM Studio。
- 下载一个模型,选择你电脑内存能带得动的大小。
- 启动本地服务:
- Ollama 安装后通常会自动在后台运行;
- LM Studio 需要在「Developer」页面启动本地服务器。
想让 AI 智能体帮你操作文件、调用工具,请选择**支持工具调用(Tool Calling)**的模型。
在 Owlfy 中添加
Section titled “在 Owlfy 中添加”-
打开「设置 → AI」,打开「接入第三方模型」。
-
点「添加第三方模型」,渠道选择「Ollama 本地」或「LM Studio 本地」。
-
确认接口地址,一般不用改:
渠道 默认地址 Ollama 本地 http://127.0.0.1:11434/v1LM Studio 本地 http://127.0.0.1:1234/v1 -
点「刷新模型」,选择你已下载的模型(也可以手动填写模型名称)。
-
点「测试并保存」,提示成功即可。
-
回到 AI 智能体,在模型选择里切换到刚添加的本地模型。
建议先问一个简单问题试试,再交给它需要动手操作的任务。
其他模型服务
Section titled “其他模型服务”除了本地模型,「接入第三方模型」里还可以添加:
- OpenAI、Anthropic、Google Gemini、Grok/xAI
- DeepSeek、智谱 GLM、阿里云百炼、火山引擎方舟、Kimi/Moonshot
- OpenRouter、CC Switch 网关
- 任何兼容 OpenAI 接口的服务(选择「第三方 API(OpenAI 兼容)」)
填入对应的 API Key 和模型即可。使用这些模型时 Owlfy 不扣体力,费用由对应的模型服务商收取。
效果取决于模型
Section titled “效果取决于模型”本地模型的表现完全取决于你选的模型和电脑性能:
- 能聊天不代表能用工具,复杂任务建议选更大、支持工具调用的模型;
- 想让它看图片,需要选支持图片输入的模型;
- 处理长文档需要模型支持足够长的上下文;
- 模型越大,速度越慢,对内存要求也越高。
使用期间,Ollama 或 LM Studio 要保持运行。
本地模型 ≠ 完全离线
Section titled “本地模型 ≠ 完全离线”本地模型只负责「思考」这一步在你的电脑上完成。如果任务里要上网搜索、打开网页、使用在线技能或通过手机远控发消息,这些步骤仍然需要联网。
另外,本地模型只影响 AI 智能体。语音转文字是另一项独立设置,想让语音也在本地识别,请到「设置 → 隐私」打开本地语音识别。
- Ollama 或 LM Studio 是否正在运行?
- 接口地址和端口是否正确?改过端口的话,用软件里显示的实际地址。
- 模型是否已下载,名称是否和软件里的一致?
- 能聊天但不会动手操作?换一个支持工具调用的模型试试。
更多设置可参考 Ollama 文档 和 LM Studio 文档。