LocalAI

LocalAI 是一个 聊天机器人，OpenAI 替代品，它被用于 AI DevOps AI 多模型统一交互界面 本地 AI 模型服务 等场景。Local AI 是开源平台，支持本地部署 AI 模型，保护数据隐私，实现高效 AI 应用开发。

准备

在参阅本文档使用 LocalAI 时，需要确保如下几点：

• 登录 Websoft9 控制台，然后找到（或安装）LocalAI：

  • 我的应用 菜单找到应用
  • 应用商店 菜单部署应用

• 应用是基于 Websoft9 安装的

• 应用的用途符合 MIT 开源许可协议

• 为应用准备配置访问方式：配置域名 或 服务器安全组开启网外端口

入门指南

配置 AI 模型

1. Websoft9 控制台安装 LocalAI 后，通过 我的应用 查看应用详情，在 访问 标签页中获取访问 URL

2. 浏览器输入访问 URL，进入后还不能进行 AI 聊天，需要配置 AI 模型

3. 点击页面按钮 [Browse Model Galley]，选择一个模型下载安装（建议选择 lfm2.5-1.2b-nova-function-calling 模型，它比较小，合适演示）

4. 配置完成后即可开始聊天

配置选项

管理维护

故障