> For the complete documentation index, see [llms.txt](https://i.pixcat.cn/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://i.pixcat.cn/da-yu-yan-mo-xing-llms-ke-shi-hua-jie-mian.md).

# 大语言模型(LLMs) 可视化界面

可接入大语言模型的本地客户端、WebUI、接口中转聚合服务等整理，含安卓移动端客户端与酒馆（SillyTavern）及其衍生项目。针对自备 OpenAI API Key、第三方中转API等场景

### 目录

* [客户端 / APP](#ke-hu-duan-app)
* [自托管面板 / WebUI](#zi-tuo-guan-mian-ban-webui)
  * [通用对话面板](#tong-yong-dui-hua-mian-ban)
  * [本地模型面板](#ben-di-mo-xing-mian-ban)
* [角色扮演与 AI 酒馆](#jue-se-ban-yan-yu-ai-jiu-guan)
  * [SillyTavern 与衍生封装](#sillytavern-yu-yan-sheng-feng-zhuang)
  * [原生与移动端 App](#yuan-sheng-yu-yi-dong-duan-app)
  * [其他角色扮演平台](#qi-ta-jue-se-ban-yan-ping-tai)
* [本地推理运行时](#ben-di-tui-li-yun-xing-shi)
  * [主流推理后端](#zhu-liu-tui-li-hou-duan)
  * [一体化工作台](#yi-ti-hua-gong-zuo-tai)
  * [命令行与轻量工具](#ming-ling-xing-yu-qing-liang-gong-ju)
* [接口网关与聚合分发](#jie-kou-wang-guan-yu-ju-he-fen-fa)

## 客户端 / APP

#### Cherry Studio

全能的 AI 助手，支持多平台（Win、macOS、Linux），支持文档或图像对话。移动端另有独立的 Cherry Studio App，基于 React Native + Expo 构建，AGPL-3.0 协议。

官网：<https://cherry-ai.com/>\
APP：<https://github.com/CherryHQ/cherry-studio-app>\
Github：<https://github.com/CherryHQ/cherry-studio>

#### RikkaHub

原生 Android LLM 聊天客户端，支持多供应商

官网：<https://rikka-ai.com/>\
Github：<https://github.com/rikkahub/rikkahub>

#### Kelivo

Flutter LLM 聊天客户端

官网：<https://kelivo.psycheas.top/>\
Github：<https://github.com/Chevey339/kelivo>

#### Chatbox

Chatbox AI 是一款 AI 客户端应用和智能助手，支持众多先进的 AI 模型和 API，可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用

官网：<https://chatboxai.app/zh>\
Github：<https://github.com/Bin-Huang/chatbox>

#### BotGem

AI在手，未来我有

官网：<https://www.botgem.com/>

#### Jan

开源的本地 AI 桌面客户端，AGPLv3 协议，基于 llama.cpp 跑 GGUF 模型。下载后完全离线可用，数据只存在本机；可开本地 API 服务器（默认 127.0.0.1:1337）供其他工具调用，也能同时接入云端模型，并带扩展系统。

官网：<https://jan.ai/>\
Github：<https://github.com/menloresearch/jan>

#### Msty

主打私有化的 AI 工作台，把工作区、Agent、模型与知识库收成一套系统，面向个人、团队与组织。模型既可用订阅账号接入，也可自带 API Key。

官网：<https://msty.ai/>

#### Noi

本地优先的 AI 工作台客户端。主打量产力：多窗口并行、会话隔离、提示词管理、内置终端，并提供 noi CLI，可从 Claude Code、Codex、Gemini CLI 等工具调用。

官网：<https://noib.app/>

#### Page Assist （浏览器扩展）

本地 AI 模型的 Web UI，作为浏览器扩展使用。利用本地运行的 AI 模型，在浏览网页时进行交互，也可作为本地 AI 模型提供者的网页界面。支持各类任务的侧边栏、视觉模型、简约网页界面、网络搜索功能，以及与 PDF、文档（pdf、csv、txt、md、docx 格式）对话等功能，支持 Ollama、Chrome AI（测试版）、OpenAI 兼容的 API（如 LM Studio、Llamafile 等）等提供商。

Crx搜搜：<https://www.crxsoso.com/webstore/detail/jfgfiigpkhlkbnfnbobbkinehhfdhndo>\
Github：<https://github.com/n4ze3m/page-assist>

#### Lemonade

本地 AI 运行时，覆盖文本、图像与语音模型。完全开源、零遥测，安装后自带 GUI、CLI 与 API 端点，也可通过 SDK 嵌入自己的应用。

官网：<https://lemonade-server.ai/>

#### DEEIX-Chat

企业级 AI 工作空间，用 Go + Next.js 编写，集成模型路由、多模态对话、文件、工具、计费与身份体系，既能自托管也能作为团队后台。社区作者为 LINUX DO 成员。

官网：<https://deeix.com>\
Github：<https://github.com/DEEIX-AI/DEEIX-Chat>

#### ChatWise

自带 Key 的桌面 AI 客户端，不订阅也能在一个窗口里切换 OpenAI、Anthropic、Google、Ollama 等模型，对话记录只存在本机。免费版限个人使用，Pro 为买断制。

官网：<https://chatwise.app/>\
Github：<https://github.com/egoist/chatwise-releases>

#### LoLLMs

本地运行的多模态 AI 网关客户端，主打隐私与硬件无关（NVIDIA / AMD / Apple Silicon / 纯 CPU 均可），除对话外还把系统应用、钱包、日历等工具直接集成进界面。

官网：<https://lollms.com/>

#### Chatlite

基于 UniApp 的跨端 AI 客户端，一套代码覆盖 Windows、Linux、Mac、Android、鸿蒙、iOS、H5 与小程序，主打低系统门槛（不强制 iOS 16+）。支持聊天对话与 AI 画图。

Github：<https://github.com/haocker/chatlite>

## 自托管面板 / WebUI

### 通用对话面板

#### Open WebUI

User-friendly AI Interface (Supports Ollama, OpenAI API, ...)

官网：<https://openwebui.com/>\
Github：<https://github.com/open-webui/open-webui>

#### Odysseus

开源自托管的 AI 工作空间，把聊天、Agent、深度研究、笔记、任务、日历与邮件整合到同一界面。工具全部本地运行、数据不出本机，内置 Cookbook 按硬件推荐模型，AGPLv3 协议。

官网：<https://odysseus-dev.github.io/odysseus/>\
Github：<https://github.com/pewdiepie-archdaemon/odysseus>

#### ChatGPT Next Web

一键拥有你自己的跨平台 ChatGPT/Gemini 应用

Demo：<https://app.nextchat.dev/>\
Github：<https://github.com/ChatGPTNextWeb/ChatGPT-Next-Web>

#### LobeChat

现代化设计的开源 ChatGPT/LLMs 聊天应用与开发框架，支持语音合成、多模态、可扩展的（function call）插件系统，一键 **免费** 拥有你自己的 ChatGPT/Gemini/Claude/Ollama 应用

官网：<https://lobehub.com/zh>\
Github：<https://github.com/lobehub/lobe-chat/blob/main/README.zh-CN.md>

#### LibreChat

开源的多模型对话平台，兼容 OpenAI / Anthropic / Bedrock / Ollama 等后端，内置对话检索、预设、代理与代码解释器，支持 Docker 一键部署。

官网：<https://librechat.ai/>\
Github：<https://github.com/danny-avila/LibreChat>

#### ChatGPT Web Midjourney Proxy

One UI is all done with chatgpt web, midjourney

Github：<https://github.com/Dooy/chatgpt-web-midjourney-proxy>

### 本地模型面板

#### TextGen

oobabooga 的 Web UI，面向本地大模型的 Gradio 界面，支持角色扮演、指令模式与多后端切换，可加载 GGUF 等常见量化权重。

Github：<https://github.com/oobabooga/text-generation-webui>

## 角色扮演与 AI 酒馆

### SillyTavern 与衍生封装

#### SillyTavern (酒馆)

SillyTavern 是一个功能丰富的用户界面，支持多种人工智能服务或模型（如 KoboldAI/CPP, Horde, NovelAI, Ooba, OpenAI, OpenRouter, Claude, Scale 等）。它具有类似 Galgame 的“老婆模式”，支持 Horde SD、文本系统语音生成、世界信息（Lorebooks）、可定制界面、自动翻译等功能。此外，还支持扩展服务，如角色情绪识别、聊天记录自动摘要、文本图像生成、文字转语音等。

官网：<https://sillytavernai.com/>\
Github：<https://github.com/SillyTavern/SillyTavern>

#### TauriTavern

SillyTavern 的原生应用，用 Tauri / Rust 重写，桌面与移动端开箱即用，覆盖 Windows、macOS、Linux、Android 与 iOS，不再需要 Node.js 环境与 Termux。

官网：<https://tauritavern.github.io/>\
Github：<https://github.com/Darkatse/TauriTavern>

#### ST-android

把未经修改的 SillyTavern 源码与 Node.js 运行时打包成 APK，点开即起服务，免去安装 Termux 与敲命令的步骤。可导入桌面酒馆的整份备份，扩展支持相对薄弱。

Github：<https://github.com/Sanitised/ST-android>

#### Wivern

完整的 SillyTavern 分支，连扩展一起打包成 APK，同样免终端部署。相比 ST-android 更完整，但内核版本较旧。

Github：<https://github.com/WivernApp/Wivern>

#### ST-Ctrl

2026 年新出的中文项目，把服务器壳子做成了管理台，带扩展管理、备份还原与局域网访问。

Github：<https://github.com/wancDDY/ST-Ctrl>

### 原生与移动端 App

#### Tavo

面向 Android / iOS 的原生角色扮演客户端，主打 Agentic 能力：角色不再只是回复，可以自行联网搜索、调用工具与连接 MCP。兼容 CCv3 / PNG / JSON 角色卡、世界书与正则，另有插件中心（超级记忆管理、模拟语音通话等）可用 TavoJS 自建插件，并支持生图与语音。

官网：<https://tavoai.dev/>

#### OMate Chat

原生角色扮演 App，兼容 SillyTavern 生态（角色卡 V1–V3、charx、世界书、预设、jsonl 聊天记录），导入时会给出转换报告。长期记忆与永久记忆两套机制并行，配可检索的知识库；还提供预设堆栈、事件书与状态栏、Moments 动态流、Live Page 交互卡片、MCP 与十一个内置工具。注意：官方自 2025 年 9 月 1 日起转为全球服务，已停止面向中国大陆的下载，站内仅保留文档。

官网：<https://omate.org/>\
文档：<https://help.omate.org/>

#### PokiTavern

OMate 团队的 Android 端作品，直接采用 SillyTavern 官方前端并自带推理引擎，下好模型后可完全离线运行，支持 STscript、Quick Reply 与自带 HTML/JS 的角色卡。走官方签名 APK 分发，不在应用商店上架。

官网：<https://poki.omate.net/>

#### Foreverse

不依赖 Node.js 与 Termux 的原生酒馆 App，兼容 chara\_card\_v3 角色卡、世界书、正则脚本与 Quick Reply 自动化，BYOK 直连 60+ 模型供应商，密钥加密后只存手机本地。Android 已上架 Google Play，iPhone 版于 2026 年 9 月上线 App Store（中国大陆区暂未上架）。

官网：<https://foreverse.cn/zh/roleplay>

#### ChatterUI

Android 端轻量角色扮演客户端，可直接在手机上加载并运行 GGUF 模型，完全离线可用。

Github：<https://github.com/Vali-98/ChatterUI>

#### Front Porch AI

Backyard AI 桌面版停更后的开源替代品，Flutter 编写的本地优先角色扮演客户端。内置 KoboldCpp 下载器与 Realism Engine（情绪、信任、需求、记忆），自带 TTS、STT 与本地图像生成，兼容 V2 角色卡并能导入 Backyard AI 的 .byaf 存档，AGPL-3.0 协议。

官网：<https://www.frontporchai.app>\
Github：<https://github.com/linux4life1/front-porch-AI>

### 其他角色扮演平台

#### KoboldAI

角色扮演聊天前端，配合同名后端使用，社区里沉淀了大量预设、角色卡与采样参数调校。

Github：<https://github.com/KoboldAI/KoboldAI-Client>

#### Serene Pub

面向长篇共创的桌面角色扮演应用。结构化记忆、场景摘要与叙事图谱让角色始终只依据自己已知的信息行动；支持多用户同场扮演、群聊、可切换的可见性与长期记忆 RAG，并内置 KoboldCPP / Ollama 管理器。

官网：<https://serenepub.com>\
Github：<https://github.com/ericcurtin/serene-pub>

#### Agnai

浏览器端与移动端均可用的角色扮演平台，支持导入角色卡并跨设备同步，也托管若干免费模型。

官网：<https://agnai.chat/>

#### TavernAI

早期的角色扮演聊天前端，社区资源丰富，是不少酒馆衍生项目的灵感来源。

Github：<https://github.com/TavernAI/TavernAI>

## 本地推理运行时

### 主流推理后端

#### Ollama

本地模型运行的事实标准，一条命令拉起模型并自动提供 OpenAI 兼容接口，生态里的模型与量化版本最全。

官网：<https://ollama.com/>\
Github：<https://github.com/ollama/ollama>

#### llama.cpp

llama.cpp 能在 CPU 上以很低的资源占用跑通大模型，本地推理生态里的底层基石。

Github：<https://github.com/ggml-org/llama.cpp>

#### GPT4All

基于 llama.cpp 的本地模型运行器，带图形界面，定位为「离线、开源、隐私」的桌面推理方案。

Github：<https://github.com/nomic-ai/gpt4all>

#### LM Studio

Discover, download, and run local LLMs。支持在本地运行 Llama 3.2、Mistral、Phi、Gemma、DeepSeek、Qwen 2.5 等架构的模型，可聊天、使用本地文档、通过 Chat UI 或 OpenAI 兼容本地服务器使用模型，还能从 Hugging Face 仓库下载兼容模型文件，并在应用内发现新的 LLMs。支持在 M1/M2/M3/M4 Mac 或支持 AVX2 的 Windows/Linux PC 上运行，基于 llama.cpp 项目开发，个人使用免费，有团队招聘需求。

官网：<https://lmstudio.ai/>

#### LocalAI

以 Go 编写的 OpenAI 兼容本地推理服务，可替代云端 API，支持文本、图像、音频等多种模型。

Github：<https://github.com/go-skynet/LocalAI>

#### Colibri

面向单卡大显存的本地模型运行器，可直接跑起 GLM 5.2 等需要大内存的模型。

Github：<https://github.com/JustVugg/colibri>

#### llamafile

把模型和运行时打包成单个可执行文件，双击即跑，不需要装 Python 环境。

官网：<https://llamafile.ai/>\
Github：<https://github.com/Mozilla-Ocho/llamafile>

#### KoboldCpp

llama.cpp 的分支，增加了 API 与图形界面，角色扮演生态里用得最多的本地后端之一。

Github：<https://github.com/LostRuins/koboldcpp>

### 一体化工作台

#### AnythingLLM

Chat with your docs, use AI Agents, hyper-configurable, multi-user, & no frustrating set up required

官网：<https://anythingllm.com/>\
Github：<https://github.com/Mintplex-Labs/anything-llm>

#### Leon

开源的个人 AI 助手平台，可自托管部署，把对话、语音与自动化串成一套长期可用的助手。

Github：<https://github.com/leon-ai/leon>

### 命令行与轻量工具

#### GPT4Free

提供多个免费模型的 Web 端与桌面端入口，开箱可用。

官网：<https://g4f.dev/>\
Github：<https://github.com/xtekky/gpt4free>

#### tgpt

终端里的 AI 客户端，直接在命令行里与模型对话，适合写代码时的随手提问。

Github：<https://github.com/aandrew-me/tgpt>

#### ch.at

轻量的语言模型桥接工具，界面极简，在终端或浏览器里直接调用各家模型。

Github：<https://github.com/Deep-ai-inc/ch.at>

## 接口网关与聚合分发

这一类工具把多个上游渠道（自有 API Key、订阅账号、第三方服务）统一收敛成一路 OpenAI 兼容接口，负责鉴权、计费、负载均衡与请求转发，客户端只需替换 Base URL 即可接入。

#### BerriAI/litellm

开源的 AI 网关与 SDK，提供统一的 OpenAI 风格接口，把上百家模型与云服务收进一层，带预算、限流、缓存与可观测能力。

官网：<https://www.litellm.ai/>\
Github：<https://github.com/BerriAI/litellm>

#### QuantumNous/new-api

AI 模型接口管理与分发系统，基于 One API 二次开发。支持将多种大模型转为 OpenAI 格式调用，还支持 Midjourney Proxy、Suno、Rerank，兼容易支付协议，可用于个人或企业内部管理与分发渠道。具备全新 UI 界面（部分待更新）、多语言支持（待完善）、分页显示数量选择、兼容原版 One API 数据库、模型按次数收费、渠道加权随机、数据看板、设置令牌调用模型、Telegram 授权登录等功能，支持多种模型及自定义渠道。

Github：<https://github.com/QuantumNous/new-api>

#### Wei-Shaw/sub2api

一站式开源中转服务，把 Claude、OpenAI、Gemini、Grok 等订阅账号统一接入并转成 OpenAI 兼容接口，支持多账号聚合与拼车分摊，生成的 Key 可直接给 Claude Code、Codex、Cursor 等原生工具使用。后端 Go + Vue 3，配 PostgreSQL 与 Redis。

Github：<https://github.com/Wei-Shaw/sub2api>

#### songquanpeng/one-api

OpenAI 接口管理与分发系统，支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元。可用于二次分发管理 key，仅需单个可执行文件，已打包好 Docker 镜像，一键部署，开箱即用。提供英文界面，使用单一 API 管理所有 LLMs。

Github：<https://github.com/songquanpeng/one-api>

#### Wei-Shaw/claude-relay-service

自建 Claude Code 镜像服务，把 Claude、OpenAI、Gemini、Droid 等订阅转成统一的 API 接口，同样面向拼车与自用场景。

Github：<https://github.com/Wei-Shaw/claude-relay-service>

#### tbphp/gpt-load

自托管的 AI 网关，面向多渠道多密钥场景做负载均衡与故障转移，把不同上游按策略分发并统一成一路接口。

Github：<https://github.com/tbphp/gpt-load>
