开源项目 · 2026-10-20 13:15:00 · 阅读 481
一台 16G 机器上的 Open WebUI
官方编排能起来,卡住的是模型权限和上传大小,不是界面。
背景
想给同事一个浏览器入口,机器只有 16G 内存,不能再套一层复杂平台。
做法
结果
同事能自己换对话,不用再问我要地址。内存平时停在还能远程登录的水平。
边界
同时开两个大模型会把机器打满。没有做账号体系以外的审计,不适合拿它当对外服务。
评论
还没有评论
官方编排能起来,卡住的是模型权限和上传大小,不是界面。
想给同事一个浏览器入口,机器只有 16G 内存,不能再套一层复杂平台。
同事能自己换对话,不用再问我要地址。内存平时停在还能远程登录的水平。
同时开两个大模型会把机器打满。没有做账号体系以外的审计,不适合拿它当对外服务。
还没有评论