.:. 草榴社區 » 技術討論區 » [AI 奇技淫巧][2016.01.12]从零打造你的本地化AI全能作战平台「实操向」
--> 本頁主題: [AI 奇技淫巧][2016.01.12]从零打造你的本地化AI全能作战平台「实操向」 字體大小 寬屏顯示 只看樓主 最新點評 熱門評論 時間順序
shepherd


級別:精靈王 ( 12 )
發帖:5969
威望:665 點
金錢:1317 USD
貢獻:59278 點
註冊:2011-12-02


[AI 奇技淫巧][2016.01.12]从零打造你的本地化AI全能作战平台「实操向」



[AI 奇技淫巧] 第十期

— 赛博军火库:从零打造你的本地化全能作战平台 —




■ 前言


  1024,各位榴友。
  不知不觉,咱们已经发车十期了。这是个里程碑。
  前九期,我们像捡垃圾一样,往硬盘里塞满了各种收割机、模型、绘图工具。但工具多了也烦:一个个启动、一个个配置,最后除了吃灰还是吃灰。
  第十期,咱们来个“大一统”。
  今天不聊单一的新工具,只聊“系统化”。教你用几个中枢级的神器,把散落在硬盘各处的 AI 零件组装成一台精密的“高达”。
  从此以后,你不再是修修补补的技工,而是这座赛博地堡的指挥官。




一、 奇 | 部署统合:AI 界的“Steam 平台”
【基石:Pinokio 一键部署环境】
看点解析
很多榴友被 Python、Conda、Git 这些环境配置劝退。Pinokio 就是 AI 界的 Steam。它是一个浏览器,你只需要点击“安装”,它就会自动去 GitHub 拉取最新的 ComfyUI、Ollama、Stable Diffusion,并自动配好环境。
扯扯蛋:别再对着黑底白字的命令行发愁了。用这个玩意儿,安装 AI 就像下个游戏一样简单。这是建设军火库的第一把铲子。




二、 技 | 交互统合:万能的本地指挥中心
【中枢:Open WebUI (原 Ollama WebUI)】
看点解析
这不仅仅是个聊天窗口。它能挂载你本地所有的 LLM 模型(第七期),连接你的 Stable Diffusion(第九期),甚至直接读取你硬盘里的文档库(RAG)。你可以在这一个界面里,让 AI 帮你写代码、画图、搜本地资料。
扯扯蛋:这就是你的“贾维斯”。别再开十几个网页切来切去了,把所有能力都集成到这一个仪表盘里。有些事,关起门来问它,比问百度安全一万倍。




三、 淫 | 欲望统合:沉浸式虚拟伴侣终端
【驾驶舱:SillyTavern (酒馆)】
看点解析
这是欲望的集大成者。它是一个前端界面,能同时连接:
      1. 大脑:本地的 Ollama(负责对话)。
      2. 视觉:ComfyUI/Flux(负责根据对话实时生成立绘)。
      3. 听觉:TTS 引擎(负责语音朗读)。
它把前几期分散的技术捏合在一起,让你面对的不再是冷冰冰的文字,而是一个会说话、会变表情、有记忆的活人。

扯扯蛋:这才是真正的“赛博极乐”。你不再需要想象画面,它直接怼到你脸上。以前是你在玩游戏,现在是你生活在游戏里。




四、 巧 | 施工蓝图:从地基到实战的保姆级 SOP
★【第一阶段:基建搭建(系统跑通指南)】
步骤操作动作⚠ 避坑预警 (必读)
1. 平地基下载并安装 Pinokio 浏览器。安装路径别选 C 盘!全程必须挂梯子!
2. 装引擎在 Pinokio 搜 "Ollama""ComfyUI",分别点击 Install。ComfyUI 首次启动黑框会卡很久下载依赖,千万别关!
3. 搭控制台在 Pinokio 搜 "Open WebUI" (办公) 和 "SillyTavern" (娱乐) 并安装。这俩只是皮肤,必须保证第2步的引擎是开启状态。
4. 通电路WebUI 设置 -> 图像 -> 开启 -> URL填 http://127.0.0.1:8188酒馆连接:API选 Text Completion (Ollama);扩展选 ComfyUI

★【第二阶段:实战演练(五大核心任务)】
任务类型入口软件具体操作 (How-to)推荐模型/资源
A. 练脑子Open WebUI去模型管理拉取模型,像用 ChatGPT 一样对话。Llama3.1 (8B) / Qwen2.5 (14B)
B. 练眼睛ComfyUI加载 Checkpoint 大模型,输入提示词,点击生成。Pony V6 XL (二次元神物)
C. 练动态ComfyUI下载带工作流的 JSON/PNG 图片,拖进网页直接抄作业。SVD XT / AnimateDiff
D. 练记忆Open WebUI点击“+”号上传本地小说/文档,输入“#”号引用。任意 PDF / TXT 文档
E. 练感情SillyTavern导入 PNG 角色卡,连接 Ollama 对话,连接 ComfyUI 发自拍。Chub.ai 下载角色卡

★【第三阶段:军火采购指南(资源去哪找?)】
基地名称官方网址主攻方向老司机备注
Civitai (C站)civitai.com图像模型 / LoRA注册后需在设置开启“成人模式”
Chub.aichub.aiSillyTavern 角色卡海量虚拟女友/男友,直接下 PNG
Hugging Facehuggingface.co底层模型仓库硬核玩家专用,东西最全
Ollama Libollama.com/library文字聊天模型复制 run 命令到终端即可运行


▼ 2026 赛博军火库硬件配置表 ▼


机器等级显卡/配置生存战术 (怎么跑)必备辅助预期体验
老古董核显 / <4G 显存强制用 GGUF 格式 (纯CPU模式)32G+ 虚拟内存文字聊天尚可,画图极其缓慢
游击队6G - 8G 显存开启 Offload (显存+内存混合)Q4/Q5 量化模型流畅跑 8B 模型,画 1K 图无压力
正规军12G - 16G 显存全量 GPU 加载 / EXL2 高速格式NVMe 固态硬盘秒出图,流畅跑 32B 中型模型
指挥官24G+ 显存无脑全开 / 本地微调 (LoRA)双卡互联训练私有模型,视频生成火力全开

⚠ 老机器回春指南 (配置不够,技术来凑):
1. 找对格式: 老机器千万别下几十 G 的原始模型 (.safetensors)。请认准下载 .GGUF 后缀的量化版本(推荐 Q4_K_M),这是专为低配设备设计的“压缩包”。
2. 空间换时间: 内存如果小于 16G,请务必手动把 Windows 的虚拟内存 (Pagefile) 设置为 32GB 以上。让硬盘充当临时内存,防止加载大模型时软件直接闪退。
3. 拒绝机械盘: 哪怕 CPU 再慢,也请务必把模型文件放在 SSD 固态硬盘 里。机械硬盘的读取速度会卡死整个系统,让你连鼠标都动不了。

扯扯蛋:这套流程走下来,你就拥有一套完全离线、无需看人脸色的 AI 系统。哪怕外面的网线被拔了,你的赛博后宫依然照常运转。


■【避雷针】/ Anti-Scam Guide


技术拆解:“整合包”与“智商税”盒子
市面上很多卖 2999 元的“AI 盒子”或者 199 元的“懒人硬盘”。
      1. 硬件智商税: 所谓的 AI 盒子,往往就是一个装了开源软件(如 Open WebUI)的廉价电视盒子,性能极差。
      2. 硬盘割韭菜: 卖的硬盘里装的所谓“独家软件”,其实就是用 Pinokio 这种工具一键下载的免费开源货。


防骗指南:
      1. 动手不花钱: 本期介绍的 Pinokio 完全免费且开源。只要你会点鼠标,就能省下这笔冤枉钱。
      2. 性能看参数: 别信什么“AI 专有芯片”,任何不标明 GPU 型号的盒子都是电子垃圾。
老司机语录: 赛博时代,动手能力就是钱。别做那个花钱买免费软件的冤大头,你的钱应该花在更大容量的硬盘和更顶的显卡上。


■ 结语


  第十期是一个节点,也是一个新的开始。
  我们不只是工具的搬运工,更是自己数字领地的建筑师。
  把这些散落的积木搭成城堡,你就是这方天地的王。



关键词索引:GitHub 搜 "Pinokio" / "Open WebUI" / "SillyTavern"


温馨提示:技术无罪,欲望有道。1024,一生平安。




站内翻阅往期(替换地址栏最后那一串数字即可):
7098474 [NEW] 第九期:手搓万物的全景式造物指南
7097017 第八期:显卡调教手册
7095641 第七期:磁力收割与硬盘洗片
7094166 第六期:手机端 AI 现状调查
7092859 特刊:聊聊这五天的“推倒”与“重构”
7092764 第五期:开源火种打破算力围墙
7091538 第四期:全自动狩猎的终极进化
7090352 第三期:在算法欲望里保持清醒
7089201 第二期:工具向执行代理的暴力进化
7088753 创刊号:赛博生存与欲望指南




此貼由shepherd重新編輯:2026-01-11 18:38

赞(29)
DMCA / ABUSE REPORT | TOP Posted: 01-11 17:45 樓主 引用 | 發表評論
再骚一点儿


級別:新手上路 ( 8 )
發帖:474
威望:95 點
金錢:2575 USD
貢獻:0 點
註冊:2022-10-24


感谢分享
TOP Posted: 01-11 17:52 #1樓 引用 | 點評
独坐我的城


級別:新手上路 ( 8 )
發帖:753
威望:90 點
金錢:2268 USD
貢獻:0 點
註冊:2025-10-25

感谢分享
TOP Posted: 01-11 17:55 #2樓 引用 | 點評
斜阳晚照


級別:聖騎士 ( 11 )
發帖:7719
威望:783 點
金錢:24153 USD
貢獻:0 點
註冊:2022-07-25

感谢分享
TOP Posted: 01-11 17:58 #3樓 引用 | 點評
qqq0623


級別:風雲使者 ( 13 )
發帖:53723
威望:5225 點
金錢:1995848 USD
貢獻:1137 點
註冊:2011-06-06

感谢分享
TOP Posted: 01-11 18:33 #4樓 引用 | 點評
练练手


級別:騎士 ( 10 )
發帖:4737
威望:514 點
金錢:12403 USD
貢獻:1000 點
註冊:2020-11-26

感谢分享
TOP Posted: 01-11 18:51 #5樓 引用 | 點評
苏筱熙


級別:天使 ( 14 )
發帖:127772
威望:55734 點
金錢:100114 USD
貢獻:69 點
註冊:2012-09-01

谢谢分享哦
------------------------
7
TOP Posted: 01-11 19:02 #6樓 引用 | 點評
飛无痕


級別:精靈王 ( 12 )
發帖:3872
威望:1548 點
金錢:18334 USD
貢獻:7315 點
註冊:2023-04-27

感谢技术分享
TOP Posted: 01-11 19:34 #7樓 引用 | 點評
闲邪


級別:新手上路 ( 8 )
發帖:887
威望:89 點
金錢:199203 USD
貢獻:0 點
註冊:2021-10-23

1024
TOP Posted: 01-11 19:46 #8樓 引用 | 點評
冲久


級別:精靈王 ( 12 )
發帖:11595
威望:1160 點
金錢:38248 USD
貢獻:0 點
註冊:2015-04-21

不太懂,不知道具体能做啥,不过好像很厉害的样子,还是给大佬点赞
TOP Posted: 01-11 20:28 #9樓 引用 | 點評
wybd


級別:新手上路 ( 8 )
發帖:70
威望:18 點
金錢:20 USD
貢獻:0 點
註冊:2020-09-01

感谢分享
TOP Posted: 01-11 20:42 #10樓 引用 | 點評
czylj


級別:騎士 ( 10 )
發帖:5606
威望:561 點
金錢:21658 USD
貢獻:79 點
註冊:2011-06-06


还是期待傻瓜软件比较合适,看着就很复杂
TOP Posted: 01-11 20:44 #11樓 引用 | 點評
这是个问题啊


級別:風雲使者 ( 13 )
發帖:64212
威望:6477 點
金錢:0 USD
貢獻:104888 點
註冊:2021-01-01

发帖辛苦
TOP Posted: 01-11 23:10 #12樓 引用 | 點評
沉睡的木玛


級別:風雲使者 ( 13 )
發帖:64212
威望:6477 點
金錢:0 USD
貢獻:104888 點
註冊:2018-11-16

支持发帖
TOP Posted: 01-11 23:10 #13樓 引用 | 點評
鸭打鹅


級別:風雲使者 ( 13 )
發帖:55132
威望:5487 點
金錢:0 USD
貢獻:28763 點
註冊:2022-02-02

谢谢分享
TOP Posted: 01-11 23:11 #14樓 引用 | 點評
柯镇恶


級別:聖騎士 ( 11 )
發帖:2965
威望:322 點
金錢:6710 USD
貢獻:30000 點
註冊:2020-03-07

多谢分享
TOP Posted: 01-11 23:20 #15樓 引用 | 點評
极品联盟


級別:俠客 ( 9 )
發帖:462
威望:132 點
金錢:3613 USD
貢獻:0 點
註冊:2015-05-27

感谢分享
TOP Posted: 01-11 23:21 #16樓 引用 | 點評
德谟克拉西


級別:精靈王 ( 12 )
發帖:5893
威望:2846 點
金錢:13110 USD
貢獻:58888 點
註冊:2015-03-02


感谢分享
------------------------
o
TOP Posted: 01-11 23:28 #17樓 引用 | 點評
钐青


級別:騎士 ( 10 )
發帖:2491
威望:415 點
金錢:8116 USD
貢獻:169 點
註冊:2024-07-14

这个适合爱折腾的,不适合懒人
------------------------
H
TOP Posted: 01-11 23:29 #18樓 引用 | 點評
爱吃兔子的龙


級別:新手上路 ( 8 )
發帖:96
威望:12 點
金錢:391 USD
貢獻:0 點
註冊:2019-09-09

感谢分享
TOP Posted: 01-12 00:08 #19樓 引用 | 點評
达拉斯小牛


級別:騎士 ( 10 )
發帖:3273
威望:528 點
金錢:24578 USD
貢獻:230 點
註冊:2019-12-25

看不懂
TOP Posted: 01-12 00:42 #20樓 引用 | 點評
他她


級別:騎士 ( 10 )
發帖:445
威望:45 點
金錢:41 USD
貢獻:18710 點
註冊:2014-10-28

感谢分享
TOP Posted: 01-12 04:50 #21樓 引用 | 點評
最爱反差婊


級別:精靈王 ( 12 )
發帖:1390
威望:392 點
金錢:34012 USD
貢獻:111111 點
註冊:2021-10-24

感谢分享
TOP Posted: 01-12 06:58 #22樓 引用 | 點評

.:. 草榴社區 -> 技術討論區

快速回帖 頂端
內容
HTML 代碼不可用

使用簽名
Wind Code自動轉換

按 Ctrl+Enter 直接提交