大模型训练被认为要数据中心,他却在一台8GB显存游戏本上从头训——靠把专家存在硬盘上按需加载,把参数限制从显存挪到磁盘。
案例档案
| 项目 | 内容 |
|---|---|
| 谁做的 | GitHub 用户 volotat(Alexey Borsky)/ 国外,2026-09-19建仓 |
| 怎么赚钱 | 开源项目,未官方披露任何定价/赞助/捐赠;无变现路径 |
| 收入与规模 | 未官方披露 |
| 流量从哪来 | Hacker News Show HN 冷启动(277分)+ GitHub 784 stars + r/LocalLLaMA |
| 分类 | 开源项目 / AI模型 / 开发者工具 / 英文 |
产品是什么
Mini-AGI是作者volotat(Alexey Borsky)2026年9月发到GitHub上的一个开源实验项目,定位"动态持续学习模型"。它最抓眼球的卖点是:整个模型从头训练,只需要一块8GB显存的消费级GPU(参考配置是RTX 3070笔记本显卡)。它是个字节级的混合专家(MoE)模型,用batch-1的方式一路读文本流,边读边更新权重,像人脑一样不停学,而不是训完就冻结。据第三方整理,它已经长到约4.68亿参数、146个专家,但常驻显存的工作集只有约1.01亿。
啊哈点:把"显存装不下"变成"硬盘随便装"
训练大模型这件事,行业默认前提是"你得有数据中心"。参数一多,权重、梯度、优化器状态加起来要吃掉数倍显存,一张8GB的游戏本显卡想都别想。
Mini-AGI的啊哈点,是换了个思路绕过去。它把MoE里的专家(专家就是模型里那些子网络)不当成整块塞在显存里,而是当普通文件存在硬盘上,用到哪个专家才临时加载进显存,用完再换出去。这样一来,模型能长多大,不再由你的显存决定,而是由你的硬盘空间决定。训练也不攒大批量数据(那很吃显存),改成batch-1,一个chunk一个chunk地过。作者自己承认"Mini-AGI"这名字起得有点大,但系统确实能跑起来。
这就是它的可迁移内核:与其硬凑显存,不如把大的那层挪到便宜的介质上、按需换入换出。一句话,把"显存限制"换成"磁盘限制"。这对没有GPU集群的个人研究者,是个实打实的破局点。它发在Hacker News的Show HN帖子拿到277分,三天攒了784个GitHub star。
怎么赚的钱
未官方披露。仓库里只有代码、Readme和训练样例,没有任何定价、订阅、赞助、捐赠或商业合作入口。这是个作者个人兴趣驱动的开源实验,目前看不出任何变现路径。
流量从哪来
靠Hacker News的Show HN冷启动——作者以"Show HN: Mini-AGI – Dynamic continual learning model trained on 8GB VRAM"发帖,拿到277分上了HN首页,把高技术密度的受众直接导到GitHub仓库;随后又被r/LocalLLaMA、DEV Community等社区转载。属于典型的开源项目技术社区冷启动。
站长是谁
作者是GitHub用户volotat,本名Alexey Borsky。这是一个人做的实验项目,2026年9月19日建仓,用Python写,作者自己在帖子里说他是和Claude一起头脑风暴起步的。
真实用户怎么说
HN帖里的原话(逐字摘录):
- hexley19:“Seeing ‘Mini-AGI’ and ‘8GB VRAM’ in the same sentence is a breath of fresh air.”
- whizzter:“most people are curious/suspicious about the big players and wants more hands-on.”
- skeledrew:“Getting conceptually closer to how the human brain works. Looking forward to more of this.”
这个案例能学到什么
- 开源项目先用Show HN技术社区冷启动,拿第一批高质量关注。
- 把硬件门槛压到8GB显存这种大众配置,能复现的人立刻变多。
- 名字可以夸张,但Readme里要用可跑样例兑现承诺。
- 用按需加载把"显存限制"换成"磁盘限制",是小硬件做大事的通用思路。
- 开源不等于有收入,想变现要提前设计赞助或付费版。
一句话总结
Mini-AGI证明了:大模型训练不一定要数据中心——把专家存在硬盘上按需加载,把"显存限制"换成"磁盘限制",一个人用8GB游戏本也能从头训出一个持续学习模型。
拓展阅读
Campfire:一个被月结折磨十五年的财务老兵,要用大模型重写总账:同版块的站内帖,同样围绕 大模型,往深里读接这一篇。
彩云小译:一个做天气的团队,把各家大模型都装进了同一个翻译App:同版块的站内帖,本文这条线往深里读接这一篇。
SiteGPT:印度独立开发者把「训练于自家内容的 AI 客服」做成…:同版块的站内帖,同样围绕 开发者,往深里读接这一篇。
参考资料
- GitHub官方API(volotat/mini-AGI:784 stars、116 forks、Python、2026-09-19创建,2026-09-28抓取):https://api.github.com/repos/volotat/mini-AGI
- GitHub仓库描述(8GB VRAM laptop从头训练、batch-1流,2026-09-28抓取):https://github.com/volotat/mini-AGI/
- Hacker News Algolia API(帖49783133,277分,2026-09-28抓取):https://hn.algolia.com/api/v1/items/49783133
- ZyVOP技术整理(作者Alexey Borsky、约468M参数146专家、常驻约101M,2026-09-28抓取):https://zyvop.com/building-an-ai-that-never-stops-learning-on-8gb-of-vram-v5co9
- 收入:未官方披露
- 数据口径:GitHub官方API(2026-09-28抓取:784 stars、116 forks、Python、2026-09-19创建)+ Hacker News Algolia API(帖49783133,277分);收入未官方披露