零点九亿参数的文生图模型:一张显卡训十小时,从零到开源全公开

首页 / AI资讯 / AI绘画

0:00
0:00
1x
定时

一家名为AuroraAI Research的团队在10月28日把AuroraIMG2-50M-Preview放上了Hugging Face,随后被多家英文技术媒体转载。这个模型的参数规模会让习惯了七十亿、一百四十亿的人愣一下:扩散主干5040万参数,文本编码器1260万参数,加起来九千万出头。它是从一个随机初始化开始训练的,没有在别人的权重上继续训,全程用一张RTX PRO 6000跑了十个小时。

九千万参数是怎么算出来的

拆开看,去噪网络是一个八层的流匹配Transformer,文本编码器是一个六层Transformer,配8192词表的字节级分词器,单次最多吃64个词元。图像侧复用了FLUX.2的VAE潜空间,16乘16的潜格子上每个像素对应一个词元,没有做patchify,整张图正好256个词元。最后把潜变量还原成像素的解码器,用的是FLUX.2那个小号的预训练解码器,2790万参数,按Apache 2.0原样打包进去,没有改动。

这个组合值得琢磨。真正被训练的参数只有6300万,解码器是借来的。团队等于把"生成什么"和"怎么显示"两件事拆开,只训前者。这是一个很务实的取舍:解码器的视觉质量由别人保证,自己只负责把文字映射到潜空间里正确的位置。

分词器的设计也透着同样的取向。8192词表的字节级BPE,单次最多64个词元,这个长度大约能装下一句到两句描述,写不了长篇提示词。团队显然假设使用者会写短句,把细节交给模型的先验而不是靠提示词堆砌。这个假设在英文短提示上成立,对习惯写长中文描述的用户就不太友好,超过64个词元的部分会被截断,而模型卡没有提供滑窗或分段编码的方案。

十小时训练的账,比参数更值得看

训练配置写得很细:数据用的是公开的FLUX-Reason-6M潜变量集合,批大小256,跑了247805步,50步采样配CFG 3.0是默认档,20步是快速档。采样器是Euler,权重用fp32加载、bfloat16自动混合精度,解码器单独转成bfloat16。这些细节都写在模型卡上,意味着别人可以照着复现一遍,这在开源图像模型里并不常见。

十小时这个数字的意义不在省钱,而在于它把"从头训一个文生图模型"从团队项目降到了个人项目。一张专业级显卡、一个周末、一份公开数据集,就能得到一个能出图的模型。这会带来两个后果:一是大量垂直风格的小模型会冒出来,二是评测会变得更难做,因为参数量再也不能作为质量的代理指标。

247805步这个数字还有一层含义:批大小256乘以步数,意味着模型大约看过六千三百万张图的潜表示。对256乘256的分辨率来说,这个量级已经接近饱和,继续加数据带来的边际提升很小。换句话说,限制它的不是数据量,而是分辨率与容量。团队把版本标成Preview,大概也是清楚这一点。

硬件侧的要求写得诚实:单张RTX PRO 6000,配fp32权重加载。这类专业卡的显存远大于消费级旗舰,意味着本地复现的门槛落在专业工作站一档,而不是游戏本。相比那些宣称"消费级显卡可跑"的项目,这份说明书反而更可信,因为它没有把最低配置和推荐配置混为一谈。

6.00分的软TIFA,只能跟自己比

模型卡给出的成绩是GenEval 2上的软TIFA几何均值6.00、算术均值36.03,测量条件是50步、CFG 3.0、fp32权重配bfloat16自动混合精度。模型卡同时说明,没有和其他模型做过对比,所以这个分数只能当作内部测量值看,不能当成排名。这句话写得很老实,也是这份发布里最值得引用的一句。

还有几处限制需要提前知道。分辨率固定256乘256,架构上就写死了,放大要靠外部的超分模型;不支持负向提示词,因为训练时没喂过任意负向提示,模型用的是学到的空提示;加载需要trust_remote_code,走的是自定义pipeline而不是标准Diffusers接口。对一个占位符式的预览版来说这些都正常,但如果有人想直接拿它替换生产管线,会撞上分辨率这堵墙。

指标本身也需要解释。软TIFA衡量的是生成图与提示词在细粒度属性上的一致程度,几何均值6.00、算术均值36.03这两个数放在一起,说明分数分布很不均匀:少数提示对得很好,多数提示对得很差,几何均值被短板拉低。这是小模型常见的行为,基础属性如颜色、数量能做到,组合关系与空间位置就容易崩。

小模型的真实用途不是替代大模型

把九千万参数和七十亿参数放在一张表里比谁出图好看,是错位的比较。这类模型的合理位置有三个:一是做研究基线,因为训练成本低到可以反复改架构做消融;二是做流程里的草稿档,先用小模型把构图和提示词试出来,再用大模型出终稿;三是做端侧或私有化部署,256乘256的缩略图在电商批量打样、游戏道具草图这类场景里已经够用。

真正的看点是它把成本结构摊开了。过去讨论开源图像模型,焦点在参数和榜单,现在多了一个维度:从零训一个能用的模型要多少卡时。当这个数字掉到十小时,模型本身就会变成耗材,价值会往数据、评测和工具链上移。这一轮开源竞争的胜负手,可能不在谁的分数高,而在谁的配方能被别人改得动。

还有一层容易被忽视的价值:它给成本敏感的场景提供了一个可核算的选项。按十小时单卡训练折算,重训一次的电费与折旧在几百元量级,这意味着企业可以针对自己的品类每年重训一次,而不必依赖厂商的版本更新节奏。对做垂直风格的小团队来说,这种可控性比分数更重要,因为风格漂移往往发生在厂商升级模型的时候。

素材来源:Hugging Face模型卡、AlexTech、BitTide 发布时间:2026-10-29