7月28日,央视新闻的一则深度报道引发了广泛关注:不法分子以"AI绘画"为幌子,在境外社交群组内标价168元出售"AI脱衣"软件。只要上传一张普通人照片,软件数秒内就能生成虚假裸照。这些伪造照片被用于敲诈勒索、恶意诽谤甚至网络暴力,已有多起案件进入司法程序。这则报道将AI绘画工具被滥用的现实问题摆在了公众面前。
北京市海淀区检察院披露的数据触目惊心。2024年,白某某因制作、贩卖淫秽物品牟利罪被判处有期徒刑三年。2025年,张某因非法利用信息网络罪获刑一年六个月。但更令人担忧的是,这类犯罪行为在执行层面面临着巨大的发现和取证难度——犯罪者使用境外服务器、加密通讯工具和虚拟货币支付,执法机关追踪难度极大。
AI绘画作为2025年至2026年发展最快的内容生成技术之一,其正面价值毋庸置疑。从电商主图生成到影视概念设计,从工业设计草图到建筑可视化,AI绘画已经深度融入了内容生产的各个环节。Midjourney V8.2于7月24日正式成为默认模型,Flux 3的图像生成质量达到了全新高度,国产AI绘画工具也在电商、教育、营销等领域广泛落地。
然而,技术越强大,滥用的风险就越大。AI绘画工具在生成逼真人体图像方面的能力越强,被用于合成虚假色情内容的风险就越高。更严峻的问题是,目前大部分AI绘画平台对用户输入的内容审核主要集中在文本提示词层面,对图像生成后的使用场景缺乏有效的追溯和管控手段。一旦图像被下载,就脱离了平台的管控范围。
从全球范围来看,AI生成内容的合规治理正在加速。欧盟AI法案已于8月2日生效其Article 50条款,要求所有AI生成内容必须进行明确标识。加州SB 1000法案同一天生效。Google已于7月24日签署了欧盟AI生成内容透明度实践准则,与Apple、英伟达、OpenAI、ElevenLabs合作推动基于SynthID的互操作性水印方案。但在中国,这一领域的规范化进程仍在推进中。
"AI脱衣"软件的黑色产业链条,暴露了AI治理中的几个核心难题。第一是跨境执法的障碍——犯罪者将服务器和数据存储部署在境外,利用不同法域的管辖盲区逃避打击。第二是技术对抗的升级——随着生成模型的持续迭代,检测伪造内容的难度也在增大。第三是平台责任的边界——AI绘画平台在多大程度上需要为用户的滥用行为承担连带责任,法律尚未给出清晰的界定。
北京市海淀区检察院相关负责人在报道中指出,这类案件的定性和取证面临较大困难。由于AI生成的虚假裸照并非真实拍摄,传统的制作、复制、传播淫秽物品罪的适用性存在争议。司法实践中往往需要结合具体情节,综合判断是否构成传播淫秽物品罪、敲诈勒索罪或诽谤罪。
在产业层面,AI绘画工具厂商也开始主动加强合规能力。多家头部AI绘画平台已上线了更严格的图像审核机制和用户实名认证系统。一些平台开始与第三方安全厂商合作,在上传和生成环节进行双重过滤,确保生成的图像不违反法律法规和公序良俗。
AI绘画行业的健康发展,需要在技术创新和合规治理之间找到平衡点。过度管控可能抑制技术进步和产业活力,而放任不管则可能导致工具被滥用于违法犯罪,最终伤害整个行业的声誉和市场信任。7月15日正式施行的《人工智能拟人化互动服务管理暂行办法》,以及正在征求意见的AI生成内容标识管理办法,都体现了监管层在平衡创新与安全之间的审慎态度。
在技术层面,水印技术、数字指纹和内容溯源被认为是解决AI工具滥用的关键手段。C2PA溯源标准已获得Adobe、微软等巨头的支持。AI绘画平台若能主动接入内容溯源体系,将为执法机关追查虚假内容源头提供有力的技术支撑。
央视的报道将AI绘画工具被滥用的黑色产业链曝光在阳光下,这起事件的核心问题在于:当一项技术的能力强大到可以被轻易滥用时,技术提供方和监管方应该如何应对。从平台责任的角度来看,AI绘画工具不能仅仅提供便利,还必须在产品设计中嵌入"反滥用"机制。这包括但不限于对生成内容的实时审核、对用户上传图像的合规校验、以及对生成图像的溯源水印。技术本身是中性的,但技术产品的设计取向决定了它被用于创造还是被用于破坏。对于整个AI行业而言,合规不是发展的绊脚石,而是可持续创新的安全网。任何忽视合规风险的企业,最终都将付出远高于先期投入的代价。从更深层的角度来看,AI脱衣黑产问题的根源在于AI技术的正面和负面效应之间存在巨大的时间差。当生成模型的进步速度远超社会治理和法律法规的更新速度时这类问题便不可避免的会出现。解决这一问题的根本途径是建立技术发展与治理能力之间的协同进化机制。
从行业自律的角度来看,AI绘画平台需要主动建立更严格的合规标准,而不能等到监管出手才被动应对。未来,具备完善内容审核和溯源能力的AI绘画平台,将在市场竞争中获得更大的优势。这不仅是对用户负责,也是对整个行业可持续发展的保障。