外国人熟练演唱中文歌曲、银发奶奶传授养生秘诀、氛围感女孩分享穿搭美学……社交媒体上，一些AI生成的视频关注度颇高，“细节满满”让很多网友信以为真。记者调查发现，不少社交账号利用AI技术造假、博眼球快速“吸粉”起号，进而变现。近期，多个平台对“AI起号”现象开展专项治理行动，清理违规内容并封禁部分账号（据8月11日新华网）。
所谓“起号”，即通过批量生产内容快速积累粉丝、提升账号商业价值，进而形成可交易或变现的网络资产。随着生成式AI工具的普及，“起号”门槛大幅降低。在“单账号月入过万”的利益驱动下，一些操作者瞄准情感、养生、美妆等易引发共情的领域，用AI生成“银发奶奶”“美女博主”等形象精准吸引特定群体，通过电商带货、账号转卖等方式变现，形成“起号、转型、转卖”的灰色产业链。
从法律层面来看，AI造假起号绝非技术游戏，而是涉嫌多项违法的严肃问题。根据反电信网络诈骗法，任何单位和个人不得非法买卖、出租、出借互联网账号，情节严重者可追究刑事责任。同时，广告法明确禁止虚假宣传，AI生成的虚拟人物若隐瞒“非真人”身份进行商业推广，已涉嫌欺骗消费者，经营者需承担相应责任。平台作为网络服务提供者，若未履行审核义务，放任虚假账号泛滥，同样需要承担管理责任。
治理此类乱象，面临着多重现实挑战。一方面，技术对抗的“猫鼠游戏”持续上演，造假者通过压缩文件、修改代码等方式规避平台AI识别，增加了监管难度；另一方面，法律适用存在模糊地带，AI生成内容的标注义务、虚拟账号的归属等问题缺乏细化规定，导致追责时常陷入“取证难、认定难”困境。加之账号交易多通过加密聊天工具进行，资金流向隐蔽，也给溯源打击带来挑战。
技术每前进一步，治理就要跟进一步。事实上，监管部门的治理脚步从未停歇。中央网信办今年4月启动的“清朗·整治AI技术滥用”专项行动，7月开展的“清朗·整治‘自媒体’发布不实信息”专项行动，均将AI造假列为重点整治内容，体现了对新技术滥用问题的高度重视。
魔高一尺，道高一丈。考虑到如今AI造假能力之强，要彻底铲除AI造假“起号”的灰色产业链，关键在于以技术优势形成绝对压制。相较于不法分子，监管部门与网络平台手握更雄厚的技术资源、更完整的数据链条和更强大的研发能力，能够通过技术赋能实现对新技术违法犯罪的“冒头即打、露头就灭”。平台需构建“识别—拦截—溯源”技术体系，用深度模型精准识别伪装的AI内容，建立违规账号“黑名单”，定向阻断变现链条，让造假者无利可图。监管部门可搭建全国性监测平台，追踪账号交易异常，解码隐蔽交易信息，联动打击产业链节点。同时，要畅通技术化举报渠道，形成全民监督合力，让灰色产业链失去滋生土壤。
AI的价值在于拟人化服务而非拟人化欺骗，在于赋能发展而非助力乱象。我们期待以专项行动为契机，加快推动AI造假治理向以技术对技术、以技术管技术的进阶，让数字空间真正成为滋养文明的沃土。
来源：检察日报