近日,社交媒体平台上某育儿短视频账号凭借“外国幼儿教育专家”形象迅速吸粉。其AI生成的虚拟人物用流利中文输出育儿观点,尽管存在部分极端的误导性内容,却仍收获39万粉丝,并创下21万的卖货战绩。这一案例曝光了当下社交平台上“AI起号”灰色产业链的冰山一角——当AI从提升创作效率的工具异化为批量制造虚假人设的“流量机器”,其背后的信任危机与监管挑战正引发深度反思。

在流量至上的社交媒体生态中,“AI起号”已形成标准化流水线作业。有从业者透露,借助两三个AI工具,通过“文生图、图生图、图生视频”的流程,几分钟就能产出一条时长5秒的视频,其逼真程度足以迷惑普通用户。更有甚者,花费900元购买预配置的镜像文件,一键生成可以最大程度规避平台AI打标机制的虚拟形象,让系统难以识别内容的AI生成属性。这种低成本、高效率的造号模式,将账号运营的门槛从“创意深耕”降格为“技术投机”,催生了大量低俗猎奇内容,严重扰乱了信息传播的真实性基础。

起号成功后的变现链条更是暗藏隐患。部分账号在积累粉丝后快速转型为带货号或卖课号,甚至明码标价进入交易市场。尽管AI批量生产的账号因成本优势售价低廉,但这种行为已违反多数社交平台明确禁止的账号转卖规则。账号交易不仅存在用户信息泄露风险,更可能被不良商家利用虚假人设持续收割流量。

面对技术滥用带来的乱象,监管层面正加速破局。今年3月发布的《人工智能生成合成内容标识办法》,要求对AI生成内容实施显式或隐式标识。新规将于9月1日正式施行。这意味着,即便部分创作者通过技术手段规避显式水印,隐式标识也将在平台审核中发挥作用,让AI生成内容再难暗度陈仓。

从行业发展的长远视角看,AI起号乱象本质上是技术红利与道德底线的碰撞。当“零门槛涨粉”“快速变现”成为吸引新手的噱头,少数人眼中的“商机”正在透支整个内容生态的信任基石。技术本身并无对错,但如何规范其应用边界,既需要平台加强内容审核技术投入,更依赖监管政策的精准发力与从业者的自觉。

随着新规出台,AI生成内容的“裸奔时代”即将终结。显式与隐式双重标识机制,不仅是对用户知情权的尊重,更是对内容产业健康发展的保驾护航。只有流量游戏回归价值创造本质,技术创新与合规经营形成合力,才能真正实现AIGC技术从“野蛮生长”到“赋能增效”的良性转变。毕竟,在社交媒体的发展浪潮中,唯有真实的内容与真诚的互动,才能经得起时间的冲刷。

（大众新闻·风口财经评论员 耿伟杰）