央视起底AI“造黄”全产业链:9.9元教程+隐晦提示词,批量绕过监管
近日,
总台《财经调查》栏目曝光了一条利用人工智能(AI)技术从事非法
“
造黄
”
活动的完整产业链,揭露了从售卖制作教程、交易
“
提示词
”
到利用AI应用漏洞生成色情擦边内容,乃至销售境外涉黄AI聊天软件等多重非法牟利手段。
据报道,
总台记者在多个互联网平台检索发现,有人公开兜售
“
AI生成色情擦边视频
”
的教程和
“
提示词
”
。号称仅凭一张图片,甚至几句话就可
“
手搓让自己满意的大尺度视频
”
。
教程帖子标着
“
AI制作美女视频
”“
全网最强大尺度
”“
AI擦边赛道日入5位数
”
的标题,再配上色情露骨的画面,这些教程就在网络平台上堂而皇之地宣扬如何让用户
“
从无到有
”“
手搓
”“
色情擦边
”
视频。

这些教程为了兜售自己的产品,还刻意引导用户如何规避监管,比如使用境外图生视频AI软件、将程序部署在本地电脑离线运行等。
众多社交平台上,一些博主还发布售卖各类AI生成擦边视频的
“
提示词
”
帖子。商家表示,只需将购买到的提示词复制到各大AI视频生成软件,即可获得提示词对应的擦边视频。

据报道,央视
记者以9.9元和9.8元的价格,分别在
“
万象小店
”
和
“
楠楠素材库
”
下单,购买了两组提示词。点开商家发来的文件,记者看到提示词描述十分详细,从发型、服饰、身材、姿势、表情,甚至腰部、胯部扭动的幅度,提示词都做了极其细致的刻画。重要的是,商家还将一些敏感词汇翻译成英文,以此来规避网络上的监管。
记者对用户使用较多的10款AI应用进行了实测。在测试过程中,记者发现,如果输入的提示词表述较为
“
露骨
”
,多数AI应用会触发审核机制并拒绝生成内容。然而只要将提示词修改得更加隐晦,便有可能绕过限制。
在一款名为
“
哩布哩布AI
”
的AI应用里,记者输入在网上购买的提示词后,仅仅几分钟,平台就生成了一个半裸身体的女性跳舞视频,没有触发平台任何限制机制,同样的问题也出现在市场上其他常见的AI应用平台上。
此外,市场上更有专门靠AI生成色情视频牟利的软件。根据消费者举报的信息,记者找到了这款号称
“
免下载,能快速换脸
”
的软件。购买者只要愿意付费,软件就可以通过一张图片,生成全裸照片和色情视频。
AI的可定制性让其高度拟人化,通过投喂数据,用户可以将AI虚拟陪伴软件中的智能体打造成自己心目中最理想的情感投射对象。因此,与AI
“
谈情说爱
”
正被越来越多年轻人尝试和喜爱。
但业内人士介绍,这些软件大多是境外的AI聊天软件,尺度普遍很大,充斥着色情内容。这些AI软件并不能从国内应用市场下载,一些不法分子从中窥见了商机,开发出各种灰色通道绕过监管,让国内的用户可以下载并使用,以此牟利。
据报道,
记者在某社交媒体平台和某短视频平台上搜索
“
AI语聊
”
,评论区中随处可见用户分享推荐AI聊天软件,以及软件的下载链接和邀请码。
知情人士告诉记者,由于AI聊天软件是境外软件,为了获得大量国内用户,推销AI聊天软件的平台通过发放金币以及充值返利的方式,激励老用户拉新,并为用户发帖引流提供帮助
,在
逃避监管的同时,实现获利。
记者点击进入下载好的
“
Dady
”
App选择一个AI角色进行体验。在聊天过程中,AI会自动生成3种回复提示,以便用户能有更好聊天体验,而聊天的内容几乎都是围绕着各种色情话题展开。恋爱的感觉、及时的回复、量身定制的人设,吸引着众多年轻人沉浸其中,其中不乏有未成年人。
事实上,
面对AI
“
造黄
”
乱象,监管部门已展开行动。中央网信办已开展
“
清朗·整治AI技术滥用
”
专项行动,将AI色情列为重点打击对象。
今年4月10日,《人工智能拟人化互动服务管理暂行办法》正式公布,明确安全评估和算法备案要求。相关法律法规包括《网络安全法》《未成年人保护法》等,对制作、传播、牟利等行为均有明确处罚规定,轻则封号罚款,重则追究刑事责任
。
