央视曝光AI“造黄”产业链，监管利刃必须砍向AI背后的人

\u003cdiv class=\"rich_media_content\"\u003e\u003cp\u003e极目新闻评论员屈旌\u003c/p\u003e\u003cp\u003e近日，央视曝光多款AI应用存在涉黄生成漏洞，从“AI生成色情擦边视频”教程的公开兜售，到“\u003c!--VERTICAL_CARD_BEGIN_0--\u003e提示词\u003c!--VERTICAL_CARD_END_0--\u003e”隐晦绕过内容审核，再到境外涉黄AI软件通过灰色渠道流入国内、诱导未成年人沉迷，一条完整的\u003c!--VERTICAL_CARD_BEGIN_1--\u003eAI“造黄”产业链\u003c!--VERTICAL_CARD_END_1--\u003e已然浮出水面。\u003c/p\u003e\u003cp\u003e\u003c!--IMG_0--\u003e\u003c/p\u003e\u003cp\u003e不法商家公然打着“AI擦边赛道日入五位数”的广告，在各个平台大肆宣扬，甚至提供“一张图片生成全裸视频”的技术服务，为了攫取利益无视法律，不择手段。\u003c/p\u003e\u003cp\u003e\u003c!--IMG_1--\u003e\u003c/p\u003e\u003cp\u003e这些行径不仅突破了技术伦理的底线，更涉嫌违法犯罪。各种不堪入目的色情内容，无异于给AI“投毒”，也污染了网络空间，更对未成年人身心健康造成严重威胁。\u003c/p\u003e\u003cp\u003e一些不法分子得寸进尺，通过境外上架AI聊天软件，其中大量充斥着定制化的色情对话，对未成年人形成极大诱惑，让他们在“恋爱感”“量身定制”的包装下陷入色情泥潭，严重影响身心健康和价值观养成。\u003c/p\u003e\u003cp\u003e乱象表面上是AI之祸，实质上作恶的依然是人。所谓AI“造黄”产业链，不过是把传统地下涉黄产业中“换脸”“P图”“编剧本”等手法，嫁接上AI这个新工具。从前是人工合成淫秽图片，现在是AI一键生成；从前是论坛传播色情教程，现在是社交媒体兜售“提示词”。技术变了，手段升级了，但违法牟利的本质从未改变。\u003c!--MID_AD_0--\u003e\u003c!--EOP_0--\u003e\u003c/p\u003e\u003c!--PARAGRAPH_0--\u003e\u003cp\u003e那些开发境外色情AI软件并引流至国内的不法分子，精心设计隐晦提示词以绕过审核的“创作者”，公然叫卖“大尺度视频教程”的传播者，才是真正的罪魁祸首。光把问题推给AI，是典型的避重就轻，甩锅卸责。AI说到底只是技术工具，利用AI逾越法律红线，破坏社会秩序的人，必须为自己的行为付出代价。\u003c!--MID_AD_1--\u003e\u003c!--EOP_1--\u003e\u003c/p\u003e\u003c!--PARAGRAPH_1--\u003e\u003cp\u003e正因如此，监管的利刃必须精准地砍向AI背后的坏人。被点名的“\u003c!--VERTICAL_CARD_BEGIN_2--\u003e哩布哩布 AI\u003c!--VERTICAL_CARD_END_2--\u003e”，即便将应用上架境外市场，其运营主体注册地仍在国内，监管部门完全可顺藤摸瓜，打破所谓的“技术”伪装，揪出背后的实际控制人、运营者和获益者，追究其法律责任。\u003c/p\u003e\u003cp\u003e同理，那些在社交平台上公开兜售教程、提供“绕监管攻略”的账号，背后都是实实在在的自然人或经营主体。平台有义务配合监管部门将其一一锁定，依法严惩，绝不姑息。境外软件借灰色通道渗透，更要封堵传播链路、打击引流推广，让违规者付出沉重代价，形成有力震慑。\u003c/p\u003e\u003cp\u003e有网友感慨，但凡有新技术出现，总有人第一时间想着如何用它做坏事。客观而言，AI技术的快速迭代确实给监管带来了新挑战，现有的法律法规和治理手段相对滞后，但是，监管的防火墙也不能想绕开就绕开。长远来看，遏制AI “造黄”等技术滥用导致的乱象，需要多方协同、系统施治，明晰技术开发使用的法律与伦理边界。\u003c!--MID_AD_2--\u003e\u003c!--EOP_2--\u003e\u003c/p\u003e\u003c!--PARAGRAPH_2--\u003e\u003cp\u003e一方面，法规体系要持续完善，刚出台的《人工智能\u003c!--VERTICAL_CARD_BEGIN_3--\u003e拟人化互动服务\u003c!--VERTICAL_CARD_END_3--\u003e管理暂行办法》明确安全评估、算法备案要求，划定未成年人保护红线，要加快落地执行，让监管有法可依；另一方面，平台主体责任必须压实。无论是国内AI应用还是境外服务通过境内渠道推广，平台对明显的色情诱导内容、引流链接负有主动发现和处置义务。同时，技术反制手段也要跟上步子，不能让监管总是跟在后面追，魔高一尺更需道高一丈。\u003c!--MID_AD_3--\u003e\u003c!--EOP_3--\u003e\u003c/p\u003e\u003c!--PARAGRAPH_3--\u003e\u003cp\u003e最关键的是强化源头治理，严管未备案违规AI 产品。打击境外软件灰色入境通道，建立跨国界、跨部门、跨区域协同监管机制。\u003c/p\u003e\u003cp\u003e引导技术向善，关键还是在人。AI生成不能成为法外之地，更不可能是违法者的“\u003c!--VERTICAL_CARD_BEGIN_4--\u003e技术护身符\u003c!--VERTICAL_CARD_END_4--\u003e”。唯有监管长出牙齿，抓准病灶，动真碰硬，以刚性法规与技术手段筑牢防线，才能引导新技术的从业者、使用者坚守底线，不敢越雷池半步。也只有让普罗大众知道，AI不是逃避脱责的理由，才能教育公众提升技术素养和辨别能力，自觉抵制不良内容，别给下一代留下一个乌烟瘴气的网络空间。\u003c!--MID_AD_4--\u003e\u003c!--EOP_4--\u003e\u003c/p\u003e\u003c!--PARAGRAPH_4--\u003e\u003cp\u003e（来源：极目新闻）\u003c/p\u003e\u003cstyle\u003e.rich_media_content{--news-tabel-th-night-color: #444444;--news-font-day-color: #333;--news-font-night-color: #d9d9d9;--news-bottom-distance: 22px}.rich_media_content p:not([data-exeditor-arbitrary-box=image-box]){letter-spacing:.5px;line-height:30px;margin-bottom:var(--news-bottom-distance);word-wrap:break-word}.rich_media_content .qn-editor-copy p:not([data-exeditor-arbitrary-box=image-box]){letter-spacing:unset;line-height:unset;margin-bottom:unset;word-wrap:unset}.rich_media_content{color:var(--news-font-day-color);font-size:18px}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content p:not([data-exeditor-arbitrary-box=image-box]){letter-spacing:.5px;line-height:30px;margin-bottom:var(--news-bottom-distance);word-wrap:break-word}body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content .qn-editor-copy p:not([data-exeditor-arbitrary-box=image-box]):not(.qn-editor-copy){letter-spacing:unset;line-height:unset;margin-bottom:unset;word-wrap:unset}body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content{color:var(--news-font-night-color)}}.data_color_scheme_dark .rich_media_content p:not([data-exeditor-arbitrary-box=image-box]){letter-spacing:.5px;line-height:30px;margin-bottom:var(--news-bottom-distance);word-wrap:break-word}.data_color_scheme_dark .rich_media_content .qn-editor-copy p:not([data-exeditor-arbitrary-box=image-box]){letter-spacing:unset;line-height:unset;margin-bottom:unset;word-wrap:unset}.data_color_scheme_dark .rich_media_content{color:var(--news-font-night-color)}.data_color_scheme_dark .rich_media_content{font-size:18px}.rich_media_content p[data-exeditor-arbitrary-box=image-box]{margin-bottom:11px}.rich_media_content\u003ediv:not(.qnt-video),.rich_media_content\u003esection{margin-bottom:var(--news-bottom-distance)}.rich_media_content hr{margin-bottom:var(--news-bottom-distance)}.rich_media_content .link_list{margin:0;margin-top:20px;min-height:0!important}.rich_media_content blockquote{background:#f9f9f9;border-left:6px solid #ccc;margin:1.5em 10px;padding:.5em 10px}.rich_media_content blockquote p{margin-bottom:0!important}.data_color_scheme_dark .rich_media_content blockquote{background:#323232}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content blockquote{background:#323232}}.rich_media_content ol[data-ex-list]{--ol-start: 1;--ol-list-style-type: decimal;list-style-type:none;counter-reset:olCounter calc(var(--ol-start,1) - 1);position:relative}.rich_media_content ol[data-ex-list]\u003eli\u003e:first-child::before{content:counter(olCounter,var(--ol-list-style-type)) '. ';counter-increment:olCounter;font-variant-numeric:tabular-nums;display:inline-block}.rich_media_content ul[data-ex-list]{--ul-list-style-type: circle;list-style-type:none;position:relative}.rich_media_content ul[data-ex-list].nonUnicode-list-style-type\u003eli\u003e:first-child::before{content:var(--ul-list-style-type) ' ';font-variant-numeric:tabular-nums;display:inline-block;transform:scale(0.5)}.rich_media_content ul[data-ex-list].unicode-list-style-type\u003eli\u003e:first-child::before{content:var(--ul-list-style-type) ' ';font-variant-numeric:tabular-nums;display:inline-block;transform:scale(0.8)}.rich_media_content ol:not([data-ex-list]){padding-left:revert}.rich_media_content ul:not([data-ex-list]){padding-left:revert}.rich_media_content table{display:table;border-collapse:collapse;margin-bottom:var(--news-bottom-distance)}.rich_media_content table th,.rich_media_content table td{word-wrap:break-word;border:1px solid #ddd;white-space:nowrap;padding:2px 5px}.rich_media_content table th{font-weight:700;background-color:#f0f0f0;text-align:left}.rich_media_content table p{margin-bottom:0!important}.data_color_scheme_dark .rich_media_content table th{background:var(--news-tabel-th-night-color)}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content table th{background:var(--news-tabel-th-night-color)}}.rich_media_content .qqnews_image_desc,.rich_media_content p[type=om-image-desc]{line-height:20px!important;text-align:center!important;font-size:14px!important;color:#666!important}.rich_media_content div[data-exeditor-arbitrary-box=wrap]:not([data-exeditor-arbitrary-box-special-style]){max-width:100%}.rich_media_content .qqnews-content{--wmfont: 0;--wmcolor: transparent;font-size:var(--wmfont);color:var(--wmcolor);line-height:var(--wmfont)!important;margin-bottom:var(--wmfont)!important}.rich_media_content .qqnews_sign_emphasis{background:#f7f7f7}.rich_media_content .qqnews_sign_emphasis ol{word-wrap:break-word;border:none;color:#5c5c5c;line-height:28px;list-style:none;margin:14px 0 6px;padding:16px 15px 4px}.rich_media_content .qqnews_sign_emphasis p{margin-bottom:12px!important}.rich_media_content .qqnews_sign_emphasis ol\u003eli\u003ep{padding-left:30px}.rich_media_content .qqnews_sign_emphasis ol\u003eli{list-style:none}.rich_media_content .qqnews_sign_emphasis ol\u003eli\u003ep:first-child::before{margin-left:-30px;content:counter(olCounter,decimal) ''!important;counter-increment:olCounter!important;font-variant-numeric:tabular-nums!important;background:#37f;border-radius:2px;color:#fff;font-size:15px;font-style:normal;text-align:center;line-height:18px;width:18px;height:18px;margin-right:12px;position:relative;top:-1px}.data_color_scheme_dark .rich_media_content .qqnews_sign_emphasis{background:#262626}.data_color_scheme_dark .rich_media_content .qqnews_sign_emphasis ol\u003eli\u003ep{color:#a9a9a9}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content .qqnews_sign_emphasis{background:#262626}body:not([data-weui-theme=light]):not([dark-mode-disable=true]) .rich_media_content .qqnews_sign_emphasis ol\u003eli\u003ep{color:#a9a9a9}}.rich_media_content h1,.rich_media_content h2,.rich_media_content h3,.rich_media_content h4,.rich_media_content h5,.rich_media_content h6{margin-bottom:var(--news-bottom-distance);font-weight:700}.rich_media_content h1{font-size:20px}.rich_media_content h2,.rich_media_content h3{font-size:19px}.rich_media_content h4,.rich_media_content h5,.rich_media_content h6{font-size:18px}.rich_media_content li:empty{display:none}.rich_media_content ul,.rich_media_content ol{margin-bottom:var(--news-bottom-distance)}.rich_media_content div\u003ep:only-child{margin-bottom:0!important}.rich_media_content .cms-cke-widget-title-wrap p{margin-bottom:0!important}\u003c/style\u003e\u003c/div\u003e

【纠错】【责任编辑:多瑙河的湖面】

深度观察

新华全媒头条丨扎实推进乡村建设绘就和美乡村新画卷