专家：细化技术标准让“AI数字人”透明化合规化

　　□ 本报记（jì）者（zhě） 　赵 丽

　　□ 本报实习生 宋昕怡

　　“生西红（hóng）柿和生黄瓜不能一起吃（chī）了（le）！黄瓜中的分解酶（méi）会破坏（huài）维生素C，一起吃轻则影响西红柿中维生（shēng）素C的吸收，重则（zé）可能导致（zhì）腹泻、肠胃不适（shì）甚至（zhì）食物（wù）中毒。”电话那头，母亲说得头头（tóu）是道（dào），电话这头（tóu）的赵女（nǚ）士却听得一头雾水。

　　随即，母亲发来一则视（shì）频。赵女士回忆说：“一位满头花白头发、身（shēn）着白大（dà）褂的（de）‘医生’在视频里侃侃而谈（tán）‘养生秘籍（jí）’，甚（shèn）至宣称‘清淡饮食就是只吃素食，完全不吃肉’。我妈把这个‘医生’的话（huà）奉为（wéi）圭臬。”但（dàn）赵女士（shì）仔细查看后（hòu），在（zài）视频右下角发现一串几乎透明的标注——“此视频（pín）由AI辅助生成”。

　　“后来，我妈戴着（zhe）老花（huā）镜，在（zài）我的指点（diǎn）下找了（le）一会儿才看（kàn）见那行字。”赵（zhào）女士无奈地说，“这（zhè）也不（bú）能怪老人（rén），现在AI生成的‘数（shù）字人（rén）’泛滥（làn），还难（nán）辨真假，实在让（ràng）人（rén）防不（bú）胜防（fáng）。”

　　有此困扰的并非只有赵女士一（yī）家。《法治日（rì）报》记（jì）者近（jìn）日随机采（cǎi）访了数十（shí）名路人，至少有七成受访者（zhě）称曾刷到过“AI数字人”视频，并且“难以分清到（dào）底是真（zhēn）人还是‘数（shù）字人’”，而原因主要在于“找不到有效提示”。

　　很多人（rén）担忧：真人“数（shù）字人”傻傻分不清楚，背后是肖（xiāo）像权（quán）侵权乃至（zhì）敲（qiāo）诈、诈骗等违法犯罪（zuì）的风险隐患（huàn）。

　　是否数（shù）字人难辨别

　　在重庆读（dú）大学的郑媛（yuán）浏览某社交（jiāo）平（píng）台时，刷到一则帖子——照片里的女生外形温婉可（kě）人，穿搭清（qīng）爽时尚（shàng），很夺人眼球。郑媛（yuán）点赞并关注了该账（zhàng）号。

　　但（dàn）不多（duō）时，郑媛（yuán）却刷到另一名博主揭露用“AI生（shēng）成人”起号的内容，被打假的恰恰是（shì）她先前所关注的（de）这个（gè）账号。“我（wǒ）仔细翻阅了那个女生的账号主页，她并未标明使用AI技术，还（hái）在评论区（qū）亲切地与（yǔ）其他用户互动。”面（miàn）对这（zhè）样的局面，郑媛说（shuō）自己（jǐ）也“糊涂了”。她后来观察了一个多星期（qī），找到了（le）该（gāi）账号图片确（què）为AI生成的证据——有网友在（zài）其他账（zhàng）号上发现（xiàn）了妆容和衣着（zhe）几乎一样的“数字人”，而人物介（jiè）绍却（què）完（wán）全不同（tóng）。

　　习惯在直播间购物的北京（jīng）市民李菲说，自己经常误入“数字（zì）人”直（zhí）播间，“数字人”主播侃侃而（ér）谈介绍商品，手部动作还（hái）能随着她说话的节奏不断（duàn）变动，声（shēng）音流畅而自然。

　　“要仔细看才能看到直播（bō）间左侧一行（háng）‘现（xiàn）直播内容为数字（zì）人直播，非（fēi）真人直（zhí）播’的小字（zì）提醒。”李（lǐ）菲说，自己现在习惯了（le）进直播间“先找小字”，确（què）认主播是否为真（zhēn）人，“但真（zhēn）的‘费眼睛’，不（bú）是在（zài）犄角（jiǎo）旮旯，就是字体几乎透明（míng），不注意根本看不（bú）到”。

　　袁（yuán）伟(化名)是某985高校计算机系（xì）研究（jiū）生。他告诉记者：“现在一些AI大模（mó）型（xíng）生成的图，别说中老年人会误以为真，很多没怎么接触过AI技（jì）术的年轻人（rén）都不见得能分辨真（zhēn）假。”

　　他随即为记者演示（shì），向某AI软件输入指令（lìng）“帮我生（shēng）成图片：一个容貌姣好的女性，精细的皮肤纹理，室外自然（rán）光”，随（suí）即生成的图片与（yǔ）真人（rén）照（zhào）片相差（chà）无几，如果不是右下角自带的水（shuǐ）印，只让人觉得是一张普（pǔ）通的美女照片。“如果（guǒ）说早期（qī）的AI软件大多不能生成自然的手（shǒu）指和人体比例，现（xiàn）在技（jì）术进（jìn）步得很快，生（shēng）成的（de）手指和人体（tǐ）比例已经（jīng）比较像（xiàng）样（yàng）了，更加大了分辨的难度（dù）。”

　　“这样的（de）AI生成（chéng）图片或视频，如果不作（zuò）标识提（tí）示，会（huì）让很多（duō）人信以为真。”袁伟说。

　　大量账号未作标识

　　记者在某社交（jiāo）平台上注（zhù）意到（dào）一名为“××AI打假人”的账户（hù），其（qí）发帖（tiē）称自（zì）己将致力于“揪出纯（chún）AI生成（chéng）的内容博主（zhǔ），帮小白识（shí）别真伪”，还表示“关注了很多AI生成非真实的帅哥美女”。

　　在其关注列表里有300多个账（zhàng）号，记者随机选取了其中（zhōng）20个账号浏览发（fā）现（xiàn），若没有看到评论区“这是AI吧，手指的细节很（hěn）诡异”“背景里的文字（zì）都是（shì）乱码（mǎ）”等留言，记者第一反应只以为他们是普（pǔ）通的颜（yán）值时尚类博主。

　　这（zhè）20个粉丝量几（jǐ）百到几万不等的账号，仅有3个账号在简介中（zhōng）写明“虚（xū）拟男友”“AI”“友情（qíng）提（tí）示视频（pín）由虚拟现实技（jì）术制作”，两个账号主页的内容经平台审核后被打上了“疑似包（bāo）含AI创作信（xìn）息，请谨慎甄别（bié）”的标签。其余账号在简介（jiè）、内容中并未提（tí）及（jí）“AI”字眼，平台的监测机制（zhì）也并未（wèi）识别到，这些账号甚至还在评论区熟稔（rěn）地与其他（tā）用户互动，让自（zì）己看（kàn）上去更有“真人感”。

　　在调（diào）查过程中，有超（chāo）过一半的受访者向记者（zhě）表示（shì）AI生成（chéng）的“数字人（rén）”和真人难以分辨，相关的（de）提示也并不显眼。

　　此外，记者（zhě）发（fā）现（xiàn），有人还会特意教人如何（hé）绕过（guò）平台的“AI打标”。据了解，目前，各平台已普遍（biàn）升级AI内容识别（bié）系（xì）统，要（yào）求（qiú）对AI生成作品进行显著标注。但在（zài）调查中，有（yǒu）分享经验的博主表示花费不到千元就（jiù）可以购买所谓的AI工具中预配置的镜像文件，称（chēng）用这些（xiē）镜像参数一键生成的虚拟人形象可以以假乱真（zhēn），最大限度规避平台的AI内容（róng）强制标注机制。

　　细化标准加大惩处

　　记者（zhě）梳理公开（kāi）信息发现，实践中，一些有心人士利用（yòng）“数字人”形象行不（bú）法之（zhī）事。

　　据报道，张文宏（hóng）、雷军等公（gōng）众人物形（xíng）象曾被利用生成“AI数字人”，用（yòng）来带货、恶搞。一些直播间内，“AI数（shù）字（zì）人”向中（zhōng）老年人群体虚（xū）假宣传保（bǎo）健品，诱导（dǎo）购（gòu）买。更有甚者（zhě），一（yī）些（xiē）不（bú）法分子利用“AI数（shù）字人”进行敲诈、诈骗等犯（fàn）罪。例如，山西忻州公安（ān）机关工作发现，犯罪（zuì）嫌疑人王某某利用AI技术，制作（zuò）合成“数字人”新闻视频引流，进而进（jìn）行有偿发帖（tiē）、有偿删帖等敲诈勒索活动（dòng）。2024年，江（jiāng）西一名65岁老人到银（yín）行办理（lǐ）业务，声称要贷款200万元给男朋友“靳东”拍戏，后经调查，老人手（shǒu）机里（lǐ）的“靳东”视频是（shì）AI合成的。

　　重庆大学（xué）网（wǎng）络与（yǔ）大数据研（yán）究院副院长（zhǎng）罗勇认为，就价值取向而（ér）言，AI产业（yè）发展不（bú）能凌驾于网络安全之上。对于利用AI技（jì）术生成（chéng）的（de）短视频，网络用户（hù）特别是未成（chéng）年人（rén）和老年人由于缺乏必要的鉴别（bié）能力（lì），往往会（huì）信以为（wéi）真（zhēn），由此可能产生负面网络舆情，甚至对网络安全造成（chéng）负（fù）面（miàn）影响。

　　据受访（fǎng）专家（jiā）介绍，当（dāng）前（qián）我国已经出台了《生成式（shì）人工智能服（fú）务管理暂（zàn）行办法（fǎ）》《互联网（wǎng）信息服务深度合成管理（lǐ）规定》等（děng）法规，对“AI数字（zì）人”和（hé）AI生成内容（róng）的（de）标识（shí）、数据来源等提出了（le）具体要求。

　　今年3月，国家网（wǎng）信办等四部门联合发（fā）布《人工智能生成合成内（nèi）容标识办法（fǎ）》(以下简称标识办法)，通（tōng）过标（biāo）识提醒（xǐng）用户辨别虚（xū）假信息，规范内容（róng）制作、传播各环节标识行为，为规范AI生成内（nèi）容划定红线。该办法将于9月1日起（qǐ）施行（háng）。

　　中国政（zhèng）法大学教授郑飞指出，相关规定（dìng）一定程度存（cún）在落地（dì）难的（de）问题（tí）。一是（shì）监管（guǎn）和技术手（shǒu）段有限（xiàn），难以（yǐ）彻底发现并纠正违（wéi）规行（háng）为（wéi）。例如，一些“AI起号”从业者通（tōng）过预置（zhì）“镜像（xiàng）参数”生成极为逼真的虚拟人像，从而逃（táo）避（bì）平台的强制（zhì）标注要求。而（ér）监管（guǎn）部门特别是基层执法部门，通常面临职（zhí）责不清、执法手段和执法力量不足的问题；二（èr）是部分平台在（zài）一定程度上（shàng）“管不了”也“不想管”。“管不了”在于（yú）平（píng）台管理能（néng）力（lì）与技（jì）术手段欠缺，尤其是一些小型平台（tái），缺乏足够的审（shěn）核人（rén）力和技术支持。“不（bú）想管”则是背后利益驱动。未明显标识“AI数字（zì）人”或合成内容，会让受众误以为是真人或（huò）真实事件，从而（ér）更容易引起（qǐ）人们（men）的兴趣（qù）和好奇心，吸引更多的流（liú）量和（hé）关注，进而带来更多的商业利益。

　　“以网络（luò）社交平台为（wéi）代表的网络服务提供（gòng）者在AI生成内容的（de）应（yīng）用场景中，应（yīng）当进一（yī）步完善用户使用AI协议规定，并强化对AI生成内容（róng）的审（shěn）核（hé）。”罗（luó）勇（yǒng）说。

　　郑飞建议（yì），应从明确标识要求和（hé）加大（dà）责任（rèn）追究两方（fāng）面发力。标识办法明确要求，一旦检测到AI生成内容，传播平台应在发布内（nèi）容周边添加显著提示标识，并在文件（jiàn）元数据（jù）中加隐式标识，确保（bǎo）全（quán）流程可溯源。在未（wèi）来落实过程（chéng）中，可进（jìn）一步细化技术标准，比（bǐ）如规定标识文字的最小（xiǎo）高（gāo）度、对比（bǐ）度（dù）、展示时长（zhǎng）等，让（ràng）标识一目了然。另外，对于不（bú）按规定标注的行为，需要（yào）严厉处罚：除加（jiā）大（dà）行政罚款、暂停业务或纳入不良信用记录（lù）等行政措施外（wài），还要利用法律手段加大威慑。通过明确、显著的标识标（biāo）准和更严（yán）厉的责（zé）任追（zhuī）究，才能从根本上震慑违规不标注行为（wéi），实现“AI数（shù）字人”应用的（de）透明化（huà）、合（hé）规（guī）化（huà）。