来自 科技2025-03-19 16:30:23
伴随着人工智能技术的加速发展近年来，关于AI深度伪造技术、AI虚假泛滥等现象屡禁不止，日前国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称“《标识办法》”），对AI内容的标识提出了三大核心要求，涉及显式标识、隐式标识和平台责任。《标识办法》自2025年9月1日起施行。
在专家看来，当前监管部门针对人工智能的治理，尤其是内容治理，所遵循的思路是“小步快走”，而非追求大而全。这一思路也符合人工智能技术的发展现状，与人工智能技术在大规模应用中的产业场景相契合。
AI生成营销内容必须规范标注
根据此次发布的《标识办法》，人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式，显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取(qǔ)技(jì)术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。
《标识办法》提出，服务提供者提供的生成合成服务，应当按照下列要求对生成合成内容添加显式标识：包括在文本的起始、末尾、中间适当位置添加文字提示或通用符号提示等标识，或在交互场景界面或文字周边添加显著的提示标识；在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等标识，或在交互场景界面中添加显著的提示标识等。《标识办法》明确，违反规定的，将由网信、电信、公安和广播电视等有关主管部门依据职责，按照有关法律、行政法规、部门规章的规定予以处理。
中国科学院科技战略咨询研究院研究员肖尤丹向澎湃科技表示，此次新规虽然切口小，但应当把它放到生成式人工智能内容治理的总体框架里，与算法备案管理、生成式人工智能服务管理、深度合成管理相互协调、共同发挥作用的角度去理解。
在肖尤丹看来，当前人工智能(néng)的(de)治(zhì)理(lǐ)，尤(yóu)其(qí)是(shì)内(nèi)容(róng)治(zhì)理，所遵循的思路是“小步快走”，而非追求大而全。这种思路符合人工智能技术的发展现状，也与人工智能技术在大规模应用中的产业场景相契合。
专注于AI信息安全与数字资产保护，隐拓(tà)智(zhì)安(ān)科(kē)技(jì)有(yǒu)限(xiàn)公(gōng)司(sī)的(de)工(gōng)作(zuò)人(rén)员万嗣芳(fāng)向(xiàng)澎(pēng)湃(pài)科(kē)技(jì)分(fēn)析(xī)认(rèn)为(wèi)，今(jīn)后(hòu)用(yòng)户(hù)刷(shuā)到(dào)AI生(shēng)成(chéng)的(de)明(míng)星(xīng)广(guǎng)告(gào)时(shí)，一(yī)眼(yǎn)就(jiù)会(huì)看(kàn)到(dào)“AI生(shēng)成(chéng)”提(tí)示(shì)，会(huì)避(bì)免(miǎn)被(bèi)虚(xū)假(jiǎ)宣(xuān)传(chuán)误(wù)导(dǎo)。对(duì)于(yú)AI公(gōng)司(sī)和(hé)互(hù)联(lián)网平台来说，直观的影响在于，使用AI批量生成营销内容时，必须像给商品贴成分表一样规范标注，否则可能面临处罚。
万嗣芳称，这次文件明确要求，AI服务提供者和内容传播平(píng)台(tái)必(bì)须(xū)采取(qǔ)措(cuò)施(shī)对(duì)AI生(shēng)成(chéng)内(nèi)容进行标识。可以预见，未来AI服务平台和各类媒体平台上都将更加清晰地展示相关标识，帮助公众更便捷地识别AI生成内容和深度伪造信息，相应由AI伪造带来的谣言情况也会随之减少。
肖尤丹认为，接下来AI公司和平台更需要适应新规范下的运营流程。社会对该办法出台的预期比较稳定，办法也预留了半年左右的准备时间，因此，对大多数AIGC服务提供者来说，履行办法中的“标识义务”并没有太大的技术难度和合规成本。尤其是现在国内主流的AI服务提供商，实际上已经在采取类似的标识方式。不过，对于那些提供接口服务或间接向公众提供AI服务的公司来说，或许会需要一个技术调整与合规的过程。
对AI深度伪造病毒式传播是一次“致命打击”
澎湃科技注意到，《标识办法》中第十条明确规定，用户使用网络信息传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识(shi)。
在(zài)肖(xiào)尤(yóu)丹(dān)看(kàn)来(lái)，这(zhè)一(yī)细(xì)则(zé)的(de)好(hǎo)处(chù)在(zài)于(yú)，对(duì)于(yú)那(nà)些(xiē)利(lì)用(yòng)AI技(jì)术(shù)抄(chāo)袭(xí)、搬(bān)运(yùn)内(nèi)容(róng)的(de)新(xīn)媒(méi)体(tǐ)营(yíng)销(xiāo)号(hào)无(wú)疑是一次“致命打击”。
肖尤丹称，使用者在使用网络信息服务发布生成合成内容时，必须要添加相应的隐式或显式标识，否则将无法通过合规要求。“一旦使用者在二次传播过程中添加了自己的内容，却又删除了原有的隐性标识，那么从隐性标识的角度来看，使用者就违反了保证标识完整性和真实性的义务。这与标识义务本身是不同的。”
肖尤丹表示，《标识办法》制度(dù)未(wèi)来(lái)的(de)优(yōu)势(shì)在(zài)于(yú)，过(guò)往(wǎng)对(duì)于(yú)生(shēng)成(chéng)式(shì)人(rén)工(gōng)智(zhì)能(néng)的(de)监(jiān)管(guǎn)需(xū)要(yào)按(àn)照(zhào)每(měi)个(gè)个(gè)案(àn)判(pàn)断(duàn)，这(zhè)对(duì)平(píng)台(tái)来(lái)说(shuō)监(jiān)管(guǎn)识(shi)别(bié)难(nán)度(dù)非(fēi)常(cháng)大(dà)。而(ér)该(gāi)办(bàn)法(fǎ)出(chū)台(tái)后(hòu)，平(píng)台(tái)方(fāng)也(yě)可以追溯到服务提供者，明确其是否履行了标识义务。
比如，如果使用AI伪(wěi)造(zào)的(de)声(shēng)音(yīn)，系(xì)统(tǒng)要(yào)求(qiú)在(zài)该(gāi)声(shēng)音(yīn)的(de)前(qián)后(hòu)段(duàn)必(bì)须(xū)加(jiā)上(shàng)显(xiǎn)性(xìng)标(biāo)识(shi)。同(tóng)时(shí)，录(lù)音(yīn)文件(jiàn)本(běn)身(shēn)也(yě)应(yīng)包(bāo)含(hán)隐(yǐn)性(xìng)标(biāo)识。如果有人直接搬运并使用伪造声音进行模仿，那么传播(bō)平(píng)台(tái)理(lǐ)论(lùn)上可以通过显式标识识别出来，可以有效避免AI伪造声音在平台大量传播。
“标识制度的主要目的是用较小的合规成本，较好地解决当前AI技术快速发展带来的新问题。因为标识制度的主要目标是实现大规模、高可靠性和低成本的监管(guǎn)。”肖(xiào)尤(yóu)丹(dān)说(shuō)。
律(lǜ)师(shī)李(li)昀(yún)锴(kǎi)曾(céng)代(dài)理(lǐ)全国(guó)首(shǒu)例(lì)AI生(shēng)成(chéng)图(tú)片(piàn)著(zhe)作(zuò)权(quán)侵(qīn)权(quán)案(àn)，他(tā)认(rèn)为(wèi)，《标(biāo)识(shi)办(bàn)法(fǎ)》的(de)核(hé)心(xīn)是(shì)为(wèi)了(le)遏(è)制(zhì)AI伪(wěi)造(zào)内(nèi)容(róng)的(de)传(chuán)播(bō)，减(jiǎn)少(shǎo)谣(yáo)言(yán)、诈(zhà)骗(piàn)等(děng)社(shè)会(huì)危(wēi)害(hài)，也(yě)能(néng)够(gòu)推(tuī)动(dòng)AI技(jì)术(shù)在(zài)合(hé)法(fǎ)框(kuāng)架(jià)内(nèi)发(fā)展(zhǎn)，保(bǎo)护(hù)公(gōng)众(zhòng)知(zhī)情(qíng)权(quán)。
如(rú)果(guǒ)真(zhēn)的(de)出(chū)现(xiàn)被(bèi)误(wù)导(dǎo)和(hé)诈(zhà)骗(piàn)的(de)情(qíng)况(kuàng)，也(yě)可(kě)以(yǐ)通(tōng)过(guò)标(biāo)识(shi)水(shuǐ)印(yìn)追(zhuī)溯(sù)到(dào)实(shí)际(jì)的(de)侵(qīn)权(quán)人(rén)、犯(fàn)罪(zuì)者(zhě)。以(yǐ)后(hòu)，各(gè)类(lèi)平(píng)台(tái)均(jūn)可(kě)能(néng)强(qiáng)制(zhì)要(yào)求(qiú)标(biāo)注(zhù)，未(wèi)合(hé)规(guī)的(de)内(nèi)容(róng)可(kě)能(néng)无(wú)法(fǎ)发(fā)布(bù)。
不(bù)过(guò)，李(li)昀(yún)锴(kǎi)指(zhǐ)出(chū)，目(mù)前(qián)来(lái)看(kàn)，隐(yǐn)式(shì)标(biāo)识(shi)在(zài)技(jì)术(shù)上(shàng)能(néng)否(fǒu)被(bèi)有(yǒu)效(xiào)地(de)规(guī)避(bì)和(hé)移(yí)除(chú)可(kě)能(néng)还(hái)需(xū)要(yào)各(gè)平(píng)台(tái)继(jì)续(xù)探(tàn)索(suǒ)，寻(xún)找(zhǎo)一(yī)条(tiáo)技(jì)术(shù)上(shàng)可(kě)行(xíng)的(de)统(tǒng)一(yī)路线(xiàn)。
肖(xiào)尤(yóu)丹(dān)称(chēng)，AI技(jì)术(shù)发(fā)展(zhǎn)和(hé)AI安(ān)全发(fā)展(zhǎn)本(běn)身(shēn)是(shì)“一(yī)体(tǐ)两(liǎng)面(miàn)”的(de)关系(xì)，但(dàn)近(jìn)两(liǎng)年(nián)，从(cóng)投(tóu)资(zī)上(shàng)的(de)热(rè)情(qíng)来(lái)看(kàn)，大(dà)家(jiā)更(gèng)愿(yuàn)意(yì)投(tóu)入(rù)人(rén)工(gōng)智(zhì)能(néng)技(jì)术(shù)发(fā)展(zhǎn)，而(ér)不(bù)愿(yuàn)意(yì)投(tóu)入(rù)人(rén)工(gōng)智(zhì)能(néng)安(ān)全方(fāng)面(miàn)。他(tā)认为，此次《标识办法》的出台，对于AI安全行业的发展也是一个利好的信号。
万嗣芳也坦言，在过去两年，AI行业主要聚焦于模型能力和应用的快速迭代上，安全问题往往被视为次要考量。《标识办法》的出台将使企业意识到安全合规的重要性，推动企业加大在安全能力建设方面的投入，相应也为AI安全技术公司创造更多市场机遇。
