官方网站-首页

【导语】日前，某短视频平台对含AI创作信息的文案标注提示，这与9月四部委联合发布并实施的《人工智能生成合成内容标识办法》有关，该办法要求AI生成内容添加标识。对此，记者专访专家乔通，他介绍了显式与隐式双重标识方式，指出目前各大平台积极响应，但标识并非“万能”，应对AI生成谣言等问题还需大众提升警惕、技术持续优化及多方合力防控。

“疑似包含AI创作信息，请谨慎识别”，日前，记者在浏览某短视频平台时发现，一条短视频文案下方，被平台标注了这样的提示。

平台截图

这一“提示小字”上线，与一项新规的实施有关。9月，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《标识办法》)正式开始实施。《标识办法》明确所有AI生成的文字、图片、音频、视频等内容都要添加标识。

那么，如何对AI生成内容进行标识？《标识办法》的施行会对行(xíng)业(yè)、个(gè)人(rén)用(yòng)户(hù)，以(yǐ)及(jí)相(xiāng)关技(jì)术(shù)的(de)发(fā)展(zhǎn)带(dài)来(lái)哪(nǎ)些(xiē)影(yǐng)响(xiǎng)？当(dāng)前(qián)落(luò)地(de)过(guò)程(chéng)中(zhōng)，又(yòu)面(miàn)临(lín)哪(nǎ)些(xiē)挑(tiāo)战(zhàn)和(hé)机(jī)遇(yù)？对(duì)此(cǐ)，潮(cháo)新(xīn)闻(wén)专(zhuān)访(fǎng)杭(háng)州(zhōu)电(diàn)子(zi)科(kē)技(jì)大(dà)学(xué)网(wǎng)络(luò)空(kōng)间(jiān)安(ān)全学院，浙江-法国数字媒体取证联合实验室主任乔通。

“显式”+“隐式”，双重标识筑牢防线

在《标识办法》中提到，对于不同类型的AI生成内容提出明确标注要求，确保用户与监管方能够清晰识别AI属性。其中提到，人工智能生成合成内容标识包括显式标识和隐式标识。

“显式标识就像一个长‘Logo’。”乔通解释道，显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。例如在AI生成视频角落添加“AI生成”字样，或在文本首尾标注生成来源，便于用户直观识别。

豆包AI生成

而隐式标识则更为隐蔽，需借助技术手段(duàn)才(cái)能(néng)识(shi)别(bié)。以(yǐ)图(tú)像(xiàng)为(wèi)例(lì)，像(xiàng)素(sù)之(zhī)间(jiān)存(cún)在(zài)大(dà)量(liàng)肉(ròu)眼(yǎn)无(wú)法(fǎ)察(chá)觉(jué)的(de)冗(rǒng)余(yú)信(xìn)息(xi)，隐(yǐn)式(shì)标(biāo)识(shi)通(tōng)过(guò)微(wēi)调(diào)部(bù)分(fēn)像(xiàng)素(sù)值(zhí)，将(jiāng)标(biāo)识(shi)信(xìn)息(xi)嵌(qiàn)入(rù)这(zhè)些(xiē)冗(rǒng)余(yú)空间中，其技术本质是“信息隐藏技术”。

“一旦有人利用AI生成伪造视频或者图像等内容，并在互联网传播，隐式标识就像一把‘定位钥匙’，帮助快速追溯内容来源。”乔通进一步说明。

此外，《标识办法》要求在AI生成内容的文件内部嵌入元数据，且字段名称必须包含“AIGC”标识符号。

乔通指出，其实许多文档、图片、视频等内容本身都自带“元数据”，记录着创建时间、存储(chǔ)位(wèi)置(zhì)等(děng)基(jī)础(chǔ)信(xìn)息(xi)，元(yuán)数(shù)据(jù)标(biāo)识(shi)就(jiù)是(shì)在(zài)这(zhè)些(xiē)属(shǔ)性(xìng)中(zhōng)，额(é)外(wài)添(tiān)加(jiā)“内(nèi)容(róng)由(yóu)AI平(píng)台(tái)生(shēng)成(chéng)”的(de)标(biāo)注(zhù)。

也(yě)就(jiù)是(shì)说(shuō)，即(jí)使(shǐ)没(méi)有(yǒu)明(míng)显(xiǎn)标(biāo)识(shi)，若(ruò)该(gāi)视(shì)频(pín)内(nèi)容(róng)含有“隐式标识”，那也可(kě)以(yǐ)通过其背后的“元数据”进行溯源定位，这对被侵权人的合法权益具有重要意义。

平台纷纷响应，营造清朗网络空间

目前，各大AI平台均在积极响应《标识(shi)办法》，出台了各类细则。记者通过浏览多个平台的公告细则观察到，多个平台均按照要求，为AI生成内容添加了用户易感知的显式标识，明确其“AI身份”，对于未按规定添加标识的创作者及内容，平台也明确了相应惩罚措施。

DeepSeek公告截图

值得注意的是，腾讯、抖音、商汤等企业还明确公告，对AI生成元数据嵌入“隐式标识”，以方便内容信息溯源。

潮新(xīn)闻注意到，《标识办法》中第十条明确规定，用户使用网(wǎng)络(luò)信息传播服务发布生成合成内容，应当主动声明并使用服务提供者提供的标识功能进行标识。

在乔通看来，一(yī)方(fāng)面(miàn)，对(duì)于(yú)各(gè)大(dà)平(píng)台(tái)，尤(yóu)其(qí)是(shì)部(bù)分(fēn)公(gōng)众(zhòng)认(rèn)知(zhī)度(dù)较(jiào)低(dī)的(de)小(xiǎo)众(zhòng)平(píng)台(tái)，《标(biāo)识(shi)办(bàn)法(fǎ)》相(xiāng)当(dāng)于(yú)划(huà)定(dìng)了(le)“内(nèi)容(róng)标(biāo)注(zhù)红(hóng)线(xiàn)”，推(tuī)动(dòng)其(qí)运(yùn)营(yíng)更(gèng)规(guī)范(fàn)。同(tóng)时(shí)，明确的AI标识能减少用(yòng)户(hù)对(duì)“内(nèi)容(róng)真(zhēn)实(shí)性(xìng)”的(de)困(kùn)惑(huò)，间(jiān)接(jiē)提(tí)升(shēng)整(zhěng)个(gè)网(wǎng)络(luò)空(kōng)间(jiān)的(de)可(kě)信(xìn)度(dù)。

另(lìng)一(yī)方(fāng)面(miàn)，对(duì)于(yú)监(jiān)管(guǎn)机(jī)构(gòu)而(ér)言(yán)，标(biāo)识(shi)溯(sù)源(yuán)和(hé)取(qǔ)证(zhèng)更(gèng)加(jiā)便(biàn)捷(jié)。以(yǐ)往(wǎng)，监(jiān)管(guǎn)部门需委托第三方机构，通过复杂技术检测AI生成内容，耗时耗力。如今，借助AI标识，监管部门可独立快速识别和追溯源头，大幅降低人力物力成本。“这对于营造清朗网络空间是十分有利。”

标识并非“万能”，监管防控还需“多方合力”

《标识办法》正式实行刚满半月，但从落地实践上看，《标识办法》并不能彻底杜绝AI生成谣言、假消息的产生。

比如对于显性标识，用户可以删除相关文字及标识图形来去除；对于隐性标识，用户也可以通过转码等方式进行一定程度的规避。也就是说，基于标识的识别无法对于恶意用户发布的内容进行精准鉴别。

“要应对这一问题，首先需要提升大众的认知和警惕意识，提高自身的识别能力。”乔通建议，普通用户可通(tōng)过(guò)一(yī)些(xiē)细(xì)节(jié)判(pàn)断(duàn)内(nèi)容(róng)真(zhēn)实(shí)性(xìng)。

他(tā)举(jǔ)例(lì)道(dào)，如(rú)视(shì)频(pín)、图(tú)像(xiàng)上(shàng)，公(gōng)众(zhòng)可(kě)通(tōng)过(guò)观(guān)察(chá)画(huà)面是否连贯性、有无异常抖动；在音频上，留意音色是否自然，语气是否符合日常交流的抑扬顿挫等。“若发现内容与日常认知存在偏差，逻辑或感官上‘别扭’，就需带着怀疑态度进一(yī)步(bù)核(hé)实(shí)，必要时借助专业工具检测。”

从技术方面，乔通表示，技术检测方要尽可能地让检测器“见多识广”，需用大量AI伪造数据对其进行优化，并针对视频、文本、音频等不(bù)同(tóng)应(yīng)用(yòng)场(chǎng)景(jǐng)，调(diào)整(zhěng)检(jiǎn)测(cè)器(qì)的(de)识(shi)别(bié)算(suàn)法(fǎ)，提(tí)升(shēng)适(shì)配(pèi)性(xìng)。同(tóng)时(shí)，平(píng)台(tái)方(fāng)也(yě)需(xū)要(yào)不(bù)断(duàn)更(gèng)新(xīn)技(jì)术(shù)手(shǒu)段(duàn)，保(bǎo)护(hù)标(biāo)识(shi)不(bù)被(bèi)恶(è)意(yì)去(qù)除(chú)。

标(biāo)识(shi)是(shì)生(shēng)成内容治理迈出的关键一步，但它只是多层次防控体系的一部分。乔通也表示，要真正规避风险，还需要细化法律法规，建立行业自律标准，加大执法力度等。