添加显著标识 谨防AI“鱼目混珠”

我们每天上网看到的海量图文、视频，有多少是人工智能生成合成的？如何准确分辨AI文章、AI图片、AI视频？近日，国家互联网信息办公室发布《人工智能生成合成内容标识办法（征求意见稿）》（以下简称《意见稿》），拟规定服务提供者提供的生成合成服务，包括文本、音频、图片、视频、虚拟场景等，均应在适当位置添加显著的提示标识；服务提供者提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识。

随着人工智能技术的迅猛发展，AI合成成本低、制作容易、出品太快，使得这类合成内容逐渐渗透到生活的方方面面，从文字、图片到音频、视频，无时不在、无处不在。随之而来的是一系列伦理和社会问题，AI合成被一些不法人员用于制作、复制、发布、传播违法和不良信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗等，影响传播秩序和社会秩序，损害人民群众合法权益，危害国家安全和社会稳定。

或许有人说，用人工智能技术合成，是“弄着玩”或“开玩笑”，给网络生活加点“调料”，没有恶意。可即便如此，也会造成公众对信息的误会或误判，极易导致不良社会后果。因此，显著标识AI合成内容变得至关重要，而《意见稿》划定了人工智能技术合成服务的底线和红线。如此明确设定，具有很强的针对性，将减少由此导致的信任危机，对于防范化解网络安全风险具有建设性作用。

众所周知，网络上每天产生的图文、视频等海量信息，传播的路径非常广阔，传播的速度异常快捷。但是，随着深度学习和生成对抗网络等先进技术的介入，使得AI合成内容越来越逼真，这种技术进步存在被滥用的风险。这可能导致公众对媒体和信息的普遍不信任，进而引发社会信任危机并扰乱社会秩序。而目前许多国家尚未有完善的法律框架来规范AI合成内容的使用，导致出现对这一网络空间的监管盲区。亟待有关部门出台过渡性监管措施，为法制监管相关领域打下坚实基础，催生新的立法和监管措施。

为此，规定设置显式标识，体现了对透明性和真实性的尊重，这是维护社会诚信和公共安全的基本要求。这一规定，非常具有现实针对性、必要性。保障了用户的知情权和选择权，使用户能够自主决定是否接触和信任这些由AI合成的特定内容。这样做，增加了一定成本，但对于提高透明度和建立信任至关重要；帮助公众区分真实与合成内容，减少信息混乱；有助于防止这种潜在的大规模操控行为；明确内容的来源和制作者，有助于在发生侵权或欺诈行为时追究相关责任。

随着AI技术不断进步，AI合成内容将更加难以分辨，这必将会给显式标识带来新的挑战。未来可能需要更复杂的技术手段和国际合作来实现跨平台、跨媒介的显式标识。同时，如何平衡技术发展与社会伦理，制定全球统一的标准和法规也是未来需要面对的重要问题。我们应当推动相关政策、技术和伦理规范的完善，以确保AI技术的健康发展和应用。