社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  aigc

AIGC标识该咋做?

数据何规 • 1 周前 • 19 次点击  
又是一个周五,网信办又给大家留作业了。

《人工智能生成合成内容标识办法》(以下简称《标识办法》)《网络安全技术 人工智能生成合成内容标识方法》(以下简称《标识标准》)都发布了,将在9月1日生效。

中国AI安全治理的架构初具雏形。

我也来标识一下:【纯人工撰写,没有借助AI】

一、AI安全治理框架

(一)互联网信息服务算法推荐管理规定


从算法的维度进行治理,生成合成类可能用了AI,所以要做算法备案。当然,除了生成合成类,还有个性化推荐之类的其他算法也受到规制。


(二)互联网信息深度合成管理规定


之前小模型捏的数字人,还有语音转文字那些也都属于深度合成。同时大模型肯定也必然属于深度合成算法。


(三)生成式人工智能服务管理暂行规定


这个就是管大模型专门的规则,大模型上线备案、登记的要求,就是从这儿来的。


至于大模型备案具体有哪些要求,要看《生成式人工智能服务安全基本要求》,不过这个一般只有底层大模型厂商才考虑。


(四)人工智能生成合成内容标识办法


《标识办法》细化了上面三个办法的标识要求。配套还有强制性标准。


标准化法》要求:“强制性标准必须执行”,“不符合强制性标准的产品、服务,不得生产、销售、进口或者提供”。


具体怎么落实往下看吧。


二、《办法》-啥时标识


(一)什么情况下要做标识?


《标识办法》提出,按照《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》相关要求开展人工智能生成合成内容标识活动的,应当符合《标识办法》相关要求。

这意味着,只有面向境内、公众的AI服务才需要考虑标识。


标识分两种,一种是看得见的显性标识,另一种是看不见的隐性标识。


1、显性标识


《标识办法》要求,服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的,应当按照要求对生成合成内容添加显式标识

提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识。这么说来,截图也应该包含。

等于说,并非所有的AIGC内容都要标识,只有可能“导致公众混淆或误认的”才要考虑显性标识。


2、隐形标识


服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定,在生成合成内容的文件元数据中添加隐式标识。

文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息,用于记录文件来源、属性、用途等信息内容。

所有AI生成物,都要隐形标识。

(二)什么情况可以不做标识?

1、影视创作(可能)

发文单位有广电总局,考虑到之前《生成式人工智能服务管理暂行办法》第二条第二款明确“国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的,从其规定”。

未来从事电影、电视剧、短剧的创作用到AI的,如果广电总局另有规定的,可能可以不显性标识

《互联网信息服务深度合成管理规定》第二条明确“法律、行政法规另有规定的,依照其规定”,其他法律、条例有规定的,也可以不标识。

2、用户主动请求

用户申请服务提供者提供没有添加显式标识的生成合成内容的,服务提供者可以在通过用户协议明确用户的标识义务和使用责任后,提供不含显式标识的生成合成内容,并依法留存提供对象信息等相关日志不少于六个月。

《人工智能生成合成内容标识办法》第九条

经过用户主动请求提供无水印版本,通过用户协议明确权责后,可以把显性标识删了,但隐形标识得留着


并且相关的日志得留着,这就体现了AI服务进行强实名制的重要性,出了事得能找到。


(三)平台、用户责任

1、社交平台识别责任
(1)主动检测隐水印,如检测到隐水印,平台显著提示;

(2)用户主动声明的,平台显著提示;

(3)无隐水印,未声明,检测到显性水印或生成痕迹的,提示疑似AI生成;

(4)发布时提供选项,让用户主动声明。公众号就有啦。
2、应用商店责任
如果有AI服务的APP,应用商店在上架时,除了大模型上线备案/登记号、算法备案号,还要检查标识能力是否符合。

3、AI服务提供者责任
提供符合要求的标识功能,在用户协议里面写清楚,出事了要配合倒查。

4、用户责任

发布AI生成物的,用户应主动声明并标识。


任何人不得删除标识,不得未删除标识提供工具,也不能恶意利用水印。

三、《标准》-标识落地


(一)显性标识


1、文字
2、图片/视频
3、音频
4、交互界面

(二)隐形标识

1、图片
2、音频
3、视频
4、数字签名防篡改
应该是留着看有没有被篡改的,如果隐标识被篡改了,这个签名就对不上。我猜有点像哈希。

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/180021
 
19 次点击