(一)互联网信息服务算法推荐管理规定
从算法的维度进行治理,生成合成类可能用了AI,所以要做算法备案。当然,除了生成合成类,还有个性化推荐之类的其他算法也受到规制。
(二)互联网信息深度合成管理规定
之前小模型捏的数字人,还有语音转文字那些也都属于深度合成。同时大模型肯定也必然属于深度合成算法。
这个就是管大模型专门的规则,大模型上线备案、登记的要求,就是从这儿来的。
至于大模型备案具体有哪些要求,要看《生成式人工智能服务安全基本要求》,不过这个一般只有底层大模型厂商才考虑。
(四)人工智能生成合成内容标识办法
《标识办法》细化了上面三个办法的标识要求。配套还有强制性标准。
《标准化法》要求:“强制性标准必须执行”,“不符合强制性标准的产品、服务,不得生产、销售、进口或者提供”。
具体怎么落实往下看吧。
(一)什么情况下要做标识?
《标识办法》提出,按照《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》相关要求开展人工智能生成合成内容标识活动的,应当符合《标识办法》相关要求。这意味着,只有面向境内、公众的AI服务才需要考虑标识。
标识分两种,一种是看得见的显性标识,另一种是看不见的隐性标识。
1、显性标识
《标识办法》要求,服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的,应当按照要求对生成合成内容添加显式标识。
提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识。这么说来,截图也应该包含。等于说,并非所有的AIGC内容都要标识,只有可能“导致公众混淆或误认的”才要考虑显性标识。
2、隐形标识
服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定,在生成合成内容的文件元数据中添加隐式标识。
文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息,用于记录文件来源、属性、用途等信息内容。
发文单位有广电总局,考虑到之前《生成式人工智能服务管理暂行办法》第二条第二款明确“国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的,从其规定”。未来从事电影、电视剧、短剧的创作用到AI的,如果广电总局另有规定的,可能可以不显性标识。《互联网信息服务深度合成管理规定》第二条明确“法律、行政法规另有规定的,依照其规定”,其他法律、条例有规定的,也可以不标识。用户申请服务提供者提供没有添加显式标识的生成合成内容的,服务提供者可以在通过用户协议明确用户的标识义务和使用责任后,提供不含显式标识的生成合成内容,并依法留存提供对象信息等相关日志不少于六个月。
经过用户主动请求提供无水印版本,通过用户协议明确权责后,可以把显性标识删了,但隐形标识得留着。
并且相关的日志得留着,这就体现了AI服务进行强实名制的重要性,出了事得能找到。
(三)平台、用户责任(1)主动检测隐水印,如检测到隐水印,平台显著提示;(3)无隐水印,未声明,检测到显性水印或生成痕迹的,提示疑似AI生成;(4)发布时提供选项,让用户主动声明。公众号就有啦。如果有AI服务的APP,应用商店在上架时,除了大模型上线备案/登记号、算法备案号,还要检查标识能力是否符合。提供符合要求的标识功能,在用户协议里面写清楚,出事了要配合倒查。4、用户责任发布AI生成物的,用户应主动声明并标识。
任何人不得删除标识,不得未删除标识提供工具,也不能恶意利用水印。
(一)显性标识
(二)隐形标识
应该是留着看有没有被篡改的,如果隐标识被篡改了,这个签名就对不上。我猜有点像哈希。