企业为什么要履行算法备案?

合规义务

算法备案的全称为互联网信息服务算法备案。目前,人工智能AI风口到来国家加强监管措施就是引导算法应用公平公正、透明可释,充分保障网民合法权益,综合治理着眼于管理好使用好发展好算法应用。

自2022年3月起施行,若未办理备案,随时面临网站APP程序产品下架和行政处罚的风险,并可能无法更新应用市场上架产品,也无法发布新产品。

合规义务

上线

建立健全管理制度和技术措施
建立健全用于识别违规信息的特征库
保持算法透明度
特定类型算法技术履行备案及安全评估义务

运行

保持算法透明度
加强用户模型和标签管理
个人信息主体权益保护
保障老年人、未成年人等特殊群体权益
保证新闻信息安全

优化

定期审核、评估验证算法机制机理、模型、数据和应用结果等
确保配备专业人员和技术支撑
特定情形下重新进行安全评估并提交相关主管部门

算法备案义务


算法备案义务

算法类型区分?


算法类型区分?

算法推荐服务

生成合成类

利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。
如,游戏合成、AI换脸、图像视频剪辑合成

个性化推送类

通过收集用户兴趣、喜好、习惯等数据,形成用户画像,并向用户进行精准推送和个性化营销。现阶段个性化推荐算法的应用场景主要包括个性化内容推荐与个性化价格推荐。
如,广告和信息推送、商家推荐、社交媒体、电商场景、搜索平台、新闻资讯平台、短视频平台、电子商务平台、搜索引擎平台

排序精选类

根据用户的兴趣、偏好、行为等特征,以客观因素或主观因素为依据,设置、调整网络信息内容排列顺序的算法
如,操纵榜单、广告推荐排序、社交媒体、电商场景、搜索平台

检索过滤类

检索过滤类算法是指基于用户需求或法律要求,从可行的决策(推荐)方案中检索或过滤出合适的推荐结果。
如,敏感词过滤、搜索引擎、信息屏蔽、社交媒体、电商场景、搜索平台

调度决策类

自动或辅助生成供需匹配、供需调节、路径规划等调度决策结果,或提供调度决策依据。该类算法可以在资源有限但有多个进程同时发出请求的情况下,决定合适的资源使用者。
如,外卖订单派送、资源调度、网约车

备案时间要求&流程



填报内容&申报材料

填报内容(三部分):

算法服务法人主体信息
算法原理、流程图等信息
产品及功能的载体信息

申报材料(四份文件):

《算法备案承诺书》
《落实算法安全主体责任基本情况》
《算法安全自评估报告》
《拟公示内容》

违法成本

《互联网信息服务算法推荐管理规定》
第三十一条、第三十二条、第三十三条
《互联网信息服务深度合成管理规定》
第二十四条
《生成式人工智能服务管理暂行办法》
第二十一条

“法律、行政法规有规定的,依照其规定;法律、行政法规没有规定的,由网信部门和电信、公安、市场监管等有关部门依据职责给予警告、通报批评,责令限期改正;拒不改正或者情节严重的,责令暂停信息更新,并处一万元以上十万元以下罚款。构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。”

“提供者违反本办法规定的,由有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚;法律、行政法规没有规定的,由有关主管部门依据职责予以警告、通报批评,责令限期改正;拒不改正或者情节严重的,责令暂停提供相关服务。”