根据《生成式人工智能服务管理暂行办法》及相关政策规定,需要办理算法备案的企业主要是提供具有舆论属性或社会动员能力的生成式人工智能服务的组织或个人。具体可从以下几个方面理解:
- 生成式人工智能服务:指利用算法、模型、规则生成文本、图片、音频、视频等内容的技术服务,包括通过 API 接口或其他方式提供服务的主体。例如,聊天机器人、图像生成工具、虚拟主播等均属于此类。
- 舆论属性或社会动员能力:
- 舆论属性:指服务可能影响公众意见、情绪或价值观,如新闻平台、社交媒体、论坛等。
- 社会动员能力:指服务可能引发公众集体行动或参与特定活动,如投票、抗议、商业推广等。
直接面向公众的服务提供者:
- 互联网公司:如阿里、百度、网易等,其开发的智能客服、内容生成工具等需备案。
- 内容平台:如抖音、快手、哔哩哔哩等短视频平台,涉及生成式 AI 特效或推荐算法。
- 金融机构:如东方财富,其智能对话系统、虚拟主播等需备案。
- 教育机构:如使用 AI 生成教学内容或互动工具的平台。
- 其他行业:如医疗、法律、电商等领域的生成式 AI 应用,如智能诊断助手、合同生成工具等。
技术支持者:
- 为上述服务提供者提供 API 接口、算法模型或技术支持的企业,即使不直接面向用户,也需备案。例如,为企业端客户提供语音合成技术的供应商。
跨境服务提供者:
- 境外企业向境内公众提供生成式 AI 服务,需通过属地网信部门履行备案程序。例如,通过 API 调用境外模型的境内应用需进行登记。
非公开服务:
- 企业自用的生成式 AI 系统,若仅用于内部流程优化(如数据分析、员工培训)且不向公众提供服务,无需备案。
- 例如,某企业内部使用的文档生成工具,仅在企业局域网内运行,不涉及对外服务。
无舆论或社会动员能力的服务:
- 若服务不涉及公众意见表达或集体行动,如纯工具类应用(如数学计算、天气查询),无需备案。
备案范围:
- 具有舆论属性或社会动员能力的生成式 AI 服务,包括通过 API 接口调用已备案模型的应用或功能(需进行登记)。
材料提交:
- 需提交算法技术文档、安全自评估报告、服务协议、语料标注规则等材料。
审核与公示:
- 属地网信部门初审后,报国家网信办终审,通过后公示备案信息。
- 已上线的应用需在显著位置标注备案编号及公示链接。
时间节点:
- 服务上线后 10 个工作日内完成备案;变更或终止服务需在 10 个或 20 个工作日内更新备案信息。
未履行备案义务的企业可能面临警告、罚款、暂停服务等处罚,情节严重者将依法追究刑事责任。例如,未备案的生成式 AI 应用可能被应用商店下架。
截至 2025 年 5 月,全国已有数百款生成式 AI 服务完成备案,涉及互联网、金融、教育等多个行业。备案流程持续优化,部分地区(如湖南)已实现 “即报即审、审过即发”,备案周期压缩至 60 个工作日以内。