一、为什么要做大模型上线登记?
对通过API接口或其他方式直接调用已备案大模型能力,且面向境内公众提供具有舆论属性或者社会动员能力的生成式人工智能服务开展登记工作。
二、 我应该做大模型备案还是上线登记?
1.“大模型备案”主要面向具有舆论属性或社会动员能力的模型,适用于自主研发的模型,或虽调用了已完成备案的第三方基础大模型,但经过再训练、微调形成的派生模型。此类模型因可能对公共舆论产生影响,监管审核要求较高,需全面报送模型基本信息、研制流程、服务场景、技术原理、安全防范机制等相关材料,接受严格的合规审查。
2.“大模型登记”则适用于未进行微调或再训练的应用,仅在服务中调用已备案的大模型接口能力的情况。登记流程相对简化,监管重点在于确认是否直接依赖于已备案模型的能力,且未对原模型进行新增语料训练或二次开发。
3.总结:若企业仅基于第三方已备案大模型的API接口进行业务开发,无需改动模型本体,仅需按要求完成登记;但如涉及模型微调、训练或其他形式的再开发,则必须按照完整流程提交备案材料,并接受相关监管审核。
三、登记流程与材料
大模型登记的整个流程一般需要2-5个月,比备案的6-8个月要稍快一些。登记目前只经过属地网信办审核,不需要经过最高等级的网信办终审,这也是效率较高的原因之一。
上线登记所需的核心材料包括:
1.上线登记表
2.调用第三方大模型api的的证明
3.产品服务协议
4.模型安全制度
5.拦截关键词库
6.评估测试题
7.测试账号及API接口文档
四、如何判断是否需要做大模型上线登记?
在此,我给大家做一个图,大家可以根据流程图进行判断,如果想更清晰搞懂,可以联系一下我们:
五、怎样选择靠谱的服务商?
到了这一步也是许多企业的一个很头痛的地方,市面上有许多机构都自称可以帮企业做这个项目,但是可能只要一番沟通下来,发现每家情况都是参差不齐,有些自称帮十几家、几十家公司做过大模型上线登记、大模型备案等或着某某公司就是自己的合作案例类似的话术,但实际可能连流程都没能搞明白的中介机构,回答上线登记的细节问题时更是含糊其辞,无法给出一个准确的答案,但报价确是虚高非常多。遇到这些类似情况,欢迎大家与我们沟通。
六、为什么需要委托技术型的第三方服务商?
我们也可以简单的向大家说一下,因为《生成式人工智能服务暂行管理办法》始于2023年07月13日,至今也就两年多一点,存在很多未完善的地方导致整个审批工作非常缓慢,很多企业卡在申报流程之中已经痛苦不堪,在过程中还需要经历多次申请被退回的情形,对模型安全工作甚至不知道把控到哪个程度、无法从业务与合规之间取得平衡、或者是过度依赖其中某些安全手段导致运营成本剧增但是放松管控又怕惹上合规风险....企业在这其中摸索所产生的,所耗费的精力、人力、物力远远大于委托第三方技术服务商的成本。
总结:以上内容是本人实战全国十余省份的大模型备案(曾拿下多省的第一个大模型备案)、大模型上线登记、互联网算法备案所总结的经验之中的一个小小的分享。
欢迎大家一起交流大模型合规!wacyltd