B4：资讯
4月11日，国家互联网信息办公室就《生成式人工智能服务管理办法（征求意见稿）》（简称：《征求意见稿》）公开征求意见，提出“生成式人工智能产品提供服务前需申报安全评估和算法备案。”奇安信集团作为网络安全行业的领军企业，目前已经深入布局生成式人工智能模型安全的各个方面，并且提供丰富的咨询服务，帮助企业评估和应对各种安全风险。
业内普遍认为，近期以ChatGPT为代表的生成式人工智能是最为热门的革命性新技术之一，同样会带来数据安全、隐私风险和算法安全等问题。奇安信安全专家认为，全球范围内发生了多起因使用ChatGPT导致的数据泄露事件，各国逐步开始重视AIGC数据安全风险的监管审核。《征求意见稿》的发布，意味着国家对AIGC的监管治理已经提上日程。具体来看，《征求意见稿》具有以下亮点值得关注：
首先是强调了安全评估和算法备案的前提性和必要性。第六条指出，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
第四条还指出，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。目前，奇安信人工智能研究院基于自身积累海量知识和大数据，在深度伪造、深度鉴伪等技术取得了突破，已经能够准确识别多种前沿AI伪造技术生成的虚假视频，可以成为防止生成式人工智能生成虚假信息的有力武器。
其次是强调提供者需确保数据安全和个人信息保护合规，尤其是隐私保护。（征求意见稿）提出，用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。在数据安全方面，提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。涉及个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形等等。
最后是夯实了违规责任的处罚措施，包含追究刑事责任。其中第二十条指出，提供者违反本办法规定的，由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。其中构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
在全球范围内，各国都在逐步重视对于AIGC的监管力度。除了中国之外，拜登政府已经开始研究是否需要对ChatGPT等人工智能工具实行检查。美国商务部4月11日就相关问责措施正式公开征求意见，包括新人工智能模型在发布前是否应经过认证程序。而意大利、加拿大等国监管机构也先后宣布将关注ChatGPT及其背后公司OpenAI带来的数据安全风险，并将开启监管调查。
奇安信安全专家认为，《生成式人工智能服务管理办法（征求意见稿）》的发布以及全球范围内对于AIGC的监管力度加强，意味着数据安全和隐私保护已经成为AIGC发展的前提和关键。随着AIGC技术的日益成熟和普及，企业应该更加重视数据安全和隐私保护问题，在开展相关业务时积极寻求专业的网络安全技术和咨询服务的支持，确保业务的安全和可靠性。奇安信集团作为网络安全领域的领军企业，在生成式人工智能模型的安全方面布局深入，并提供了丰富的咨询服务，帮助企业评估和应对各种安全风险，确保业务的安全和可靠性。 （丁新伟）