0
Items : 0
Subtotal : ¥0.00
View CartCheck Out

生成式AI迎新规,国家宣布出台相关行业监管政策

本月初,国家互联网信息办公室根据《中华人民共和国网络安全法》等法律法规起草并发布人工智能生成服务管理办法征求意见稿。紧随其后,中国移动通信联合会元宇宙产业工作委员会、中国通信工业协会区块链专业委员会等,共同发布“关于元宇宙生成式人工智能(类ChatGPT)应用的行业提示”。

 

提示内容显示,去年年底,OpenAI发布了NLP(自然语言识别)大模型产品ChatGPT,效果惊艳,一经面世就引起轩然大波。今年第一季度以来,ChatGPT和类似的生成式人工智能应用热度依然不减,但我国政府与相关行业机构已意识到了其中存在的安全性问题,并开始采取应对措施。

在国家互联网信息办公室发布人工智能生成服务管理办法征求意见稿中,概述了我国的首批规则,包括要求数据保护、非歧视和无偏见,以及生成式人工智能产品和服务的训练数据质量,其中不乏拟定了措施管理内容审核、安全评估和算法透明度。

虽然政府在规则草案中表现出支持人工智能发展的基调,但规范的要求也很高。在第4条第一项中,该规则草案规定,所有“向公众提供”的服务都应提供“体现社会主义核心价值观”的内容,并且不应包含虚假信息或任何旨在颠覆,分裂或分裂领土的内容。

ChatGPT是由微软支持的OpenAI开发的AI聊天机器人,尽管其事实准确性参差不齐,但其在许多知识领域的详细响应和清晰的答案引起了人们的关注。

此前曾经报道过,ChatGPT获得极大关注的背后,多个国家因隐私保护等原因,分别下架或禁止ChatGPT及相关应用的使用,例如:意大利曾发布ChatGPT禁令,德国,法国、爱尔兰、西班牙等欧洲国家监管机构也相继下架或进一步考虑对AI聊天机器人采取更严格的监管。

 

反观国内,对于ChatGPT虽然没有正式提供,但国内大厂所谓的竞品、替代品则适时上位,包括百度、阿里巴巴和商汤科技在内的国内公司竞相推出类似于ChatGPT的技术,但在香港大学2月出现借助ChatGPT的作弊案后,国内大学对抄袭保持警惕 ,暂时禁止学生使用 ChatGPT 或任何其他用于课程作业、评估或课程的基于 AI 的工具。

自去年11月至今,AI生成类应用的实际使用经历证明,以ChatGPT为代表的AI生成类应用,确实推动经济、学术和工作模式方面进入一个新的业态,但同时在安全、隐私以及抄袭方面的负面影响,也极具破坏力,适当的监管措施和规则的设立也应当适时的出现,为未来若干年内AI生成类应用的快速发展起到前瞻式干涉,以防范对于此类工具使用所衍生的负面的影响。

从技术上讲,基于AI类研发的工具,其透明度和可解释性可能有限,并且可能存在潜在的偏见。在经济上,它会影响就业、利润分配,并可能导致垄断。在社会上,学术诚信成为一个问题。在政治上,人工智能输出中隐含的价值观和意识形态应该衡量社会影响力。

 

国际数据公司(IDC)预测,2026年我国人工智能投资有望达到266.9亿美元,约占全球人工智能投资的8.9%,仅次于美国位居第二。iiMedia Research报告显示,得益于政策支持、可用于机器学习的大量数据以及市场应用的大量需求,到 2025 年,中国人工智能市场预计将增长两倍,达到 4000 亿元人民币以上。到 2021 年,我国的公司声称已经生产了 21 种大型语言模型,而 2020 年只有两种,与美国相当。

根据 AI 芯片设计公司英伟达的说法,大型语言模型代表了一种深度学习算法,可以根据从海量数据集中获得的知识来识别、总结、翻译、预测和生成文本和其他内容。

在过去的几年里,政府一直在通过引入一系列管理个人数据、深度合成技术和算法透明度的规则来规范新兴行业,旨在监督所有国有数据的安全性,并确保在政府机构之间共享这些数据。

Leave a Reply