《生成式人工智能服务管理暂行办法》
《生成式人工智能服务管理暂行办法》(以下称《办法》),由国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局七部门于2023年7月13日联合公布,自今(2023年8月15日)起施行。
NEWS
”
《办法》出台因何背景?
近期,ChatGPT这一现象级的产品“腾空出世”,在国内外掀起了一场大语言模型产业和生成式人工智能产业的热潮。然而,热潮背后,通过生成式人工智能伪造内容导致的诈骗事件也屡有发生。“AI诈骗成功率接近100%”的话题甚至一度冲上热搜,利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为引起社会关注。
由此可见,生成式人工智能技术快速发展,为经济社会发展带来新机遇的同时,也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题,如何统筹生成式人工智能发展和安全成为亟待解决的问题。
据国家网信办有关负责人介绍,出台《办法》,既是促进生成式人工智能健康发展的重要要求,也是防范生成式人工智能服务风险的现实需要。
《办法》提出哪些要求? 《办法》旨在促进生成式人工智能健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。《办法》根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规制定。 专家如何解读《办法》? 奇安信集团副总裁张卓: 作为今年最热门的新技术,生成式人工智能给社会生产生活带来了很多便利,但也给数据安全、隐私保护带来更加复杂的风险和挑战。《办法》从数据服务和使用环节形成了监管闭环,避免了安全盲区。 《办法》在第三章‘服务规范’第九条中指出,提供者应当依法承担网络信息内容生产者责任,履行网络信息安全义务。涉及个人信息的,依法承担个人信息处理者责任,履行个人信息保护义务。第十一条指出,提供者对使用者的输入信息和使用记录应当依法履行保护义务,不得收集非必要个人信息。第十二条提出,提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。所有这些措施,都充分考虑到了生成式人工智能的使用服务场景,尤其是面向公众的场景。 北京智源人工智能研究院院长、北京大学计算机学院教授黄铁军: 今年上半年以来,世界各国出台了一系列政策,最新的政策就是我国发布的《生成式人工智能服务管理暂行办法》,我觉得这是相辅相成的。人工智能的发展和人工智能风险的管控要同时重视,我们才可能迎来光明的未来。 《办法》之后如何展望? 对于国内软件厂商而言,围绕在大模型研发应用全产业链将有不少的机会。例如上游围绕生产环节,包含数据采集、数据清洗和标注、数据存储等;中游围绕加工环节,从数据中提取有用的信息和知识,训练构建模型;下游则围绕应用,根据客户的需求提供具体行业或场景解决方案。 中国科学院软件研究所研究员杨晨认为,数据已成为国家重要战略和持续创新的推动力,也是国家战略安全的主战场。当前国内的数据安全合规体系正逐步完善,数据安全技术创新应用在持续加强,并在探索数据安全合规保障体系实践。 东莞证券指出,在数据风险敞口扩大、政策合规需求以及数据要素市场加快发展等因素推动下,数据安全赛道长坡厚雪,国家政策明确2025年数据安全产业规模超过1500亿元,年复合增长率超过30%。 今年以来,受益于信创、人工智能走强,数据安全板块个股涨幅较大。截至最新,数据安全概念板块年内大涨34.46%,其中万兴科技、久远银海、新国都、浪潮信息股价翻倍。目前,23只数据安全股公布了半年报或业绩预告,其中7股业绩预增或增长,3股扭亏,整体报喜率44%。 数据宝统计,根据3家及以上机构预测,安博通、新国都、绿盟科技等个股机构一致预测今明两年净利增速均超30%。8月以来,北上资金净买入新国都、安恒信息、太极股份、中国软件、四维图新、超图软件、迪普科技、天融信、中国软件9股超千万,加仓高增长概念股迹象凸显。
上一篇:AI出手能否掀起天气预报变革?
下一篇:地方电网公司新增一家!