两会话题 ｜ “关不住”的生成式人工智能，要用好也要管好

来源/东方IC

热播电视剧《繁花》里有这样一番话：“黄河路就像一个汽水瓶，你不开它，它不响；但你只要拿扳头轻轻一撬，它马上就喷出来。瓶子开了，关不住了。”不仅是剧中，现实世界里的生成式人工智能（AIGC），在这两年被掀开一角后，就涌现出一股不可逆转的强大力量。

生成式AI并非只是一项技术，更像是一枚石子，投入到人类社会的湖泊中，激起了一圈圈扩散的涟漪，最外围的一圈或许就叫通用人工智能（AGI）。“在刚刚闭幕的达沃斯论坛中，以AI为主题的公开活动几乎占了一半。OpenAI首席执行官萨姆·奥特曼就提到，AGI可能在‘相当近的未来’内被开发出来，达到人类水平的AI即将出现。”上海市人大常委会委员、上海应用技术大学副校长毛祥东介绍。

从ChatGPT爆火后，生成式AI的概念一夜之间成为万众瞩目的焦点。从自然语言处理到图像生成，生成式AI通过学习和理解大量数据，不断突破人类的认知，创造出惊人的智能应用。

毛祥东认为，需要尽快布局通用人工智能的应用场景。调研显示，AGI在养老医疗与教育行业场景需求旺盛。而借助生成式AI，人形机器人也成为未来产业的新赛道。“应发展人形机器人的配套产业链，出台相关产业发展的应用场景开放试点政策，同时还要确保量产人形机器人智能指挥系统的透明化与安全可靠性。”他还提到，空间计算方兴未艾，三维可视化的自然语言人机交互界面和终端在教育领域大有用武之地。

关注生成式AI落地推广的同时，也有代表想为疾驰的生成式AI“系上安全带”。毛祥东指出，生成式AI将带来虚假信息的责任归属、AGI侵权、大模型标准垄断等问题。建议设立通用人工智能、生成式AI安全委员会，定期调研人工智能企业，普及大众对AGI的认知。

市人大代表、上海智多互娱技术有限公司董事长林世春认为，上海是我国人工智能领域发展最领先的区域之一，人工智能产业发展的良好政策环境走在全国前列。去年底国务院印发的《全面对接国际高标准经贸规则推进中国（上海）自由贸易试验区高水平制度型开放总体方案》也提到，在上海自贸试验区，借鉴国际经验，研究建立人工智能技术的伦理道德和治理框架；支持设立人工智能伦理专家咨询机构；制定人工智能伦理规范指南，发布企业人工智能伦理安全治理制度示范案例等。

基于既有产业政策与监管规范，林世春建议：利用人工智能技术加强对AIGC生成内容的审核和安全评估，进行训练数据源管理，引入可追溯、可解释性AI管理工具；此外，AIGC的内容需要标识，AIGC提供者需对生成内容承担相应责任。

新民晚报记者 郜阳