新民环球2023年终盘点11 人工智能：安全隐患暴露，国际治理亟待加强

　　2023年毫无疑问是生成式人工智能技术的爆发之年，ChatGPT、Gemin等生成式人工智能应用层出不穷，令人眼花缭乱。相关技术不仅可以高效完成大量简单重复的工作，而且可以部分取代具有一定专业门槛的工作，如撰写法律文书、出具医疗诊断报告，甚至进行文艺创作等。

图说：2023年7月6日，2023世界人工智能大会在上海世博中心拉开帷幕 图源：新华社

　　展望2024年，生成式人工智能技术的发展仍将得到各界广泛关注。尤其是多模态生成式人工智能的突破，将通过文本、图像、音频、视频等多种媒介数据的融合，实现跨模态的生成和交互。一个能够善解人意、读懂人心的人工智能，或许将在生活和工作的方方面面给人以更加丰富多样的交互体验。

　　除了生成式人工智能以外，由人工智能驱动的科学研究即科学智能，也是未来人工智能技术应用的“核爆点”之一。

　　早在2020年，谷歌旗下DeepMind公司研发的AlphaFold 2.0就成功预测了蛋白质的三维结构，为快速筛选新药物靶标提供了强大的技术支撑。目前，人工智能技术给生物医药研究和相关产业发展带来了颠覆性的影响，并已经在小分子制药、CAR-T疗法、mRNA疫苗等领域产生较为显著的经济和社会价值。

　　科学智能还将继续在气候科学、天体物理学、神经科学等各个领域，跨越多个维度和尺度，推动科学研究范式变革，实现科技原始创新，人类对世界和自我的认识也可能随之改变。

　　与此同时，人工智能技术的双刃剑效应也越发凸显。

　　一方面，人工智能技术面临“训练数据投毒”“提示词攻击”等风险敞口，在稳健性、可解释性、公平性等根本性问题上面临巨大挑战，导致人们对人工智能能否与人类价值对齐以及是否会失去控制感到担忧。另一方面，不法分子已经开始利用人工智能技术作恶。在生成式人工智能帮助下，黑客获得高级网络武器的门槛进一步降低，网络钓鱼的手法变得防不胜防，深度伪造技术变声、换脸的网络诈骗犯罪持续高发。更危险的是，在大模型帮助下，恐怖分子或许能够更加高效地找到毒性更强的生化武器配方，大规模杀伤性武器扩散和恐袭的风险上升。

　　为了更好地平衡发展与安全，加强对人工智能伦理和应用的监管，包括中国、美国和欧盟在内的世界主要国家都在今年通过了人工智能相关立法或监管政策文件，以保护民众和国家的利益不受侵害。联合国、二十国集团、金砖国家等重大国际治理机制也都围绕人工智能如何实现“以人为本”“智能向善”进行了密切的交流和磋商，人工智能的国际治理规则将成为各方聚焦的重点。

　　作者：江天骄 复旦大学发展研究院金砖国家研究中心副主任

　　‍