从“系好安全带”到“以人为本”，2026年乌镇峰会聚焦AI安全

　　【“乌镇网事·光明观察”系列⑨】

　　当人工智能以惊人速度重塑世界，一个根本性问题摆在人类面前：技术越强大，安全底线该如何守？11月3日，2026年世界互联网大会乌镇峰会在浙江乌镇开幕。开幕式及主论坛上，中外嘉宾围绕人工智能安全话题展开层层深入的对话，这场思想碰撞传递出清晰信号：AI跑得越快，越要系好“安全带”。

　　当前，人工智能为可持续发展开辟新路径。然而，技术进步的“双刃剑”属性日益凸显。开幕式上，联合国主管经济和社会事务副秘书长李军华提出，需要建立强有力的多利益攸关方互联网治理机制，以打造安全可靠的全球数字生态系统。“倡导负责任的创新，切实保护弱势用户、保障信息完整性并维护人权。”

　　“人工智能正在以惊人的速度发展，但仍然面临着重大挑战。”全球移动通信系统协会董事长洪曜庄致辞时进一步指出，随着各国经济日益数字化，人工智能正在创造非凡的机遇，但同时也为诈骗分子提供了先进的工具。

　　过去一年，全球人工智能发展步伐加速，AI使用场景不断丰富，向工业制造、医疗健康、公共服务、企业办公、科技研发等领域延伸，AI需求持续攀升，算力供不应求。

　　阿里巴巴集团联合创始人、董事会主席蔡崇信一针见血：“只有开源才能普及，只有普及才能创造可持续、普惠的时代智能。”

　　然而，开源与安全如何平衡？这成为嘉宾热议的焦点。

　　加纳科网董事长、互联网名人堂入选者尼·奎诺表示，开放并不意味着所有内容都必须公开。“隐私、安全以及合法保密需求，有时也需要设置相应限制。但这类限制必须具备正当理由、适度且透明。”面对复杂多样的风险挑战，他呼吁坚持科技向善、确保安全可控。

　　新技术的发展，不断拓展着安全的内涵外延。当前，人工智能等技术带来的安全冲击、伦理挑战、算法歧视、隐私泄露等风险不容忽视。

　　如何在加速创新中共守安全底线？中兴通讯股份有限公司董事长方榕给出实践方案：“AI跑得越快，越要系好‘安全带’。”她表示，当AI深入真实业务，中兴通讯的做法是建立全生命周期治理体系，把安全治理嵌入产品全流程。“通过持续加强数据安全、网络防护、AI伦理治理，依托可信计算、联邦学习等技术，在释放数据价值的同时，守住安全底线。”

　　作为2019年乔纳森·波斯塔尔奖获得者、2026年世界互联网大会杰出贡献奖获奖者，阿兰·艾纳建议对科研、算力基础设施和优质数据加大投入，同时制定政策以推动智能系统安全、负责任地发展。

　　在主论坛“人工智能乌镇对话”环节，领军科技企业、知名开源大模型负责人同台对话，分享人工智能安全真知灼见。

　　“我觉得在开源领域安全是非常重要的一个问题，开源的服务商必须要克服这个问题。”国际人工智能治理协会主席约翰·希金斯说。

　　深度求索（DeepSeek）研究工程师高熙在谈到开源带来的安全问题时表示，不开源同样存在这些问题。文本生成、图像生成等AI模型，无论通过API还是开源，都有安全风险；恶意可能来自人，也可能来自AI，无法避免。

　　回到开源问题，高熙认为，开源可能扩大AI及综合安全问题。“目前同事正通过模型分析、限制开源模型部分能力等方式，解决这些因开源引入的安全问题。”

　　阿里巴巴ATH事业群千问大语言模型项目负责人刘大一恒对此赞同。在他看来，开源模型相比闭源模型确实存在一些额外的安全问题：一是开源具有不可撤回性，一旦传播，出现问题不像闭源模型可随时修复；二是开源模型缺少外部防护网，安全依赖内生能力，第三方开发者可能绕开安全护栏；三是开源加速AI扩散，模型治理则要确保技术更负责任地释放，二者相辅相成，助力更快、更安全地迈向AGI。

　　“单靠限制模型开放难以根本解决问题，还需从模型之外，通过法律法规、技术规范等加以缓解。”刘大一恒认为。

　　从治理到解决安全，从技术护栏到法律法规——乌镇峰会上的这场对话，层层剥开AI安全的复杂命题，最终汇聚成一个朴素而坚定的共识：人工智能必须可信，而可信的标尺，始终是“以人为本”。

　　（光明网记者 孙满桃）