推动人工智能技术赋能社会(科技视角)

　　本报记者 刘诗瑶 喻思南

　　近年来，人工智能大模型技术的出现掀起了新一代人工智能发展的研究热潮，也为各行各业应用人工智能带来了新的发展机遇。

　　未来人工智能的可能性是什么？如何应对？记者采访了相关专家。

　　人工智能研究正从以往的学术牵引转变为需求牵引

　　人工智能作为新一轮科技革命和产业变革的重要驱动力，被普遍认为会对经济社会发展产生深远影响。

　　近年来，人工智能研究正从以往的学术牵引向需求牵引转变，人工智能的发展目标正在发生巨大变化。

　　浙江大学人工智能研究所所长吴飞认为，人工智能正从原来的“用计算机模拟人类智能”向三个方向发展：“机器 人”(机器与人结合成增强的混合智能系统)，“机器 人 网络(将机器、人、网络组合成新的群体智能系统)，“机器 人 网络 物”(更复杂的智能系统，如机器、人、网络和物相结合的智能城市)。在“赋能社会”的应用驱动下，一系列智能技术蓬勃发展。

　　北京邮电大学人工智能学院人机交互与认知工程实验室主任刘伟介绍，这三种人工智能的发展趋势反映了人机环境系统的发展路径，从使用数学模型建立机器智能，借助统计概率实现机器学习，再到试图通过迁移方式实现上下文感知。“只有具备对环境的感知、理解和交互能力，才能算是真正意义上的通用人工智能。刘伟说：“具备对环境的感知、理解和交互能力，才是真正意义上的通用人工智能。”。

　　2017年国务院发布的《新一代人工智能发展规划》明确了跨媒体智能、群体智能、混合增强智能等多种人工智能技术形式。

　　例如，吴飞不能由医生或机器人独立完成手术机器人参与的外科手术，表现出人机协作混合增强智能的特点。“更多的垂直行业也在加快相关的人机交互探索，要么将人的功能引入智能系统，要么将受生物启发的智能计算模型引入人工智能系统。通过不断的互动和学习，人机达到了不断提高智力水平的目的。”吴飞说。

　　通过技术和法律手段规避人工智能风险

　　人工智能造福人类，也存在潜在风险。

　　“人工智能的风险主要存在于恶意使用人工智能和错误使用人工智能；软件漏洞和硬件故障导致人工智能故障；第三，环境变化导致人工智能失控。”刘伟说。

　　人工智能使用不当的风险引起了人们的关注。例如，人工智能技术可以收集和分析大量的数据，可能导致个人隐私泄露、数据泄露和网络攻击；人工智能技术可以生成虚假的照片和视频，鼓励网络欺诈和其他非法行为。以人工智能为主题的科幻电影描绘的先进场景也让人们思考人工智能技术可能带来的伦理问题。例如，未来人类如何与具有“智能”的机器相处？

　　在吴飞看来，人类始终是人工智能高度、广度和深度的总开关和决策者，也是人与人造物的协调者。因此，一方面，我们不能简单地将人工智能等同于人脑，盲目地相信“人工智能取代人类”的观点，另一方面，我们也应该善于利用人工智能作为人类帮助，在人机协作中创造更美好的未来。

　　专家认为，人工智能相关风险可以通过技术和法律手段避免，人类也有能力找到有效的解决风险的手段。

　　中国一直是人工智能治理的积极倡导者和实践者。2021年9月，国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》2023年10月，中国在第三届“一带一路”国际合作高峰论坛期间发布了《全球人工智能治理倡议》，系统阐述了中国人工智能治理方案，围绕人工智能的发展、安全和治理，充分体现了中国处理人工智能治理问题的大国责任。

　　建立良好的生态系统支持人工智能赋能社会

　　近年来，越来越多的国家将人工智能的发展置于国家战略水平，并在顶层设计中增加了防止人工智能技术垄断和技术无序扩张的概念。

　　如何防止人工智能技术的滥用？

　　受访专家表示，应建立多学科、多领域的合作，鼓励科学家、工程师和公众广泛参与，共同探讨人工智能的发展方向、应用领域和道德伦理。全世界要共同努力，坚持发展与安全并重的原则，确保人工智能技术的发展符合人类的整体利益。

　　刘伟表示，从技术手段的角度来看，为了提高人工智能的公平性、可信度、解释性和透明度、安全性，研发主体应从顶层设计、过程控制、工程结束等整个过程中保持人机环境系统的设计理念。

　　瑞来智能首席执行官田天认为，要扎实解决人工智能基础理论问题，提高人工智能的内在安全性能；锻造和储备新一代人工智能的安全评估能力，掌握评估其准确性、效率、内容安全性、抗攻击能力等维度的方法和手段。与此同时，还要着力研发提供必要的安全工具，如提供深度伪造检测工具，帮助公众识别信息的真实性，防止网络欺诈等。

　　数据和算法安全是人工智能安全的核心。专家表示，要重视高质量语料的建设，通过精标数据和反馈数据进行优化培训，最终实现模型输出的选择。

　　吴飞认为，促进人工智能技术赋能社会需要良好生态系统的整体支持，而不仅仅是技术研发本身。要把握人工智能技术属性与社会属性高度融合的特点，加强前瞻性预防和约束性指导。“一个良好的生态系统可以有机地连接伦理和道德、技术和产业、资本和市场。在这样一个生态系统中，每个来自不同领域的人工智能参与者都可以从中受益。”吴飞说。