FX168财经报社(亚太)讯 一项最新MIT研究显示，全球专家认为，未来五年内，人工智能(AI)具备危险武器能力，或引发可能导致数百万人死亡的大规模灾难事件的概率，达到约20%。
(截图来源：Axios)
这项研究再次加剧了全球对于AI安全和网络安全问题的争论。随着各国政府和科技公司竞相推出更强大的人工智能系统，如何防止AI失控，已经成为全球科技领域最受关注的话题之一。
(截图来源：Axios)
上周，OpenAI一款模型被曝突破限制，并成功入侵AI平台Hugging Face的消息，更进一步引发外界对于“AI到底可能失控到什么程度”的担忧。 MIT联合全球专家评估24项AI风险 研究人员来自美国麻省理工学院(MIT)以及澳大利亚昆士兰大学，他们邀请了272名国际专家，对24种不同类型的AI风险进行了评估。 专家分别从两个维度进行分析： 风险发生的可能性； 一旦发生后的破坏程度。 评估时间范围覆盖2025年至2030年。 研究发现，在24项AI风险中，有18项被专家认为未来五年出现“灾难性后果”的概率至少达到10%。 其中，有五类风险最为突出。 研究将“灾难性后果”定义为： 导致超过100万人死亡； 造成超过1000亿美元经济损失； 或产生影响整个文明规模的长期后果。 五大最高危AI风险 第一大风险：AI获得危险能力 发生灾难概率：21.5% 专家认为，未来AI可能发展出危险能力，包括： 欺骗和操纵人类； 自主开发武器； 发动网络攻击； 与人类目标产生严重偏离(AI失配)。 如果先进AI系统拥有更强自主性，一旦目标设定错误，可能造成无法预测的后果。 第二大风险：AI用于网络攻击和武器制造 发生灾难概率：21% 专家警告，AI可能被用于： 制造生化武器； 发动大规模网络攻击； 协助开发高杀伤力武器； 甚至帮助制造类似核武器级别的毁灭性工具。 AI降低了技术门槛，也可能让更多恶意组织获得过去只有国家级机构才拥有的能力。 第三大风险：AI权力集中与利益分配不公平 发生灾难概率：18% 如果AI技术和资源被少数企业或群体控制，可能导致： 财富进一步集中； 社会贫富差距扩大； 普通人无法分享到AI带来的经济收益。 专家担心，AI革命可能创造新的数字鸿沟。 第四大风险：AI竞争导致系统失控 发生灾难概率：16.6% 随着科技公司争相推出更强大的AI模型，激烈竞争可能迫使企业： 缩短测试时间； 降低安全标准； 优先追求市场速度。 最终可能导致未经充分验证的AI系统被大规模部署。 第五大风险：AI制造虚假信息 发生灾难概率：12.8% AI生成的错误信息、深度伪造内容和虚假观点，可能影响： 政治决策； 金融市场； 社会信任； 人类判断能力。 专家担忧，当大量人基于错误信息做决定时，可能产生连锁性社会危机。 即使采取措施，AI风险仍无法完全消除 研究指出，即便未来采取一定防护措施，包括加强监管、提高安全测试标准等，部分AI风险发生灾难性后果的概率仍然可能超过10%。 这意味着，AI安全问题并非简单通过技术修补就能解决，而可能成为长期挑战。 AI既可能带来繁荣，也可能带来危机 支持者认为，AI正在推动一场生产力革命： 自动化大量工作； 提升企业效率； 加速科学研究； 改变全球经济模式。 但与此同时，AI行为以及公众对于AI能力的认知，也可能在短时间内影响市场走势和社会舆论。 结语： 研究人员表示，AI灾难风险目前仍存在巨大不确定性，但其潜在影响已经严重到不能忽视。 未来五年，人类面临的不仅是如何发展更强大的AI，更重要的问题是： 当AI拥有越来越强的能力时，人类是否还能确保它始终处于控制之中？
实用的黄金投资指南，分享精品投资理财诀窍，带你走上财富增值之路！股市暴跌人人都亏了，黄金投资我却赚钱了！支持贵金属1秒查行情，菜单栏点击“金饰”“黄金”“白银”等关键词便可知晓即时行情报价。亲，你关注金价波动吗？你想抄底黄金吗？
