专家:AI技术发展或引发中美灾难性冲突

0
Visitors look at an AI (artificial intelligence) security software program on a screen at the 14th China International Exhibition on Public Safety and Security at the China International Exhibition Center in Beijing on October 24, 2018. (Photo by NICOLAS ASFOURI / AFP) (Photo by NICOLAS ASFOURI/AFP via Getty Images)

他担心,非国家行为者或其它第三方行为者,可能利用这项关键的新兴技术,对付核武大国,可能会妨碍它们的军事行动,或让它们在不知情之中,卷入一场核冲突。

约翰逊说:“理论上,非国家行为者可使用AI增益网络武器,攻击核指挥和控制系统、预警卫星和雷达,而不需要任何行动或物理攻击,更不需要拥有核武器。”

约翰逊说,AI技术可大幅降低“假旗攻击”(false flag attacks,即栽赃或嫁祸行动)的门槛,让资源有限的小团体实施旨在误导国家的攻击。

例如,黑客组织可欺骗美中领导人及其系统,使他们相信遭受到核攻击,从而引发报复,使一个国家攻击另一个国家。

黑客组织可欺骗美中领导人及其系统,使他们相信遭受到核攻击,从而引发真正的核战争。此图为示意图,与本文无关。(NICOLAS ASFOURI/AFP via Getty Images)

约翰逊说,机器决策速度“大幅增长”,超越了人类的理解,加上广泛采用AI系统,可能进一步失去控制或遏制此类事件的能力。

约翰逊说:“想象一下,如果古巴导弹危机从13天缩短到几小时、几分钟,甚至几纳秒(nanoseconds)。”

约翰逊表示,中国、俄罗斯和美国都将部分核力量,保持在“预警发射”(launch-on-warning)状态。这意味着,这些国家在接收核攻击警报后,将立即发动报复性核打击,而非等待爆炸,确定攻击确实发生了。

因此,如果一群黑客启动了这些国家的核警报系统,很可能引发真正的核打击。

约翰逊说,采用这种策略的第三方,“可能将两个或更多拥有核武器的对手,推向战争的边缘”,并将在未来几年内成为一股破坏稳定的力量。

“这正迅速变成一种可能发生的局面。”约翰逊说。

约翰逊还解释说,表面上与核预警系统无关的行动,仍可能造成破坏。

他说,深伪视频(deepfake videos)和其他误导国家领导层的假信息,可能会持续增加,并带来同样的后果。

在两个核武国家发生危机时,可能出现信息干扰,加上决策时间被压缩,可能会导致最坏的情况发生。

约翰逊说:“这类信息行动的后果,很可能是灾难性的。”

他表示,随着新技术的出现与应用,人为错误和机器错误相互影响,可能形成不确定的意外结果。

约翰逊说:“简而言之,人类判断与控制的专断性,加上目前机器算法的脆弱性,或缺乏常识性,破坏稳定的事故与错误警报的风险将上升。”

为了防止灾难发生,约翰逊说,各国现在就该做出行动,积极防止这种攻击和误判。他建议,必须改进指挥和控制系统,为核协议增加多余步骤,并在盟国和对手之间,制定使用AI的新规范。

约翰逊说:“在悲剧发生前,现在就是积极干预的时候。”