專家:AI技術發展或引發中美災難性衝突

0
Visitors look at an AI (artificial intelligence) security software program on a screen at the 14th China International Exhibition on Public Safety and Security at the China International Exhibition Center in Beijing on October 24, 2018. (Photo by NICOLAS ASFOURI / AFP) (Photo by NICOLAS ASFOURI/AFP via Getty Images)

他擔心,非國家行為者或其它第三方行為者,可能利用這項關鍵的新興技術,對付核武大國,可能會妨礙它們的軍事行動,或讓它們在不知情之中,捲入一場核衝突。

約翰遜說:“理論上,非國家行為者可使用AI增益網絡武器,攻擊核指揮和控制系統、預警衛星和雷達,而不需要任何行動或物理攻擊,更不需要擁有核武器。”

約翰遜說,AI技術可大幅降低“假旗攻擊”(false flag attacks,即栽贓或嫁禍行動)的門檻,讓資源有限的小團體實施旨在誤導國家的攻擊。

例如,黑客組織可欺騙美中領導人及其系統,使他們相信遭受到核攻擊,從而引發報復,使一個國家攻擊另一個國家。

黑客組織可欺騙美中領導人及其系統,使他們相信遭受到核攻擊,從而引發真正的核戰爭。此圖為示意圖,與本文無關。(NICOLAS ASFOURI/AFP via Getty Images)

約翰遜說,機器決策速度“大幅增長”,超越了人類的理解,加上廣泛採用AI系統,可能進一步失去控制或遏制此類事件的能力。

約翰遜說:“想象一下,如果古巴導彈危機從13天縮短到幾小時、幾分鐘,甚至幾納秒(nanoseconds)。”

約翰遜表示,中國、俄羅斯和美國都將部分核力量,保持在“預警發射”(launch-on-warning)狀態。這意味着,這些國家在接收核攻擊警報後,將立即發動報復性核打擊,而非等待爆炸,確定攻擊確實發生了。

因此,如果一群黑客啟動了這些國家的核警報系統,很可能引發真正的核打擊。

約翰遜說,採用這種策略的第三方,“可能將兩個或更多擁有核武器的對手,推向戰爭的邊緣”,並將在未來幾年內成為一股破壞穩定的力量。

“這正迅速變成一種可能發生的局面。”約翰遜說。

約翰遜還解釋說,表面上與核預警系統無關的行動,仍可能造成破壞。

他說,深偽視頻(deepfake videos)和其他誤導國家領導層的假信息,可能會持續增加,並帶來同樣的後果。

在兩個核武國家發生危機時,可能出現信息干擾,加上決策時間被壓縮,可能會導致最壞的情況發生。

約翰遜說:“這類信息行動的後果,很可能是災難性的。”

他表示,隨着新技術的出現與應用,人為錯誤和機器錯誤相互影響,可能形成不確定的意外結果。

約翰遜說:“簡而言之,人類判斷與控制的專斷性,加上目前機器算法的脆弱性,或缺乏常識性,破壞穩定的事故與錯誤警報的風險將上升。”

為了防止災難發生,約翰遜說,各國現在就該做出行動,積極防止這種攻擊和誤判。他建議,必須改進指揮和控制系統,為核協議增加多餘步驟,並在盟國和對手之間,制定使用AI的新規範。

約翰遜說:“在悲劇發生前,現在就是積極干預的時候。”