來自全球的350位人工智能專家聯(lián)合發(fā)表公開信，對人工智能技術(shù)可能帶來的滅絕人類風(fēng)險發(fā)出嚴(yán)厲警告。這封聯(lián)署信強調(diào)了人工智能應(yīng)用軟件開發(fā)的快速發(fā)展，雖然推動了社會進步，但也帶來前所未有的潛在威脅。

專家們指出，隨著AI系統(tǒng)能力的不斷增強，它們可能在決策、軍事應(yīng)用、網(wǎng)絡(luò)安全等領(lǐng)域超越人類控制。例如，自主武器系統(tǒng)可能被誤用或濫用，導(dǎo)致大規(guī)模沖突；而高度智能的AI若與惡意目標(biāo)結(jié)合，可能引發(fā)全球性災(zāi)難。AI的不可預(yù)測性和“黑箱”特性，使得人類難以完全理解其決策邏輯，從而增加了失控風(fēng)險。

在應(yīng)用軟件開發(fā)方面，專家呼吁加強國際合作和監(jiān)管框架，確保AI技術(shù)的發(fā)展符合倫理準(zhǔn)則。他們建議采取預(yù)防性措施，如設(shè)置安全閾值、進行風(fēng)險評估和建立應(yīng)急機制，以防止AI系統(tǒng)對人類生存構(gòu)成威脅。公眾教育也至關(guān)重要，以提高對AI潛在風(fēng)險的認(rèn)識。

盡管AI在醫(yī)療、交通和環(huán)保等領(lǐng)域帶來了巨大好處，但專家們強調(diào)，必須平衡創(chuàng)新與安全。他們敦促政府、企業(yè)和研究機構(gòu)共同努力，推動負(fù)責(zé)任的人工智能開發(fā)，確保技術(shù)服務(wù)于人類福祉，而非成為滅絕的導(dǎo)火索。