站長(zhǎng)之家(ChinaZ.com) 5月31日消息:OpenAI 首席執(zhí)行官 Sam Altman 等頂級(jí)人工智能領(lǐng)域的高管于周二加入了專(zhuān)家和教授的行列，提出了「人工智能滅絕風(fēng)險(xiǎn)」的問(wèn)題，并敦促政策制定者將其與大流行病和核戰(zhàn)等風(fēng)險(xiǎn)等同對(duì)待。

超過(guò) 350 名簽署者在非營(yíng)利組織人工智能安全中心（CAIS）發(fā)布的一封信中寫(xiě)道：「減輕人工智能滅絕風(fēng)險(xiǎn)應(yīng)當(dāng)與大流行病和核戰(zhàn)等其他社會(huì)規(guī)模的風(fēng)險(xiǎn)一樣成為全球優(yōu)先事項(xiàng)?！?/p>

這份聲明被放在一個(gè)位于舊金山、由私人資助的非營(yíng)利組織「人工智能安全中心」（CAIS）」的網(wǎng)站上，試圖將人工智能風(fēng)險(xiǎn)等同于核災(zāi)難帶來(lái)的生存危害，并呼吁政策制定者將注意力集中在減輕他們聲稱(chēng)的「末日」滅絕級(jí)人工智能風(fēng)險(xiǎn)上。

(資料圖)

這封信的簽署者包括 OpenAI、DeepMind 和 Anthropic 等 AI 公司的 CEO，以及微軟和谷歌等公司的高管。

信中還包括了 Geoffrey Hinton 和 Yoshua Bengio 等兩位被譽(yù)為「人工智能教父」的人物，他們因在深度學(xué)習(xí)領(lǐng)域的貢獻(xiàn)而獲得了 2018 年的圖靈獎(jiǎng)。此外，還有來(lái)自哈佛大學(xué)和清華大學(xué)等機(jī)構(gòu)的教授。

CAIS 的一份聲明特別指出，盡管 Yann LeCun 是「人工智能教父」之一，但他所在的 Meta 公司未在信中簽署。

這封信的發(fā)布正值美歐貿(mào)易和技術(shù)理事會(huì)在瑞典舉行的會(huì)議上，屆時(shí)預(yù)計(jì)政界人士將討論對(duì)人工智能的監(jiān)管問(wèn)題。

埃隆·馬斯克和一群人工智能專(zhuān)家和行業(yè)高管是今年 4 月首次提到人工智能潛在風(fēng)險(xiǎn)的人士。

盡管人工智能的最新發(fā)展為醫(yī)學(xué)診斷和撰寫(xiě)法律備忘錄等應(yīng)用提供了工具，但也引發(fā)了人們對(duì)隱私侵犯、虛假信息傳播以及「智能機(jī)器」自主思考的擔(dān)憂(yōu)。

人工智能先驅(qū) Hinton 曾告訴媒體表示，相比氣候變化，人工智能可能對(duì)人類(lèi)構(gòu)成更加緊迫的威脅。

上周，OpenAI 的 CEO Sam Altman 將歐盟的人工智能（EU AI）稱(chēng)為過(guò)度監(jiān)管，并威脅要離開(kāi)歐洲市場(chǎng)。但在遭到政界人士的批評(píng)后，他在幾天后改變了立場(chǎng)。

（舉報(bào)）