中新網(wǎng)3月30日電 美劇《西部世界》和好萊塢電影《終結者》里曾描繪，人工智能(AI)的“覺(jué)醒”可能危及人類(lèi)。最近，科幻片中的擔憂(yōu)照進(jìn)現實(shí)，有不少人工智能業(yè)界“大佬”突然呼吁暫停開(kāi)發(fā)更強大的AI系統，提出具有人類(lèi)水平智能的AI系統可能“對社會(huì )和人類(lèi)構成潛在風(fēng)險”。

(資料圖)

他們的擔憂(yōu)從何而來(lái)？人工智能開(kāi)發(fā)會(huì )否危及人類(lèi)的“文明控制權”？AI的發(fā)展是否已來(lái)到需要按下“暫停鍵”的轉折點(diǎn)？

一封公開(kāi)信，四問(wèn)AI風(fēng)險

近期，美國億萬(wàn)富翁埃隆·馬斯克和人工智能領(lǐng)域頂尖專(zhuān)家、圖靈獎得主約書(shū)亞·本吉奧(Yoshua Bengio)等人聯(lián)名簽署了一封公開(kāi)信，呼吁暫停開(kāi)發(fā)比GPT-4更強大的AI系統至少6個(gè)月，稱(chēng)其“對社會(huì )和人類(lèi)構成潛在風(fēng)險”。

呼吁暫停巨型AI訓練的公開(kāi)信。圖片來(lái)源：“未來(lái)生命研究所”網(wǎng)站

這封發(fā)布在非營(yíng)利性組織“未來(lái)生命研究所”(Future of Life Institute)網(wǎng)站上的公開(kāi)信主張，在開(kāi)發(fā)強大的AI系統之前，應先確認其帶來(lái)影響是積極的、風(fēng)險是可控的。

信中詳述了具有人類(lèi)水平智能的AI系統可能對社會(huì )和人類(lèi)帶來(lái)極大的風(fēng)險，稱(chēng)“這一點(diǎn)已經(jīng)得到大量研究和頂級AI實(shí)驗室的認同”，并連續拋出四個(gè)疑問(wèn)：

- 我們是否應該讓機器用宣傳和謊言淹沒(méi)我們的信息渠道？

- 我們是否應該讓所有的工作自動(dòng)化，包括那些令人滿(mǎn)意的工作？

- 我們是否應該發(fā)展最終可能在數量上超過(guò)我們、在智能上超越我們、能夠淘汰并取代我們的非人類(lèi)思維？

- 我們應該冒著(zhù)失去對我們文明控制的風(fēng)險嗎？

公開(kāi)信指出，如果不能迅速實(shí)施此類(lèi)暫停，政府應當介入并采取措施。此外，“AI實(shí)驗室和獨立專(zhuān)家應該利用這次暫停，共同開(kāi)發(fā)和實(shí)施一套用于高級AI設計和開(kāi)發(fā)的共享安全協(xié)議，并由獨立的外部專(zhuān)家進(jìn)行嚴格審計和監督”。

信中還呼吁開(kāi)發(fā)人員和政策制定者合作，大幅加快強大的AI治理系統的開(kāi)發(fā)。這其中至少應當涉及監管機構、審計和認證系統、監督和追蹤高性能AI系統、人工智能造成傷害后的責任問(wèn)題、為AI技術(shù)安全研究提供公共資金等方面。

公開(kāi)信在最后提到，如今，我們的社會(huì )已經(jīng)暫停其他可能造成災難性影響的技術(shù)，對于人工智能也應該如此，“讓我們享受一個(gè)漫長(cháng)的‘AI之夏’，而不是毫無(wú)準備地進(jìn)入秋天”。

技術(shù)、倫理、利益，呼吁放慢腳步為哪般？

從這些內容中不難看出，比起技術(shù)，公開(kāi)信的支持者更在意的，是人工智能可能出現的“野蠻生長(cháng)”，以及它的發(fā)展可能帶來(lái)的社會(huì )和倫理難題。

公開(kāi)信中提到，此番暫停并不意味著(zhù)從總體上暫停人工智能的開(kāi)發(fā)，而是從危險競賽中“后退一步”。人工智能的研究和開(kāi)發(fā)應該重新聚焦于使當今強大的、最先進(jìn)的系統變得更加準確、安全、可解釋、透明、穩健、一致、可信且可靠。

紐約大學(xué)教授加里·馬庫斯所人為，“這封信并不完美，但精神是正確的”，他認為，人們需要放慢腳步，直到可以更好地理解這一切帶來(lái)的后果。

目前，該公開(kāi)信已獲上千人簽署，其中不乏開(kāi)源人工智能公司Stability AI首席執行官莫斯塔克(Emad Mostaque)、谷歌母公司Alphabet旗下人工智能企業(yè)DeepMind研究人員、計算機科學(xué)家斯圖亞特·羅素(Stuart Russell)等專(zhuān)家學(xué)者和科技公司高管。

發(fā)布公開(kāi)信的“未來(lái)生命研究所”則主要由馬斯克基金會(huì )、硅谷社區基金會(huì )等資助。特斯拉首席執行官馬斯克正在將人工智能應用于自動(dòng)駕駛系統，他也一直坦率表達自己對人工智能的擔憂(yōu)。

路透社還稱(chēng)，歐洲刑警組織(Europol)日前也表達了對ChatGPT等先進(jìn)人工智能在倫理和法律方面的擔憂(yōu)，警告此類(lèi)系統可能會(huì )被濫用于網(wǎng)絡(luò )釣魚(yú)、虛假信息和網(wǎng)絡(luò )犯罪。此外，英國政府也公布了關(guān)于建立AI監管框架的提議。

在網(wǎng)絡(luò )上，這封信也引起熱烈討論，有網(wǎng)友表示認同，人們需要知道發(fā)生了什么，“僅僅因為我們知道可以建造它，并不意味著(zhù)應該建造”。

但也有人懷疑馬斯克的動(dòng)機，“馬斯克之所以會(huì )簽署它，因是為他想用自己的人工智能來(lái)賺錢(qián)?！?/p>

還有人分析，“這很可怕，但我認為有些項目不需要停止。技術(shù)正在發(fā)展迅速，負責任的創(chuàng )新也是必要的?！?/p>

關(guān)于人類(lèi)和AI關(guān)系的思考，從技術(shù)誕生之初就沒(méi)有停過(guò)。著(zhù)名物理學(xué)家霍金也曾說(shuō)過(guò)，“成功創(chuàng )造了人工智能，很可能是人類(lèi)文明史上最偉大的事件。但如果我們不能學(xué)會(huì )如何避免風(fēng)險，那么我們會(huì )把自己置于絕境”。

如今，從通過(guò)資格考試，到進(jìn)行藝術(shù)“創(chuàng )作”，AI能做的事越來(lái)越多，朝著(zhù)“智能”的方向越走越遠。但同時(shí)，利用AI技術(shù)進(jìn)行網(wǎng)絡(luò )詐騙勒索、傳播非法信息等犯罪行為也層出不窮。

不同于物理世界技術(shù)創(chuàng )新成果轉化的漫長(cháng)周期，AI技術(shù)突破往往會(huì )通過(guò)互聯(lián)網(wǎng)一夜之間散播全球。在人類(lèi)未能就AI倫理、監管等找到妥善解決之道前，這些討論和擔憂(yōu)并不多余。