當前訊息：突發｜馬斯克等要求暫停GPT訓練 強調潛在倫理風險

在OpenAI的GPT大模型日益強大的時候，也引起了關于倫理方面的巨大爭議。OpenAI的共同發起人伊隆·馬斯克（Elon Musk）和一群人工智能專家及行業高管在一封最新發布的公開信中呼吁，在未來六個月暫停對GPT模型的訓練，以免該模型變得更加強大，從而對社會和人類造成潛在風險。

(資料圖)

這封信由非營利組織未來生命研究所（Future Life Institute）發布，由1000多人聯名，其中包括馬斯克、Stability AI的首席執行官Emad Mostaque、谷歌旗下DeepMind的研究人員，以及人工智能領域的重量級人物Yoshua Bengio和Stuart Russell等。他們呼吁在GPT進一步強大之前，需要首先就此類大模型達成由獨立專家開發、實施并審核的共享安全協議。

“只有當我們確信它們的影響是積極的，并且它們的風險是可控的時候，才能開發更強大的人工智能系統。”聯名信中說道。

值得關注的是，OpenAI的首席執行官阿爾特曼（Sam Altman）沒有在這封信上簽名。

這封信還詳細說明了人工智能系統可能與人類競爭，并可能對經濟、政治、社會和文明造成的潛在風險。聯名專家們提出，應針對這些風險，研發人員應該與政策制定者就人工智能的治理和監管機構進行合作。

今日，第一財經記者提問ChatGPT怎么看馬斯克等人叫停對它的訓練，ChatGPT回答道：“馬斯克叫停GPT訓練可能有多種原因，其中一個可能是擔心模型被誤用或濫用，尤其是在自然語言生成和信息操縱方面。GPT模型能夠生成自然語言文本，包括虛假或有害信息，這可能會對社會和個人造成危害。此外，GPT模型也可能有隱私問題，因為它可以生成人類語言，可能會包含敏感信息。”

ChatGPT認為，叫停GPT訓練主要是出于對社會責任和技術發展的前瞻性方面的考慮。它還提到，GPT模型可能存在一些局限性，或者不是解決某些問題的最佳方法，因此需要嘗試尋找更好的替代方案。

近期，馬斯克已多次在社交媒體上表達對OpenAI的不滿。他在3月24日的Twitter上寫道：“我最早向OpenAI捐贈了1億美元，當時它還是非營利的機構，沒有所有權，也不受任何人控制。”他還抨擊微軟“將OpenAI占為己有”。

馬斯克還曾多次呼吁對人工智能的監管。“沒有對人工智能的監管，這是一個主要問題。十多年來，我一直在呼吁人工智能安全監管！”他在去年12月發的推文中表示。他還在GPT4發布后再次表達擔憂。他寫道：“我們人類還有什么可做的？”

這封聯名信發表之前，一位名叫Michal Kosinski的斯坦福大學計算心理學家在社交媒體上曝光了GPT-4的一項“逃跑計劃”，并稱AI能引誘人類提供開發文檔，30分鐘就擬定出一個完整計劃，甚至還想控制人類電腦。

Kosinski疾呼：“我擔心人類無法持久地遏制住AI。AI很聰明，會編碼，能接觸到數百萬個人和電腦。”此言一出便引來眾多網友圍觀，有人稱GPT“打開了物種滅絕的大門”。

面對業內對AI“邪惡”想法的質疑，GPT之父阿爾特曼在近期的一次公開采訪中回應稱：“AI至今仍然是一種非常受人控制的工具。”但他也承認，一些擁有AI輸入控制權的人可能無視人們對人工智能設置的一些安全限制。

“我認為，社會只有有限的時間來弄清楚如何對此做出反應，如何對其進行監管，如何處理它。”阿爾特曼說道。他也呼吁監管機構和社會需要進一步參與這項技術，以防止對人類造成潛在的負面影響。

“我特別擔心這些模型可能會被用于大規模的虛假信息，”阿爾特曼說道，“現在他們在編寫計算機代碼方面做得越來越好，可以用于進攻性網絡攻擊。”

針對這種擔憂，微軟周二宣布推出一款新的AI聊天機器人產品Security Copilot，以幫助網絡安全專業人士了解關鍵問題并找到解決問題的方法。這款最新的AI聊天機器人能夠描述網絡活動安全漏洞的暴露情況，并指出利用漏洞的帳戶。微軟的網絡安全業務在2022年收入超過200億美元。

自人工智能誕生以來，治理問題就一直是全球監管機構關注的熱點。最新涌現出來的ChatGPT這類人工智能的新技術，為歐盟正試圖起草的人工智能法案帶來新的挑戰。歐盟正著手準備創建一個新的監管部門來應對AI的治理。

英國也正在計劃如何分配競爭監管機構管理人工智能的職責。英國政府表示，隨著ChatGPT應用程序等技術的進步，人工智能正在迅速發展，它可以提高生產力并幫助推動增長，但人們擔心它可能對隱私或安全構成風險。

英國政府3月29日發布了一項計劃，將不會專門成立一個負責人工智能技術監管的部門，并將避免可能扼殺創新的嚴厲立法，而是會根據安全、透明、公平和問責制等廣泛原則采取適應性強的監管方法。

標簽：