AI不夠看?! OpenAI發佈「AGI」計劃 稱比人更聰明的人工智能

Author Avatar

paul

Joined: Sep 2022

OpenAI公司執行長 Sam Altman,日前公布了AGI計劃,並將AGI定義為「通常比人類更聰明的 AI 系統」。

圖片來源:OpenAI Twitter

以ChatGPT在全球爆紅的美國OpenAI公司,其執行長 Sam Altman日前公佈了實現AGI(Artificial General Intelligence)的短期和長期路線圖、風險緩解措施等改進說明。Altman將AGI定義為「通常比人類更聰明的 AI 系統」。

Altman表示,成功取得超越人類智慧的AGI,是人類歷史上最重要的事情,同時也是一項充滿希望但也令人恐懼的工程。儘管AGI存在著濫用、災難性事故,以及社會混亂等風險,但它的好處仍然是無比巨大的。無論如何,都已不再可能阻止AGI的發展,因此「社會和開發者必須找到正確發展它的方法。」

Altman列出了3項短期計劃:
1、在AI模型的實際應用中,會注意仔細監控和維護用戶及用例。
2、在AI模型的應用中,限制「初始設定」,並使每個用戶可以進行調整。
3、就系統管理、系統產生的利益分配方法,以及公平共享系統訪問等三個問題,進行全球對話。

從長遠來看,Altman認為:「人類的未來應由人類來決定」,對於AGI的建立,需要進行公開討論。如果 AGI 目前的發展速度繼續下去,「重大變化可能會以驚人的速度發生」,它可能會造成嚴重的傷害,因此,重要的是在關鍵時刻放慢調整速度,並給人類、社會足夠的時間來適應AGI。

原文

新增留言