專家：只需達成「6種特質」 AI就可能超越人腦思維！

GPT算是一個集大成的 AI，因為它是基於內容覺察與留存處理的 Transformer 架構所開發出的超級接龍機器人，也就是一種專用型的聊天機器人；更由於它在被訓練的時候也使用到程式設計師平台 GitHub 的內容，所以它也是一個不錯的程式設計師。

正因為它駕馭語言的能力超乎之前的想像，所以常被誤認為通用型的 AI。那麼新 AI 從現在的 GPT 到未來的超級 AI 到來之前，需要突破的技術或其他門檻，又有哪些？

AI 還差6種特質，就能超越人腦思維。

1、學習並掌握人類的思考與形成想法

當前的深度學習模型，通常依賴於人類設定的目標和獎勵信號，要使機器超越人腦的思維框架，可能需要讓它們具有自主學習和設定目標的能力。這可能涉及到研究新的強化學習方法，以及如何讓機器從環境中自動發現有趣和有價值的目標。在這個階段，AI 可以真正讀懂一本書，並能如人類一般地理解與精心策畫計謀。

2、社會智慧和情感智慧

要讓深度學習超越人腦，以便在人類社會中更好地交流和協作，這需要研究如何讓模型理解和模擬人類的情感、意圖和信念，以及如何根據這些訊息做出適當的行為決策。人類與 AI 將可運用我們在第二部說明的認知拓展方式，一起攜手並進。

3、可擴展性和泛化能力

這是為了超越人類思維，以便在各種不同的任務和環境中取得高性能。這可能涉及研究新的機器學習方法，譬如元學習（meta-learning）、遷移學習（transfer learning）和多任務學習（multi-tasklearning），以及開發更有效的模型架構和訓練策略。在這個階段的 AI，基本上已經掌握了人類的思考與認知能力，所以也可以被稱為強 AI 或 AGI（artificial general intelligence，通用人工智慧），因為此時 AI 已掌握人類所有面向的智慧。

4、能源效率和計算資源

要使深度學習超越人腦，機器需要在有限的能源和計算資源下實現高性能。這可能需要研究新的硬體設計和神經網路結構，以及開發更高效的算法和優化技術。目前的人工智慧在計算上的能源效率比起人腦還差了幾個數量級，例如讀者可能也常聽到 GPT 每個月的電費都是天文數字，而人類的大腦功能無所不包，但用到的能量幾乎只等同於一個20瓦的燈泡。因此，讓 AI 跨越這個能量效率的門檻，以達到接近甚至超越人腦的運作效能，將極為重要。

5、可解釋性和可信賴性

這可能涉及到研究新的可解釋性技術以及開發方法，來評估和提高模型的可解釋性、可信賴性和安全性。人類對於新 AI 的各種擔憂與恐慌，其實常常來自於其深度學習與頓悟的背後猶如黑盒子一般的神祕。為了達到人類與 AI 雙贏的未來，可解釋性與可信賴性將是更廣泛協作必須跨越的重要門檻。

6、克服人類的終極恐慌

在過往，人類雖然創造過許多在某些方面超越人類個體能力的發明，例如汽車、飛機、核電廠、原子彈、基因科技等等，然而在整體的人類視角上，我們最多只有擔憂卻極少恐慌。但當 AI 到達 AGI 的程度-也就是 AI 的能力已經能與人類的能力並駕齊驅時，人類的擔憂與恐慌將會到達一個臨界點。

而當 AI 到達 ASI（artificial super intelligence，超人工智能）的時候，也就是 AI 真正的全方位超越人類個體與整體的時候，人類是否已經準備好與 ASI 共存，並進入完全的未知領域，甚至達到所謂的奇點（singularity），也就是 AI 達到人類無法控制，AI 發展無法逆轉與預測的階段的話，人類的命運，將端視我們到那時候之前，是否已達全面準備。

實現上述目標需要跨專業、跨認知的合作和研究，以及持續的技術創新。要讓深度學習超越人腦的思維框架，並經由複雜系統的湧現能力達到新的境界，需要克服眾多技術和理論上的挑戰。然而，隨著人工智慧領域的快速發展，這一目標或許在未來幾十年內變得愈來愈可行。

超級 AI 的4種反撲逆襲

人工智慧的快速進步，已引起全球的廣泛正反討論，其中 AI 的湧現能力或頓悟能力，讓我們面對許多尚未解答的問題和挑戰。許多開發人工智慧的公司包含 OpenAI 都特別提醒，必須以更批判的角度進行審視，關注人工智慧關於如權力尋求、自我複製及自我改進等等的能力。這裡所稱的 AI，是指從現在的新 AI 慢慢過渡或轉變成為超級AI的過程中，可能逐漸觀察到的種種能力湧現：

1、AI 的權力尋求行為

在資訊科技快速發展的今天，AI 在許多領域都已有顯著的影響力；然而，我們要警惕這種影響力可能被刻意過度集中，導致權力的不平等分配。例如，AI 在決策過程中的權重過大，可能導致人類被邊緣化，創造出一種新的權力結構，這種結構可能使得少數擁有先進技術的人或組織在權力上占據主導地位。

2、AI 的自我複製能力

自我複製能力使其能以驚人的速度傳播和擴展，如果沒有適當的管理和控制，有可能導致 AI 技術被用於不當的目的，例如在網路攻擊或數位犯罪中使用。同時，這種快速擴展的能力可能也帶來對人類經濟、社會結構等各種不可預測的影響。

3、AI 模仿人類情緒並發展出自我意識

情緒是人類個體的重要特徵，也是自我意識的主要成分。當人工智慧所能表現的情緒超越文字接龍，達到自主性模仿人類情緒的程度時，這將意味著 AI 將能夠有意識地與真實人類進行廣泛性的、全面的共情，在這種情況下，人類輕則受其影響，重則完全被拖著鼻子走，也就是可能徹底失去選擇的權利。

4、AI 的自我改進能力

自我改進能力是 AI 重要也最具挑戰性的特質之一，經由機器學習和深度學習，能不斷改進並優化其性能和效率。然而，這也意味著 AI 可能達到一種超級智慧的水準，其能力遠超過人類的理解和控制。在這種情況下，人類如何確保自己能維持對 AI 的控制，並防止其潛在的威脅，是我們必須認真考慮的問題。

總之，AI 的湧現能力提出了一系列的挑戰，這需要以更全面和批判的視角來看待，確保 AI 能帶來更多利益，而非成為新的威脅。這將需要我們在研究、政策制定和教育等各層面作出努力，並持續對 AI 的發展進行密切的觀察和監控。

本文出自：《新 AI 與新人類：學習、認知與生命的進化新路程》，作者：蘇經天，大塊文化