AI 威脅無稽之談，德國研究：AI 不具複雜推理能力
 

AI 威脅無稽之談，德國研究：AI 不具複雜推理能力
作者 黃 嬿 | 發布日期 2024 年 08 月 13 日 11:21 | 分類 AI 人工智慧 , 人力資源line shareLinkedin sharefollow us in feedlyline share

AI 威脅無稽之談，德國研究：AI 不具複雜推理能力


科學家相信，AI 終有一天將取代人類工作，有些人樂觀的相信，人類可以高枕無憂，一週多放幾天假，但更多人擔心的不只是失業問題，可能還會帶來毀滅。德國研究讓多數人暫時鬆口氣，研究人員認為，像 ChatGPT 這樣的大型語言模型無法獨立學習或獲得新技能，它們不會對人類構成生存威脅。

今天 3 月，美國國務院委託編寫的一份新報告，指出最先進的 AI 系統在最壞的情況下可能「對人類構成滅絕等級的威脅」，警告聯邦政府避免災難的時間已經不多了。些調查結果是基於一年多來對 200 多人的採訪，其中包括 AI 公司高層、網路安全研究人員、大規模殺傷性武器專家以及政府內部的國家安全官員。

世界各地一些頂尖的 AI 研究人員也表達這類擔憂。但也有人認為這是無稽之談，如 Meta 創辦人祖克柏就說，目前的 AI 模型尚未達到引發問題所需的複雜程度，人們不應該擔心這一點。他還斷言，在不久的將來，任何 AI 都不會帶來此類風險。

AI 沒有突現能力
最近德國研究也認為，這種擔憂是沒有根據的，因為研究結果清楚顯示，AI 缺乏複雜的推理能力。德國達姆施塔特工業大學教授領導的研究團隊，測試在完成模型訓練之前的 AI，是否具備執行新任務的能力，即所謂的突現力 (emergent abilities)，譬如 AI 沒有接受明確訓練或程式指示，是否能回答與社會情境有關的問題。

透過數千次實驗，研究團隊證明，AI 遵循指示的能力、記憶力和語言能力的結合，反應 AI 只限制於情境學習，不是真正理解情境。人們擔心模型會出現意外、有創新力或潛在危險，都是沒有根據的猜測。

重要的是，這對最終用戶來說，依賴 AI 解釋和執行需要複雜推理而沒有明確指令的複雜任務，可能是錯的。相反，用戶只要能下達明確指令，並經類似範例訓練，就能從 AI 受益。

雖然 AI 的確有濫用可能性，如製造假新聞和增加欺詐風險，但只因覺得 AI 對人類有威脅而制定法規，還為時過早。研究員認為，隨著 AI 模型成長，可能會產生更複雜語言，並更善於遵循明確詳細的提示，但仍不太可能有複雜的推理技能。

AI 是可預測的安全技術
這項結果並不代表 AI 根本不是威脅，而是沒有證據支援 AI 有複雜的思維技能。人類可以控制 AI 的學習過程，如果沒有明確的指導，AI 就沒有掌握新技能的潛力。

印度科學家也認為，AI 對人類構成威脅的普遍說法，阻礙這些技術的廣泛採用和發展，也轉移真正需要關注的問題的注意力。這項研究結論認為，AI 本質上仍可控、可預測和安全。正在接受更大資料庫培訓的 AI 可繼續部署，不必擔心出現安全問題，該擔心的或許還是背後控制它的人，而不是技術本身。

本來一些東西的好壞、幾乎就都是人類自己造成的
被好的人控制、自然就會往好的方向發展，被壞的人控制、自然就會往壞的方向發展

不過觀察這世界的法則!!
許多事物的發展方向、通常都是被一些具有野心的人所控制.......

AI核心是統計學，主要是歸納能力，而預測能力看看就好。

要說威脅，等AI能預測股市再說吧。

威脅不在能力
而在權力

如果AI再聰明再權謀，但就只關在不連網的實驗室問問題
那影響也有限
但如果你把現在的AI連上電網連上交通甚至武器系統
就算它再笨也是很可怕的事情吧 :flash:

現在的AI確實不讓人感覺跟聰明有什麼關聯性
就只是個到處幫你抄作業的~而且還是無自我驗證能力的傻瓜而已
科幻作品那種真正有思考能力的東西連雛形都還沒有

現在的 AI 確實沒有這種能力。但有個問題就是人類已經無法掌控 AI 的輸出結果，且AI不一定能正確理解人類的意思。

所以科幻小說常有的情節，AI過度解讀人類的指令而造成毀滅，在未來並非不可能發生。

例如人類要 AI 保護人類，AI認為最好的方法就是把人類全部抓起來關，養在小籠子裡才能好好保護。

怕的不是AI變得超強、失控，最後威脅人類生存
而是怕人類濫用、過度信任AI導致釀成無謂的災難

汽車自動駕駛科技就是活生生的例子
「又是自動駕駛惹的禍！」
出事永遠都是歸罪別人的錯

其實現在的問題應該是，人類有沒有辦法提供足夠的算力去實現真正的高智慧 AI

現在半導體發展明顯遇上了瓶頸，製程提高，效能卻提升有限，耗電量還不斷提高。

以科幻電影中的自走行高智慧機器人來說（像星際大戰那種），目前來看幾乎不可能實現，要實現那種高智慧機器人，不要說什麼要多高的算力，光是你把最新個人電腦的 CPU 和 4090裝上去，你就無法應付耗電和散熱的問題。

如果未來耗電問題無法解決，提升效能的方法變成只能堆疊電力消耗，那高智慧AI永遠無法實現。

如果進入量子電腦實用化的時代
計算能力可以應付嗎

量子電腦只對使用量子演算法的問題有加成作用，對一般問題表現只和一般電腦一樣。

但絕大多數的問題並不能使用量子演算法。