New Member
加入日期: Jul 2022
文章: 2
|
AI 威脅無稽之談,德國研究:AI 不具複雜推理能力
AI 威脅無稽之談,德國研究:AI 不具複雜推理能力
作者 黃 嬿 | 發布日期 2024 年 08 月 13 日 11:21 | 分類 AI 人工智慧 , 人力資源line shareLinkedin sharefollow us in feedlyline share AI 威脅無稽之談,德國研究:AI 不具複雜推理能力 科學家相信,AI 終有一天將取代人類工作,有些人樂觀的相信,人類可以高枕無憂,一週多放幾天假,但更多人擔心的不只是失業問題,可能還會帶來毀滅。德國研究讓多數人暫時鬆口氣,研究人員認為,像 ChatGPT 這樣的大型語言模型無法獨立學習或獲得新技能,它們不會對人類構成生存威脅。 今天 3 月,美國國務院委託編寫的一份新報告,指出最先進的 AI 系統在最壞的情況下可能「對人類構成滅絕等級的威脅」,警告聯邦政府避免災難的時間已經不多了。些調查結果是基於一年多來對 200 多人的採訪,其中包括 AI 公司高層、網路安全研究人員、大規模殺傷性武器專家以及政府內部的國家安全官員。 世界各地一些頂尖的 AI 研究人員也表達這類擔憂。但也有人認為這是無稽之談,如 Meta 創辦人祖克柏就說,目前的 AI 模型尚未達到引發問題所需的複雜程度,人們不應該擔心這一點。他還斷言,在不久的將來,任何 AI 都不會帶來此類風險。 AI 沒有突現能力 最近德國研究也認為,這種擔憂是沒有根據的,因為研究結果清楚顯示,AI 缺乏複雜的推理能力。德國達姆施塔特工業大學教授領導的研究團隊,測試在完成模型訓練之前的 AI,是否具備執行新任務的能力,即所謂的突現力 (emergent abilities),譬如 AI 沒有接受明確訓練或程式指示,是否能回答與社會情境有關的問題。 透過數千次實驗,研究團隊證明,AI 遵循指示的能力、記憶力和語言能力的結合,反應 AI 只限制於情境學習,不是真正理解情境。人們擔心模型會出現意外、有創新力或潛在危險,都是沒有根據的猜測。 重要的是,這對最終用戶來說,依賴 AI 解釋和執行需要複雜推理而沒有明確指令的複雜任務,可能是錯的。相反,用戶只要能下達明確指令,並經類似範例訓練,就能從 AI 受益。 雖然 AI 的確有濫用可能性,如製造假新聞和增加欺詐風險,但只因覺得 AI 對人類有威脅而制定法規,還為時過早。研究員認為,隨著 AI 模型成長,可能會產生更複雜語言,並更善於遵循明確詳細的提示,但仍不太可能有複雜的推理技能。 AI 是可預測的安全技術 這項結果並不代表 AI 根本不是威脅,而是沒有證據支援 AI 有複雜的思維技能。人類可以控制 AI 的學習過程,如果沒有明確的指導,AI 就沒有掌握新技能的潛力。 印度科學家也認為,AI 對人類構成威脅的普遍說法,阻礙這些技術的廣泛採用和發展,也轉移真正需要關注的問題的注意力。這項研究結論認為,AI 本質上仍可控、可預測和安全。正在接受更大資料庫培訓的 AI 可繼續部署,不必擔心出現安全問題,該擔心的或許還是背後控制它的人,而不是技術本身。 |
|||||||
2024-10-14, 10:50 PM
#1
|
Regular Member
加入日期: Jan 2016
文章: 88
|
引用:
本來一些東西的好壞、幾乎就都是人類自己造成的 被好的人控制、自然就會往好的方向發展,被壞的人控制、自然就會往壞的方向發展 不過觀察這世界的法則!! 許多事物的發展方向、通常都是被一些具有野心的人所控制.......
__________________
人生許多事 成也執著、敗也執著 |
|||
2024-10-14, 11:03 PM
#2
|
Major Member
加入日期: Dec 2010
文章: 258
|
AI核心是統計學,主要是歸納能力,而預測能力看看就好。
要說威脅,等AI能預測股市再說吧。 |
2024-10-15, 10:25 AM
#3
|
Master Member
加入日期: Dec 2002 您的住址: 飛機跟捷運在窗外跑來跑去...
文章: 2,451
|
威脅不在能力
而在權力 如果AI再聰明再權謀,但就只關在不連網的實驗室問問題 那影響也有限 但如果你把現在的AI連上電網連上交通甚至武器系統 就算它再笨也是很可怕的事情吧 |
2024-10-15, 10:53 AM
#4
|
Advance Member
加入日期: Feb 2015
文章: 389
|
現在的AI確實不讓人感覺跟聰明有什麼關聯性
就只是個到處幫你抄作業的~而且還是無自我驗證能力的傻瓜而已 科幻作品那種真正有思考能力的東西連雛形都還沒有 |
2024-10-15, 11:22 AM
#5
|
Golden Member
加入日期: Feb 2004 您的住址: 從來處來
文章: 2,733
|
現在的 AI 確實沒有這種能力。但有個問題就是人類已經無法掌控 AI 的輸出結果,且AI不一定能正確理解人類的意思。
所以科幻小說常有的情節,AI過度解讀人類的指令而造成毀滅,在未來並非不可能發生。 例如人類要 AI 保護人類,AI認為最好的方法就是把人類全部抓起來關,養在小籠子裡才能好好保護。 此文章於 2024-10-15 03:21 PM 被 Adsmt 編輯. |
2024-10-15, 03:20 PM
#6
|
New Member
加入日期: Sep 2022
文章: 7
|
怕的不是AI變得超強、失控,最後威脅人類生存
而是怕人類濫用、過度信任AI導致釀成無謂的災難 汽車自動駕駛科技就是活生生的例子 「又是自動駕駛惹的禍!」 出事永遠都是歸罪別人的錯 |
2024-10-15, 03:45 PM
#7
|
Golden Member
加入日期: Feb 2004 您的住址: 從來處來
文章: 2,733
|
其實現在的問題應該是,人類有沒有辦法提供足夠的算力去實現真正的高智慧 AI
現在半導體發展明顯遇上了瓶頸,製程提高,效能卻提升有限,耗電量還不斷提高。 以科幻電影中的自走行高智慧機器人來說(像星際大戰那種),目前來看幾乎不可能實現,要實現那種高智慧機器人,不要說什麼要多高的算力,光是你把最新個人電腦的 CPU 和 4090裝上去,你就無法應付耗電和散熱的問題。 如果未來耗電問題無法解決,提升效能的方法變成只能堆疊電力消耗,那高智慧AI永遠無法實現。 |
2024-10-15, 03:55 PM
#8
|
Elite Member
加入日期: Oct 2002
文章: 4,793
|
如果進入量子電腦實用化的時代
計算能力可以應付嗎
__________________
人性的醜陋就是,會在無權、無勢、善良的人身上挑毛病,卻在有權、有勢、缺德的人身上找優點。當無權、無勢、善良的人受到傷害的時候,還會站在所謂的道德制高點上,假惺惺地勸說無權、無勢、善良的人,一定要忍耐,一定要大度。 |
2024-10-15, 03:59 PM
#9
|
Golden Member
加入日期: Feb 2004 您的住址: 從來處來
文章: 2,733
|
引用:
量子電腦只對使用量子演算法的問題有加成作用,對一般問題表現只和一般電腦一樣。 但絕大多數的問題並不能使用量子演算法。 |
|
2024-10-15, 04:04 PM
#10
|