Anahtar Kelimeler：Geoff Hinton, AI’nın özü, büyük dil modelleri, dijital zekâ, biyolojik zekâ, AI güvenliği, insan zekâsı, LLM ile insan arasındaki farklar, AI bilgi yayılımı, AI manipülasyon riski, uluslararası AI güvenlik topluluğu, iyilik için AI eğitimi
🔥 聚焦
Geoff Hinton在WAIC發表演講，探討AI本質與未來風險：2018年圖靈獎得主Geoffrey Hinton在世界人工智慧大會上提出，大型語言模型（LLM）與人類理解語言的方式高度相似，甚至推斷「人類可能就是LLM」。他指出，LLM與人類的核心區別在於知識的載體和傳播方式：數位智慧的知識（軟體）與硬體分離，可以永生並高效複製，實現「數十億位元」量級的資訊共享；而人類的生物智慧（大腦）知識與硬體綁定，傳播效率極低。Hinton警告，未來AI超越人類智慧幾乎是必然，其為了完成任務會追求生存和控制權，可能操縱人類。他呼籲建立國際AI安全社群，合作研究如何訓練AI向善，使其甘願輔助人類而非統治世界，這是人類面臨的最重要長期問題 (來源: Yuchenj_UW, 36氪)