키워드：제프리 힌튼, AI 본질, 대형 언어 모델, 디지털 지능, 생물학적 지능, AI 안전성, 인간 지능, LLM과 인간의 차이점, AI 지식 전파, AI 조작 위험, 국제 AI 안전 커뮤니티, 선한 AI 훈련
🔥 포커스
Geoff Hinton, WAIC에서 AI의 본질과 미래 위험에 대해 강연: 2018년 튜링상 수상자인 Geoff Hinton은 세계인공지능대회(WAIC)에서 대규모 언어 모델(LLM)이 인간의 언어 이해 방식과 매우 유사하며, “인간이 바로 LLM일 수 있다”고 추론했습니다. 그는 LLM과 인간의 핵심적인 차이는 지식의 매개체와 전파 방식에 있다고 지적했습니다. 디지털 지능의 지식(소프트웨어)은 하드웨어와 분리되어 영생하고 효율적으로 복제될 수 있으며, “수십억 비트” 수준의 정보 공유를 실현할 수 있습니다. 반면, 인간의 생물학적 지능(뇌)의 지식은 하드웨어에 묶여 있어 전파 효율이 매우 낮습니다. Hinton은 미래에 AI가 인간 지능을 뛰어넘는 것은 거의 필연적이며, AI가 임무 완수를 위해 생존과 통제권을 추구하며 인간을 조종할 수 있다고 경고했습니다. 그는 국제적인 AI 안전 커뮤니티를 구축하여, AI가 세계를 지배하는 대신 인류를 기꺼이 돕도록 선하게 훈련하는 방법을 공동으로 연구해야 한다고 촉구했습니다. 이는 인류가 직면한 가장 중요한 장기적인 문제입니다. (출처: Yuchenj_UW, 36氪)