유발 하라리 “AI의 언어 습득, 인류문명 마스터키 쥔 것”

역사학자이자 세계적 베스트셀러 작가인 유발 하라리가 GPT4 등 최첨단 초거대 인공지능(AI)의 위험성을 지적하며 인류가 적절히 통제할 방법을 찾기 전까지 AI 개발 및 도입 속도를 조절해야 한다고 경고했습니다.

 

 

유발 하라리 “AI의 언어 습득, 인류문명 마스터키 쥔 것”

트리스탄 해리스, 아자 래스킨 등 3인, <뉴욕타임스> 공동 기고문

 

반응형

 

‘사피엔스’의 저자 유발 하라리 예루살렘 히브리대 교수는 인도적기술센터 공동 설립자인 트리스탄 해리스, 아자 래스킨과 최근 <뉴욕타임스>(NYT)에 낸 공동 기고문에서 GPT-4와 같은 인공지능(AI)의 위험성을 언급하며 “인간이 AI에 의존하기 전에 AI에 대한 통제 방안을 고민해야 할 때”(The time to reckon with A.I. is before our politics, our economy and our daily life become dependent on it.)고 조언했습니다.

 

이 글에서 그는 “AI의 언어 습득은 곧 AI가 문명의 운영체제(언어)를 해킹하고 조작할 수 있게 됐다는 의미”라고 지적했습니다. 과거 AI의 인류 지배 가능성이 막연한 두려움에 가까웠던 반면 GPT-4 같은 최근의 언어 모델은 실질적인 위험으로 떠올랐다는 것입니다. 그는 “이제 AI는 수천 년간 쌓아 올린 문명 전체를 빠르게 먹어 치우고, 소화하고, 새로운 문명을 만들어낼 수도 있다”고 우려했습니다.

 

 

유발 하라리 (이미지: AFP/게티이미지)

 

특히 그는 “AI가 언어를 습득했다는 것은 인류 문명의 ‘마스터키’를 쥐고 그 운영 체제를 해킹하고 조작할 수 있게 됐음을 뜻하는 것”(By gaining mastery of language, A.I. is seizing the master key to civilization, from bank vaults to holy sepulchers.)이라고 경고했습니다.

 

하라리 교수와 다른 공동 기고자들은 “AI가 수천 년에 걸쳐 생성된 인류의 문화를 빠르게 먹어 치우고 새 문화를 쏟아낼 수 있다”며 “이는 학교 에세이 작성뿐 아니라 정치 연설, 종교 등에도 해당한다”고 말했습니다. 그러면서 “2028년 미국 대선은 더 이상 사람이 주도하지 않는 선거가 될 수 있다”(By 2028, the U.S. presidential race might no longer be run by humans.)고도 덧붙였습니다.

 

 

유발 하라리 <뉴욕타임스> 기고문

 

 

“AI가 인류 장악하기 전 인간이 AI 통제해야”

 

하라리 교수 등 공동 기고자들은 또 “AI가 암을 퇴치하고 생명을 구하는 약을 발견하며 기후 위기에 대한 해결책을 찾는 데 도움이 될 잠재력이 있지만, 통제되지 않는다면 그 혜택이 얼마나 많은지는 중요하지 않다”고 강조했습니다.( A.I. indeed has the potential to help us defeat cancer, discover lifesaving drugs and invent solutions for our climate and energy crises. There are innumerable other benefits we cannot begin to imagine. But it doesn’t matter how high the skyscraper of benefits A.I. assembles if the foundation collapses.)

 

그들은 “AI의 뛰어난 능력이 상응하는 책임·통제와 조화를 이룰 때 우리는 그 혜택을 실현할 수 있으며 이를 위한 첫걸음은 AI가 인간을 장악하기 전에 인간이 AI를 장악할 수 있게 시간을 버는 것”이라며 “(세계 지도자들은) AI 위험성에 대한 대응에 당장 나서야 한다”고 촉구했습니다.( The first step is to buy time to upgrade our 19th-century institutions for an A.I. world and to learn to master A.I. before it masters us.)

 

 

  

< 함께 보면 좋은 다른 글 >

러-우크라 전쟁 1년... 유발 하라리 <이코노미스트> 기고문 다시 읽기

러-우크라 전쟁 1년... 유발 하라리 <이코노미스트> 기고문 다시 읽기

 

---

[경고] 본 블로그 콘텐츠의 일부 혹은 전체를 무단 전재, 도용하는 등의 행위를 금합니다. 필요시 URL 링크나 SNS를 통한 공유를 활용해 주세요.

*블로그에 언급된 정보는 단지 참고 사항일 뿐 투자 권유를 위한 것이 아닙니다. 투자의 최종 판단과 책임은 투자자 본인에게 있음을 알려 드립니다.

 

블로그 ‘구독’하고 가치 있는 정보, 돈이 되는 정보 받아보세요!

*RSS Feed(URL): https://swife.tistory.com/rss

 

---

 

<영어 신문> 기자 출신,
‘국내 최고’ 외신 해설 블로거!

‘공감’과 ‘구독’, 콘텐츠 제작에 큰 힘이 됩니다!