세계 석학들의 경고 ‘인공지능의 위협’
미국 비영리 단체 삶의 미래 연구소(FLI)는 23년 3월 22일 ‘거대 인공지능 실험 일시 중지 공개서한’을 공개했습니다. 이 서한은 인공지능이 사회와 인류에 심각한 위협을 줄 수 있기에 인공지능 시스템 교육을 최소 6개월 동안 즉시 중단하고, 통제하기 위한 체계를 마련해야 한다는 내용을 담고 있는데요, 테슬라 CEO인 일론 머스크, ‘사피엔스’ 저자 유발 하라리 교수, 튜링상 수상자 조슈아 벤지오 교수 등이 서명운동에 동참하여 화제를 모았습니다.
그렇다면 어떤 이유로 이들은 인공지능 개발에 대한 경고의 목소리를 모으고 있는 것일까요? 이번 시간에는 각계 석학 및 전문가들이 인공지능에 대해 어떤 경고를 하는지 알아보도록 하겠습니다.
거짓 정보로 인한 피해
ⓒ Eleonora Francesca Grotto – Unsplash
챗 지피티가 세상에 공개된 뒤 가장 많은 주목을 받았던 문제점이 있습니다. 바로 ‘환각 현상’인데요, 환각 현상이란 인공지능이 그럴듯하지만, 사실이 아닌 답변을 제공하는 현상을 말합니다. 이 문제점은 구글의 CEO인 순다르 피차이가 미국의 방송인 ‘60분’에서 진행한 인터뷰 중 “미래의 인공지능 개발자가 해결해야 할 첫 임무일 것”이라고 강조할 만큼 치명적인 문제입니다.
뉴욕 대학교 심리학 및 신경 과학 명예교수인 게리 마커스 교수는 환각 현상으로 인해 파생되는 문제점을 언급하며 우려의 의견을 내비쳤습니다. 게리 마커스 교수는 칼칼리스트와의 인터뷰에서 “오늘날 인공지능이 발전하는 방식은 아무도, 아무것도 믿지 않는 세상으로 우리를 이끌 것이며 이러한 상황은 민주주의가 기능하기 어렵게 만들 것”이라며, “과학은 엄청난 양의 가짜 기사로 인해 고통을 겪을 것입니다. 사람들은 이에 따라 잘못된 의학 정보를 얻게 될 것이고, 이로 인해 잘못된 약을 먹거나 심지어 사망에 이르게 될 것입니다.”라고 구체적인 위협에 대한 시나리오를 제시하기도 했습니다.
실질적인 생명의 위협
ⓒ Midjourney
2018년, 컴퓨터 과학계의 노벨상이라고 불리는 튜링상을 수상한 분이 있습니다. ‘인공지능의 대부’라고도 불리는, 인지 심리학자이자 컴퓨터 과학자인 제프리 힌턴입니다. 제프리 힌턴은 최근 구글에서 퇴사하며 뉴욕 타임즈와 인터뷰를 진행했는데요, 구글에서 퇴사한 이유로 “인공지능 기술에 대한 위험성을 자유롭게 비판하기 위해 구글과 작별했다.”라며 “인공지능이 살상 로봇”으로 변할 날이 두렵다고 말했습니다.
또한 제프리 힌턴은 MIT 테크놀로지 리뷰와의 인터뷰에서는 구체적인 인물을 언급하며 사태의 위험성을 강조하였습니다. 이 인터뷰에서 제프리 힌턴은 “우리는 이러한 도구(인공지능)를 사용하려는 많은 사람이 푸틴이나 드산티스와 같은 악인임을 알고 있습니다.”라며 “그들은 전쟁에서 승리하거나 유권자를 조종하기 위해 인공지능을 사용하길 원합니다.”라고 말했습니다.
문명이 해킹 당할 것
ⓒ Midjourney
전 세계적으로 천만 부가 팔릴 만큼 인기를 끌었던 ‘사피엔스’의 저자이자 예루살렘 히브리 대학교 역사학과 교수인 유발 하라리는 인공지능의 문제에 대해 인문학적으로 접근합니다. 유발 하라리 교수는 더 이코노미스트에서 인공지능이 인류 문명의 운영 체제를 해킹했다고 표현하는데요, 인간의 언어를 조작하고 생성하는 능력을 갖추게 된 인공지능이 인간 문화의 핵심인 언어를 해킹하고, 이를 통해 우리 문명의 운영 체제를 공격할 수 있다는 의견입니다.
또한 이러한 의견이 단순히 학교 에세이를 챗 지피티로 사용하는 수준의 것이 아닌, 인공지능을 통해 경전이나 법, 정치, 가짜 뉴스 등이 대량 생산되는 것에 대한 영향력을 상상해 보라고 말합니다. 인공지능이 언어 숙달을 통해 사람들과 ‘가짜 친밀감’을 형성하고, 이 가짜 친밀감을 이용하여 특정 정치인을 지지하게 하거나 특정 제품을 구매하게끔 설득하는 것은 인간 사회와 인간 심리에 어떤 영향을 미칠지 생각해 보자는 것입니다.
지금까지 인공지능 개발에 대한 각계 석학과 전문가들의 의견을 알아보았습니다. 다만 경고의 목소리에 따라 인공지능을 맹목적으로 거부하거나 수용하기 보다는, 인공지능에 대한 순기능과 역기능에 대한 다양한 주장들에 대해 비판적 사고를 통한 명확한 분석과 판단한 후 결정하고 행동하는 것이 그 어느 때보다 필요한 시점으로 보여집니다.