다리오 아모데이 앤트로픽 공동창립자가 인공일반지능(AGI)이 등장하면 어떤 일이 일어날지 글을 올렸다. 최근 페이페이 리 스탠포드대학교 교수가 "AGI를 잘 모르겠다"라고 밝힌 데 이어, 이번에는 AGI를 상세하게 설명하는 내용이다.

아모데이 창립자는 11일(현지시간) 홈페이지를 통해 A4 35장 분량의 장문의 글을 올렸다. 제목은 '사랑의 은혜 기계(Machines of Loving Grace)'다.

주 내용은 AI가 인간 삶의 질을 직접적으로 개선할 수 있는 다섯 분야, 즉 ▲생물학과 건강 ▲신경과학과 정신 건강 ▲경제 발전과 빈곤 ▲평화와 통치 ▲일과 의미 등에 대한 상세한 설명이다.

간단하게 정리하면 AI가 신체적 및 정신적 질병과 빈곤, 불평등을 줄이는 데 기여할 수 있다는 내용이다. 이 가운데에서는 AI를 잘 활용한다면 인간 수명이 150세, 즉 2배 가까이 늘어날 수 있다고 주장한 게 눈길을 끈다. 

이에 앞서 그는 자신이 AI 비관주의자나 AI 파멸론자가 아니라고 강조했다. 대부분 사람이 AI의 이점이 얼마나 급진적일 수 있는지 과소평가하는 것처럼, AI 위험이 얼마나 심각할 수 있는지 과소평가한다고 지적했다. 그리고 AI로 인한 긍정적인 미래를 막을 유일한 장애물이 안전 문제이기 때문에, 여기에 집중하는 것이라고 강조했다.

AGI라는 말도 싫어하며, 대신 '강력한 AI(poerful AI)'라는 단어를 사용하겠다고 밝혔다. 또 홍보나 과장, SF적인 의미로 활용되는 것을 피하기 위해 애썼다고 설명했다. 

특히 "많은 AI 경고자들이나 AI 회사 리더들이 AGI 이후의 세계에 대해 이야기하는 방식에 흥미를 잃는다"라며 "마치 선지자가 사람들을 구원으로 인도하듯이 혼자서 그것을 실현하는 것이 그들의 사명인 것처럼 말한다"라고 지적했다. "기업이 일방적으로 세상을 형성하는 것으로 보는 것은 위험하고, 실용적인 기술적 목표를 본질적으로 종교적 관점에서 보는 것은 위험하다고 생각한다"라고 덧붙였다.

이는 AGI를 남발하는 데 반발했던 리 교수와 같은 톤이다. AI가 인류를 멸망시킬 것이라고 주장하는 입장에도 반대한 셈이다. 

하지만 리 교수와 달리 아모데이 창립자는 AGI를 상세하게 설명했다.

그는 강력한 AI를 "현재 LLM과 형태가 비슷할 가능성이 크지만 다른 아키텍처를 기반으로 하고, 여러 상호 작용 모델을 포함하고, 다르게 훈련될 수 있는 다음과 같은 속성을 가진 AI 모델을 의미한다"라고 소개했다.

우선 노벨상 수상자보다 더 똑똑한 강력한 지능을 갖출 것으로 봤다. 또 AI 에이전트 기능을 갖추고 있어, 일 처리에서 가장 유능한 인간을 능가한다고 전했다.

스스로 계획을 짜고 필요할 경우 인간에게 질문하는 등 자율성을 갖췄으며, 컴퓨터를 통해 물리적 도구나 로봇, 장비 등을 제어하는 능력도 갖출 것으로 예상했다.

모델은 대략 10배~100배의 인간 속도로 정보를 흡수하고 동작을 생성할 수 있지만, 단지 물리적 세계나 상호 작용하는 소프트웨어의 응답 시간에 의해 제한될 수 있다고 설명했다.

마지막으로는 단일 시스템이 아니라, 수백만개의 사본으로 구성돼 각각 관련 없는 작업에 독립적으로 행동할 수도 있고, 필요한 경우 인간이 협업하는 것과 같은 방식으로 모두 함께 작업할 수도 있으며, 특정 작업에 특히 뛰어나도록 조정된 하위 집단이 있을 수도 있을 것으로 전망했다. 이를 "데이터센터에 있는 천재들의 나라"라고 표현했다.


(사진=앤트로픽)
이어 아모데이 창립자는 AI가 건강, 신경 과학, 거버넌스와 같은 다섯가지 중요한 분야를 재편하기 위해 현실적인 접근 방식을 제공하는 동시에 위험을 적극적으로 관리해야 할 필요성을 강조했다.

그리고 앞의 4가지가 잘 해결돼도, 하나의 중요한 의문이 여전히 ​​남는다고 밝혔다. "AI가 모든 것을 한다면 인간은 어떻게 의미를 가질 수 있을까"라는 질문이다. 이 문제는 사실 가장 까다롭다고 털어 놓았다.

하지만 "AI가 더 잘할 수 있다는 이유만으로 인간이 수행하는 작업이 무의미하다고 믿는 것은 실수"라고 지적했다. 대부분의 사람은 특정 분야에서 세계 최고가 아니며, 이에 대해서는 크게 신경을 쓰지 않다는 것이다. 또 일의 의미는 경제성을 떠나 인간과의 연결에서 온다고 봤다. 

만약 AI가 90%의 분야에서 인간을 대체하면, 나머지 10%에서 인간의 역할이 더 늘어날 것으로 예측했다. 또 인간이 AI보다 비효율적이거나 비용이 많이 들어가도, 인간이 AI보다 의미 있는 내용을 내놓는다면 비교 우위를 차지할 것으로 봤다. 따라서 '데이터센터의 천재 국가' 시대가 찾아와도 당분간 인간이 참여하는 경제가 유지할 것으로 예상했다.

언젠가 인간의 노동이 모든 가치를 잃고 AI가 부를 인간에게 분배할 시점이 다가오면, 아마도 '휘피(Whuffie) 체제'가 도입될지도 모르겠다고 전했다. 이는 코리 닥터로의 SF 소설에 등장하는 말로, 인간의 사회적 평판이나 존경의 정도에 따라 부를 배분하는 방식을 말한다.

마지막으로 그는 "문화의 가치가 승리 전략이라고 생각한다"라며 "문화는 도덕적 힘을 지닌 수백만 개의 작은 결정의 합계이며 모든 사람을 같은 편으로 끌어들이는 경향이 있기 때문"이라고 밝혔다.

출처 : AI타임스(https://www.aitimes.com)