AGI, 천사인가 악마인가? 범용인공지능의 미래를 묻다 – 김대식 리뷰

출처 : 밀리의 서재

 

AGI, 천사인가 악마인가 – 김대식

기술은 하루가 다르게 급변하고 있다. 인공지능은 더 이상 전문가들만 연구하는 폐쇄적인 영역이 아니다. 이제는 스마트폰만 있으면 누구나 접근할 수 있는, 일상에 깊숙이 들어온 기술이 되었다.

일반 사용자 입장에서도 기술 발전 속도가 두려울 정도인데, 관련 분야의 전문가들은 과연 어떤 생각을 하고 있을까. 그들의 시선이 궁금해 이 책을 집어 들었다.

---

책 정보

• 제목 : AGI, 천사인가 악마인가
• 저자 : 김대식
• 장르 : 경제·경영 / 인문과학
• 출판사 : 도서출판 동아시아
• 페이지 : 238쪽

---

AGI라는 데이터 학습 괴물이 선사할 미래

AI는 익숙하지만 ‘AGI’라는 개념은 다소 생소했다. 책에 따르면 AGI는 Artificial General Intelligence, 즉 범용인공지능을 뜻한다. 특정 작업만 수행하는 기존 AI와 달리, 인간의 대부분 혹은 모든 지적 능력을 대체할 수 있는 기술이다.

개념을 이해하고 나니 AGI는 이미 우리 삶 깊숙이 들어와 있다는 생각이 든다. 공장의 생산라인은 로봇이 대체하고 있고, 심지어 이런 블로그 글조차 생성형 AI가 작성하는 시대다. 과거에는 프로그래밍 언어를 기반으로 AI를 다뤘다면, 이제는 우리가 사용하는 자연어만으로도 기술을 활용할 수 있다.

접근성이 높아진 만큼 더 많은 사용자가 자연어로 데이터를 입력하고, 그 과정에서 AI는 방대한 데이터를 학습한다. 특히 책에서 강조하는 어텐션 스코어(Attention Score) 기반의 학습 구조는 인간이 풀지 못했던 문제들을 빠르게 해결하게 만든다. 이 과정에서 기존에 없던 새로운 데이터까지 생성해 낸다.

선입견 없이 데이터를 분석하고 패턴을 찾아내는 AGI는 결국 미래 직업의 판도를 완전히 바꿀 수 있다고 저자는 말한다.

그래서 최근 나오고 있는 제안은, 앞으로 개발자, 디자이너, 기획자가 하나의 직업이 될 거라는 겁니다. 지금은 이 일들이 분리되어 기획자, 개발자, 디자이너가 따로 있는데, 앞으로는 한 사람이 세 가지 역할을 동시에 하게 될 거라는 것이지요. 그러면 가장 중요한 능력은 특정 기술이 아니라 “이게 좋다” 하고 판단할 수 있는 감각과 안목입니다. 판단력이 제일 중요하고, 나머지는 기술로 해결할 수 있습니다. (P.82)

 

---

AGI는 유토피아인가, 디스토피아인가

AGI의 등장은 이제 먼 미래의 이야기가 아니다. 직업 구조의 변화는 물론, 인간 노동의 가치가 0에 수렴할 가능성까지 언급된다. 직업을 시작으로 세계 경제의 흐름 자체가 흔들릴 수 있다는 전망도 설득력 있게 다가온다.

또한 모든 사회가 데이터 기반으로 움직이게 된다면, 과거 데이터를 수정하는 것만으로 시간의 개념조차 흐려질 수 있다고 저자는 경고한다. 편리함을 좇아 인공지능에 과도하게 의존하다 보면, 인간이 오히려 가스라이팅당하고 감정과 상실마저 데이터로 기록되는 세상이 올지도 모른다. 기술 발전이 항상 장밋빛 미래만을 보장하지는 않는다는 점을 이 책은 계속해서 상기시킨다.

우리가 흔히 질문하는 건, 인공지능이 사회에서 어떤 역할을 할지, 인간을 위해 뭐가 되기를 바라는지입니다. 그런데 진짜 중요한 질문은, 나중에 인공지능이 인간에게 어떤 행동을 기대할까? 인공지능이 봤을 때 인간은 어떤 존재일까? 필요한 존재일까, 의미 없는 존재일까, 그냥 웃긴 존재일까? 등의 질문입니다. (P.239)

---

정답은 공생의 길

AGI의 발전 속도는 이미 인간의 인지 능력을 넘어선 지 오래다. 이제 중요한 것은 기술 그 자체가 아니라 기술을 어떻게 사용할 것인가이다. 책 전반에는 어두운 미래에 대한 경고가 많지만, 이는 편리함에 가려진 이면을 직시하라는 메시지로 읽힌다.

기술 발전은 언제나 양날의 검이었다. AGI 역시 평화로운 공생의 파트너가 될 수도, 인간을 지배하는 존재가 될 수도 있다. 그 선택의 책임은 결국 인간에게 있다.

공생이 가능하다면 그게 제일 현명한 길일 겁니다. 인공지능을 노예가 아닌 파트너로 대하고, 상호 존중할 수 있도록 미리 설계해야 합니다. 어쩌면 그것이야말로 우리가 ASI 시대에서 살아남을 수 있는 유일한 길일지도 모릅니다. (P.257)

 

 

지나친 AI낙관론은 금물 <나는 AI와 공부한다>-살만 칸