헤드라인 (요약과 압축)
"슈퍼AI, 인간을 지배종서 끌어내릴 수도"…살벌한 메시지
본문 (본문 내용 복사)
디지털 휴이넘이 온다
(1) AI가 주인공 된 세상
인공지능이 스스로 결정하고 새 아이디어 창출
하라리 "20년 뒤 인간 사회 이젠 상상할 수 없어"
< 'AI가 지도자 된 세상은…' 인공지능이 그린 미래 > 인공지능(AI)이 인류를 뛰어넘어 새로운 지배종이 되는 날이 올 수 있을까. 스페이스 오디세이의 'HAL-9000'부터 어벤져스의 '울트론'까지 수많은 영화와 소설을 통해 인간들은 이런 미래를 그려왔다. AI는 어떤 미래를 상상할까. 이미지 생성 AI인 미드저니에 'AI가 인류의 새로운 지도자가 된 미래를 그려달라'고 주문했다. 인간을 닮았지만 세상 모든 일을 머릿속에 담을 것만 같은 모습의 AI가 나타났다. 미드저니
현생 인류인 호모 사피엔스는 약 30만 년 전 아프리카에서 처음 등장했다. 특출날 것 없는 신체적 능력을 지녔지만 약 3만~4만 년 전부터 지구의 지배종으로 군림하는 데 성공했다. 도구의 사용과 기술의 발달이 비결이었다. 농업혁명으로 인간의 수가 급격하게 늘었고, 산업혁명으로 물질적 생활 수준이 높아졌다. 정보혁명은 지구 전체를 네트워크로 연결해 시간과 공간의 제약을 무너뜨렸다.
인류는 네 번째 혁명기를 마주하고 있다. 바로 인공지능(AI) 혁명이다. 앨런 튜링 이후 수십 년간 개념으로만 존재하던 AI는 최근 몇 년 동안 데이터의 폭발적인 증가, 학습을 위한 하드웨어 발전, 트랜스포머와 같은 알고리즘의 등장으로 현실이 됐다. 발전 속도는 상상 이상이다. 알파고가 인간을 바둑 반상에서 끌어내린 게 2016년의 일이다. 불과 5년 만에 인간 이상의 글쓰기 능력을 갖춘 챗GPT가 등장했다. 지난해 챗GPT를 필두로 글쓰기, 그림, 음악, 영상 등 다양한 분야의 생성형 AI가 나타나 인간 이상의 능력을 보여주고 있다.
AI가 인류를 초월한 존재가 되는 것은 공상과학소설에나 나오는 흔한 클리셰로 치부됐다. 하지만 현재 기술 발전 속도를 감안할 때 AI는 수십 년 안에 인간 수준의 인공일반지능(AGI)을 넘어 초지능(superintelligence)으로 진화할 것이 확실시된다. 세계적 석학인 유발 하라리는 한국경제신문과의 인터뷰에서 “AI는 스스로 결정을 내리고 새로운 아이디어를 창출할 수 있는 역사상 최초의 도구”라며 “처음으로 20년 뒤의 인간 사회를 상상할 수 없는 시대가 왔다”고 말했다.
AI는 일하는 방식부터 정치·사법 체계에 이르기까지 우리 사회의 모든 부분을 바꿔놓을 것으로 전망된다. 기술이 빠르게 발전한다는 수준을 넘어 새로운 시대에 대한 고민이 필요한 시점이다. 창간 60주년을 맞은 한국경제신문이 새해 첫 화두로 ‘디지털 휴이넘’을 꺼낸 것도 이런 이유에서다.
휴이넘은 조너선 스위프트의 <걸리버 여행기> 4부에 등장하는 종족이다. 말(馬)을 닮은 이들은 고도화한 언어와 문화를 갖추고 있다. 휴이넘과 대비되는 종족은 인간을 닮은 ‘야후’다. 이들은 비열하고 악한 존재로 휴이넘을 숭배하며 살아간다. 휴이넘에는 인간이 창조한 기술이 인간을 지배종의 자리에서 끌어내리는 상황이 현실화할 것이라는 메시지가 담겨 있다.
이미 인간 뛰어넘은 AI…"화가·작가·의사, 내일이면 사라질 수도"
영국의 수학자 앨런 튜링은 1950년 ‘계산 기계와 지능(Computing Machinery and Intelligence)’이란 기념비적인 논문을 내놨다. 인공지능(AI) 개념을 제시한 이 논문에서 튜링은 ‘튜링 테스트’를 고안했다. 기계가 인간과 비슷하게 대화할 수 있는지 시험해 지능 보유 여부를 판별하는 시험이다.
수십 년간 AI 연구자들에게 이 테스트는 장벽과 같았다. 수많은 연구자가 튜링 테스트를 통과하기 위해 노력했지만 번번이 실패했다. 하지만 최근 학계에선 테스트 통과 여부를 신경 쓰지 않는다. 오픈AI의 GPT, 구글의 제미나이 등 대규모언어모델(LLM)은 이미 인간 못지않은, 혹은 인간 이상의 답변을 제시하고 있다.
챗GPT 등장에 AI 접근성 높아져
이미 AI는 현실이다. 맥킨지에 따르면 AI를 활용하는 기업 비중은 2017년 20%에서 2022년 50%로 증가했다. 생성 AI의 열풍이 불었던 지난해에는 이 비율이 급격하게 상승했을 것으로 보인다.
챗GPT의 등장은 AI에 대한 접근성을 높였다. 누구나 손쉽게 대화창을 통해 AI를 쓸 수 있게 되면서 AI의 위력을 인지하는 계기가 됐다. 윤송이 엔씨소프트 최고전략책임자(CSO)는 “대화 형태의 사용자 환경(UI)이 사람들의 상상력을 자극하는 측면이 있었던 것 같다”며 “초거대 AI가 새로운 기술은 아니지만 많은 사람이 충격을 받아 AI가 확산할 수 있는 변곡점이었다”고 평가했다.
기업에서는 생성 AI를 업무에 활용하고 나섰다. IBM 조사 결과 정보기술(IT) 전문가의 41%가 “회사에서 생성 AI를 탐색하고 있다”고 답했고, 27%는 “적극적으로 사용하고 있다”고 했다. 마이크로소프트(MS), 구글, 아마존 등 주요 빅테크가 이 시장의 주도권을 잡기 위해 각축전을 벌이고 있다. 발전 속도는 눈부시다. 김유원 네이버클라우드 대표는 “AI를 활용하면 개발자들의 코딩 작업 시간이 절반 이하로 줄어든다”며 “AI업계의 유행어는 ‘지금은 안 되지만, 다음달에는 될 것’이라는 말”이라고 말했다.
이미 AI가 인간을 능가한다는 연구 결과도 나오고 있다. 작년 11월 구글 헬스 AI팀은 ‘LLM을 통한 정확한 감별 진단을 위한 노력’이란 제목의 논문을 공개했다. 임상의와 AI가 같은 케이스를 두고 진단했을 때 어느 쪽이 더 정확했는지 비교하는 내용이다.
결과는 일방적이었다. AI가 혼자 진단했을 때 정확도가 59.1%로 가장 높았다. 임상의가 도움 없이 혼자 진단했을 때는 33.6%에 불과했다. 임상의가 AI의 도움을 받았을 때의 정확도는 51.8%로 AI 단독 진단에 미치지 못했다.
연구팀은 “의료 현장에서 임상의 대신 AI를 써야 한다는 것을 의미하는 것은 아니다”고 선을 그었지만, AI가 발전할수록 인간을 대체하는 현상은 거스르기 어려울 것으로 보인다.
“AI에 인간 고유 권리 위탁하진 말아야”
AI의 눈부신 발전은 인류에게 큰 도움이 될 전망이다. 하지만 전문가들은 AI에게 인간이 해야 할 판단을 위탁하는 현상을 경계해야 한다는 데 전반적으로 동의하는 분위기다.
김상배 매사추세츠공과대(MIT) 기계공학과 교수는 “AI가 아무리 발전해도 왜 그런 결과가 나왔는지 사람이 이해하지 못하면 안 된다”며 “대다수 사람이 컴퓨터와 같은 단순 프로세서로 전락하는 것을 경계해야 한다”고 지적했다.
AI는 법과 같은 제도보다 사람의 삶을 강력하게 제약할 수 있다. 가령 교통법규를 코드로 만들어 자율주행 차량에 넣으면 신호 위반, 과속과 같은 일은 벌어지지 않는다. 문자로 쓰인 규율을 지키기 위해선 인간의 의지가 필요하지만 코드로 만들어진 규율은 그렇지 않다. 효율을 극대화하는 공학적 관점을 기반으로 만들어진 AI가 인간의 기본 권리인 참정권, 자유권 등에 관련한 선택을 맡으면 인간의 주체성과 책임성을 잃어버리는 결과를 낳을 수 있다. 마이크 예 MS 아시아총괄 사장은 “AI로 인한 고위험 시나리오를 사전에 검토해야 한다”며 “AI알고리즘이 금융, 대출이나 보건, 건강처럼 사람 인생에 큰 영향을 미치는 결정을 내릴 때 인권 침해 소지가 생길 수 있다”고 말했다.
AI가 인간을 지배하는 ‘디스토피아’를 막기 위해선 AI 발전 속도에 맞춰 이를 어떻게 활용할지 가치 판단이 필요하다는 얘기다. ‘인간 복제’ 기술을 세계 각국이 합의해 불법으로 규정한 것과 같은 맥락이다.
서용석 KAIST 국가미래전략기술 정책연구소장은 “기술은 가치 중립적”이라며 “인간과 규제가 기술 발전을 어떻게 이끄는지가 더욱 중요하다”고 강조했다.
■ 디지털 휴이넘
휴이넘은 조너선 스위프트의 소설 <걸리버 여행기>에 등장하는 말을 닮은 종족이다. 고도화된 언어와 문화를 갖췄고 예의 바르고 평화롭기까지 하다. 인간을 닮은 종족 ‘야후’는 이들을 섬긴다. 현재와 같은 디지털 기술의 발전이 이어지면 인공지능(AI)은 인간을 지배할 ‘디지털 휴이넘’이 될 수 있다. 서울대 국가미래전략원의 '미래 세대 토론회' 프로젝트에서 공민우(서울대 인문대학 서양사학과), 김정훈(서울대 경제학부), 김태윤(서울대 인류학과), 박정훈(서울대 공과대 협동과정) 학생으로 구성된 디지털 휴이넘 팀이 제시한 개념이다. 미래 세대 토론회를 정리한 도서 <미래 관찰자의 살아있는 아이디어>에 수록됐다.
본문의 근거 (객관적인 수치)
•
맥킨지에 따르면 AI를 활용하는 기업 비중은 2017년 20%에서 2022년 50%로 증가
•
IBM 조사 결과 정보기술(IT) 전문가의 41%가 “회사에서 생성 AI를 탐색하고 있다”고 답했고, 27%는 “적극적으로 사용하고 있다”고 했다
•
AI가 혼자 진단했을 때 정확도가 59.1%로 가장 높았다. 임상의가 도움 없이 혼자 진단했을 때는 33.6%에 불과했다. 임상의가 AI의 도움을 받았을 때의 정확도는 51.8%로 AI 단독 진단에 미치지 못했다
추가조사할 내용 또는 결과
적용할점 (현직자에게 할 질문)
연관기사 링크
Table
Search
