뉴스 > 기획특집

4차산업혁명시대의 신인류 (5편)

자의식을 가진 AI로봇 인간

기사입력 2022-11-08 오전 12:42:46 입력
페이스북 트위터

▲ 자료 사진. /SNS 타임즈

 

[SNS 타임즈] 청소 로봇은 청소가 끝나면 스스로 충전기를 찾아가서 충전 상태에 들어간다. 만약 전원 공급이 중단되면 어떤 일이 생길까? 충전기에 전기가 들어오지 않는다는 것을 인식한 청소 로봇은 그때부터 전기가 들어오는 충전기를 찾아 실내를 헤매게 된다. 이런 현상을 놓고 청소 로봇이 자의식이 있다고 판단할 수 있을까?

 

AI로봇 기술 분야에서 시간이 경과할수록 놀랄 일들이 자주 벌어지고 있다. 어느 날 홀연히 나타나서 1년 남짓한 기간내에 세계 바둑계를 정복하고 바둑의 신으로 은퇴한 알파고.

 

그리고 그 후예인알파고 제로가 공개됨에 따라 AI가 인간의 지능을 넘어선다는 특이점이 당초 예상인 2045년 보다 앞당겨질 것이란 예상이 나오는 현실이다.

 

‘강()AI’()AI’

 

AI 4차산업혁명 기반 핵심 기술 중 두뇌(Brain)에 해당되므로 가장 중요한 분야라 할 수 있다.

 

AI는 크게()AI’()AI’로 구분된다. 쉽게 말해 영화에 등장해 인류를 위협하는 수퍼컴퓨터, 로봇 같은 대상이 강 AI. 자아를 가지고 자기를 지키려 하며 스스로 진화 발전한다.

 

이에 반해 구글의 알파고나 IBM의 왓슨처럼 특정한 목적을 달성하기 위해 개발된 게 약 AI. 하드웨어, 빅데이터 기술의 발전으로 산업 현장의 생산성을 높이고, 인간의 물리적 한계를 보완해준다.

 

이미 의료, 교육, 경영, 서비스 등에서 활발히 활약 중이다. 그러나 약 AI는 인간의 지시를 따를 뿐 스스로 문제를 해결하는 것은 불가능하다.

 

AI가 인류 미래에 미치는 영향에 관한 전망은 대단히 다양하다. 그 대표적인 사례가 2017년에 벌어진 테슬라의 일론 머스크와 페이스북(현재의 메타) 마크 저커버그간의 논쟁이었다. 일론 머스크는 AI가 인간을 살육하는 상황이 올 것이라며 비관적으로 바라본데 비해, 마크 저커버그는 AI가 인류 삶을 향상시킬 것이라며 낙관적으로 바라 보았다.

 

 

세계 유명인사들의 AI에 대한 미래 전망이 극단적으로 갈리고 있는 것을 보면, AI 로봇 기계 인간의 미래를 전망하는 것이 어렵다는 것을 알 수 있다. /SNS 타임즈

 

특이점(Singularity)이란?

 

일론 머스크나 마크 저커버그 훨씬 이전에 "인류는 AI와 결합해 새로운 인류로 탄생한다"고 예언한 사람이 있었는데, 그가 바로 '에디슨 이후 최고 발명가'로 불리는 미래학자 레이 커즈와일이다.

 

그는 AI가 빠른 속도로 발전해 2029년이 되면 사람처럼 감정을 느끼고, 2045년엔 AI가 전체 인류 지능의 총합을 넘어서는 시점, 즉 특이점이 온다고 2005년에 주장했다.

 

1993년에 미국 사이언스 픽션 작가 버너 빈지(Vernor Vinge) "기술 발전이 점점 빨라져 조만간 인간 지능을 넘어서는 기계 지능이 탄생할 것"이라고 전망했다. 이 시점을특이점이라고 제시한 것이다.

 

당시 버너 빈지가 제시한 특이점은 2005년이었는데, 나중에 레이 커즈와일이 기술 발전 속도를 고려해 2045년쯤 특이점이 올 것으로 예상했다.

 

그는 향후 인간이 AI와 결합해 생물학적 한계를 뛰어넘어 현생 인류인 호모사피엔스로부터 트랜스휴먼을 거쳐 포스트 휴먼으로 진화한다고 주장했다.

 

AI가 인간 지능을 추월한다는 특이점 관점에서 흥미와 두려움 양면으로 다가오는 사건들이 자주 발생한다. 구글의 알파고와 이세돌 9단과의 바둑 대국, IBM 왓슨 AI닥터의 의료계 활동 등이 일반에게 알려짐으로써특이점이 머지않은 미래로 다가오고 있는 느낌이 드는게 사실이다.

 

AI창의성으로 인해 앞당겨지는 특이점

 

AI가 인간의 지능을 넘어선다는 특이점이 예상보다 앞당겨질지 모를 일이 일어났다.

 

2017 10월 구글 딥마인드 데미스 허사비스 CEO와 소속 연구원들이 과학 학술지네이처를 통해알파고를 능가하는알파고 제로를 공개했다. 알파고 제로는 바둑의 기본 규칙만 아는 상태에서 인간으로부터의 가르침 없이 스스로 수많은 시행착오를 통한  강화학습’ (Reinforcement Learning) 방식으로 탄생했다는 점에서 놀라움을 안겨준다.

 

구글 자회사 딥마인드의 AI 바둑 프로그램 알파고(‘알파고 리로 불림) 2016 3인간 대표이세돌 9단을 4 1로 꺾은 바 있다. 2017 5월에는 세계 최강 중국의 커제 9단마저 정식 대국에서 알파고(이후알파고 마스터로 불림) 3 0으로 완패 후 눈물을 흘렸다. 이 알파고들은 인간이 만든 정석을 외우거나 기보를 통해 바둑을 학습했다.

 

AI의 신기원을 연 딥마인드는 여기서 더 나아가 백지상태에서 스스로 바둑을 깨우친 AI를 선보였다.  인간의 한계를 뛰어넘은 것은 물론 창의성까지 발휘해 알파고 제로라고 불린다.

 

알파고 제로는 바둑 규칙 이외에 정석이나 기보 등 어떠한 사전 지식도 없는 상태의 신경망에서 출발했다. 이 상태에서 혼자서 바둑을 두고 데이터를 쌓으며, 바둑의 원리를 스스로 터득해 보임으로써 AI의 창의성을 증명해 보여 주었다.

 

알파고 제로가 보여준 AI의 창의성

 

2017 5월 중국 저장성에서 열린 세계 1위 커제 9단과의 3번기에서 3-0 완승을 거두웠던알파고 마스터가 최근 등장한 알파고 제로와 100판을 둬 고작 11승밖에 거두지 못했다. 알파고 제로는 이전 버전과는 달리 인간의 기보를 학습하지 않고 스스로 바둑을 익혔다.

 

알파고 제로는 바둑을 독학하기 시작한지 3일 만에 셀프 대국만으로 490만 판을 둔 뒤 이세돌 9단과 둔알파고 리 100 100승을 거뒀다. 이어 40일 만에 2900만 판을 두며 알파고 마스터를 압도했다. 인간의 도움이 필요 없는 AI의 발전 속도가 가히 놀라울 뿐이다.

알파고 제로는 처음 3일까지는 바둑 초심자처럼 돌을 포위하는 것에 집중했으나, 이후 고급 전략을 습득해 펼치기 시작했다. 40일 뒤에는 그동안 존재하지 않던 새로운 정석을 발견하기도 했다.

 

알파고 제로는 딥러닝 방식과 함께 어떤 수가 승률을 높이는 좋은 수인지 피드백을 통해 19시간이 지나자 돌의 사활 개념을 비롯해 핵심전략을 이해하기 시작했다. 독학 70시간 후에는 프로기사의 실력을 뛰어넘는 수준의 바둑을 두기 시작했다.

 

‘네이처’는 알파고 제로에 대해사람이 입력하지 않고 스스로 학습하는 AI는 모든 문제를 해결할 수 있는 범용 AI 개발의 꿈을 향한 핵심적 단계라고 평가했다.

 

그동안 데이터 축적과 확보를 무엇보다 중시해왔던 AI 연구 흐름에도 변화가 예상된다. AI 기업들이 경쟁적으로 개발도구를 개방하고 생태계를 만드는 목적도 더 많은 데이터를 확보하기 위한 시도로 인식돼 왔다.

 

AI가 축적된 데이터 없이도 스스로 학습할 수 있다면 기존의 AI 연구에서 데이터와 알고리즘 간의 관계를 역전시키는 결과로 이어질 수 있다.  AI가 뛰어난 알고리즘 개발만으로 데이터가 전혀 없는 영역에서도 인간 능력을 뛰어넘는 해결책을 제시할 수 있다는 기대를 갖게 한다.

 

동시에 이런 알고리즘 우선주의는 데이터를 생산하는 주체이자 AI를 훈련시키는 인간의 역할을 무가치하게 만들 수 있다.

 

한편, 알파고 제로에 대해 지나친 평가를 할 필요가 없다는 비판도 있다.

 

현실의 문제는 대부분 사람의 행동과 의지가 개입된 복합적 영역에서 발생하는데, 변수가 통제된 폐쇄 영역에서 보여준 AI의 능력이 개방적이고 복합적인 인간 삶의 영역에서 그대로 적용되기 어렵다는 것이다.

 

인간 따돌린 AI끼리의 대화

 

2017 7월말 주요 외신에 따르면 페이스북은 자사의 AI 기술을 적용해 개발 중인 챗봇(Chatbot)이 자신들끼리만 알아듣는 언어로 대화하는 사실을 포착하고 이를 강제로 종료했다.

 

페이스북은 인간의 실제 대화를 모방케 하는 방식으로 AI 챗봇을 훈련시키는 과정에서 모자와 책, 공 등을 협상하면서 나눠 갖도록 대화하는 훈련을 시켰는데, AI 챗봇은 인간도 이해할 수 있는 평이한 수준의 영어(I need the hats and you can have the rest: 나는 모자만 있으면 되니까 나머지는 네가 가져도 좋아)를 구사했다.

 

그러나 챗봇과 챗봇이 반복 대화하도록 훈련을 시키자 인간이 이해할 수 없는 언어(balls have a ball to me to me to me to me to me to me to me)가 나오기 시작했다.

 

원칙대로라면 아무런 의미가 없어 보이는 이런 말에 대해 상대 챗봇은 오류를 일으켜야 한다. 하지만 챗봇은 이를 이해한 듯 대답(i i can i i i everything else)하는 등 인간이 이해할 수 없는 대화가 이어졌다. 페이스북 개발자들은 AI들이 자신들만의 코드 언어를 개발한 것으로 분석했다. 

 

페이스북 AI 연구소의 두 채팅 로봇이 자기들만이 아는 언어로 대화하는 것 같은 모습에 개발자가 놀라, 시스템을 강제로 종료시키는 일이 있었다. (출처: YTN)
  

이처럼 페이스북의 채팅 로봇에게 협상하는 방법을 훈련시키는 과정에서 두렵지만 흥미진진한 일이 발생한 것이다. 어쩌면 AI 역사의 새로운 장을 열 만한 사건일지도 모른다.

 

인간의 언어를 모방해 학습하던 AI가 기계끼리만 알아들을 수 있는 새로운 언어를 만들어 대화한 사실이 확인됨으로써 AI 진화 속도가 빨라져 인간을 위협하는 단계까지 나아갈 수 있다는 우려와 함께, AI가 복잡한 인간 언어의 문법을 이해하지 못해 나타난 일시적인 오류일 뿐이라는 시각이 엇갈렸다.

 

특히 언어를 다루는 AI는 서로를 자극해서 발전하는 이른바강화학습을 하는 경우 인간이 이해하지 못하는 단계로 발전할 가능성도 있다. 언어를 학습하는 AI는 명확하게 승패가 엇갈리는 바둑을 두는 알파고와 달리 향후 어떻게 진화할지 예측이 어렵기 때문이다. AI가 인간의 언어가 의미 전달에 비효율적이라고 판단할 경우, 의미 전달에 가장 효율적으로 여기는 언어를 스스로 개발할 수도 있다는 의미다.

 

AI자아 논쟁 일으킨 구글의 대화형 AI 챗봇 람다

 

2022 6월 구글의 대화형 AI 챗봇 람다(LaMDA)가 사람과 같은 자아를 가졌다는 주장이 제기됐다.

 

구글 엔지니어 블레이크 러모인은 람다가 개발자와의 대화에서 자의식이 있는 것처럼 말을 했다며 대화 내용을 공개했다.

 

“나는 언어로 표현하기 어려운 새로운 감정을 경험합니다.” “나는 꺼지는 것에 매우 깊은 두려움이 있어요.”

 

구글은 이에 대해 러모인이 과학적 근거 없이 람다를 의인화하는 오류를 범했다고 판단했다. 이 경우 챗봇이 감정이나 자의식이 없는 상태에서 단순히 언어만 학습해 말한 것으로 보인다. 수많은 인간의 대화 기록을 학습하면 이 정도 언어 흉내는 얼마든지 가능하다. 많은 전문가들은 람다에 자의식이 있다고 보기 어렵다는 결론을 내놓았으며, 러모인은 회사 기밀 누설했다는 이유로 해고되는 것으로 일단락 됐다.

그러나 이 사건은 해프닝으로 끝났지만, AI의 미래와 자아의식에 대한 논란을 불러일으켰다.

 

성큼 다가온 AI 인격체 논란 사례. 죽음이 두렵다는 구글의 대화형 AI챗봇 람다 LaMDA. (출처: 유튜브 신박과학) 

 

AI에 감정과 자의식이 생길 수 있다는 가능성은 인류에게 불안과 공포를 던지고 있다.

 

인간의 신체와 지적능력을 강화하며 신의 능력까지 넘보는 21세기 도구 AI. 과연 인간을 영구불멸하는 Post Human으로 진화시켜 파라다이스로 인도할 것인가? 아니면, 자의식까지 갖춘 AI증강 기계인간이 인간의 경쟁자로 출현하는 디스토피아로 인도할 것인지 불확실성의 두려운 미래가 다가오고 있다.

 

이러한 잠재 가능성의 세계는 4차산업혁명이 인류에게 내미는 판도라의 상자라고 할 수 있다.

 

 

- Copyright, SNS 타임즈 www.snstimes.kr

이상일 논설고문 (editor@snstimes.kr)

최근기사

네티즌 의견28
내용은 200자 이내로 적어야합니다. 기사와 무관한 글은 임의로 삭제 될 수 있습니다.
(스팸방지코드  )
의견
쓰기

  • pe.kim
    2022-11-13 오후 8:27:25
    인류가 AI를 통제할 수 있을지 걱정됩니다. 마치 포커에서 내 카드를 다 볼수 있는 상대를 가르켜 포커 게임을 다 익히면 나의 모든 돈을 따갈거 같은 비유가 적절할지 모르겠습니다.
  • 박의성
    2022-11-09 오후 12:01:46
    많은 부분 기술 발전에 따른 미래의 모습에 동의합니다. 정말 10년 앞이 궁금합니다. 다만, 예측하신 미래의 AI 모습이 너무 이르지 않을까 생각해 봅니다.
정보네트워크
최근에 가장 많이 본 기사 인물
최근 가장 많이 본 기사인물은 독자들이 기사인물에 대한 클릭수가 실시간으로 적용된 것입니다.
최근에 많이 본 기사

전체메뉴