토토 텔레그램 채널 - 2025년 실시간 업데이트
[이택광의 AI 인문학]‘의식’획득해야 가능한‘지능 폭발’… 그러나 인간도 자기 의식 온전히 이해 못해 스탠리 큐브릭의 1968년 영화‘2001: 스페이스 오디세이’의 한 장면. 
과학의 역사는 역설을 드러낼 때가 많다.인공지능(AI) 역시 마찬가지다.앞서 계속해서 나는 인공지능의‘역설’에 대해 이야기했다.역설이란 고대 그리스어 파라독손(Paradoxon)의 번역어로 서로 양립할 수 없는 명제가 함께 있을 수밖에 없는 상태를 가리킨다.처음에 이 말은 믿을 수 없는 거짓 명제를 뜻했다.플라톤이 기록한 소크라테스의 대화법을 보면 당대의 지식체계를 끝까지 밀어붙여 역설을 드러내는 전략으로 일관하고 있음을 알 수 있다.그래서 소크라테스는 혹세무민의 불경죄에 걸려 죽음을 맞이했다.당시 체제에서 옳다고 가르치던 진리를 사실상 부정하도록 젊은이들을 유혹했으니 얼마나 위험한 인물이었겠는가.
고대 그리스에서 상대방의 논점을 와해시키는 방법은 주장하는 논리의 역설을 폭로하는 방식이었다.그러나 이런 고대 그리스어의 의미는 라틴어로 옮겨오면서 다소 변형된다.라틴어로 역설은 파라독숨(Paradoxum)인데,이 단어의 용례는 원뜻과 달리‘부조리하지만 참인 명제’라는 뜻으로 바뀐다.더 재밌는 사실은 이 라틴어가 중세 프랑스로 들어오면서 완전히 뜻이 달라졌다는 것이다.14세기 프랑스어로 역설은 파라독스(Paradoxe)인데 이 뜻은‘상식적인 믿음 또는 기대와 반대되는 진술’이라는 의미를 가지게 됐다.영어로 역설의 용례는 이 모두를 다 포괄해서‘상식적인 믿음과 기대에 반대되지만 비논리적이지 않고 개연성 있게 수긍 가능한 명제나 진술’이다.한국은 사전마다 역설을 해설하는 말이 다르긴 한데 대체로 프랑스어와 영어의 용례를 따르는 것 같다.
이렇게 역설의 의미는 시대가 달라지면서 거짓 명제에서 상식에 반하지만 참일 수도 있는 명제라는 가능성의 문제를 지칭하게 됐다.따라서 인공지능의 역설은 인공지능 자체의 거짓을 드러내는 것이 아니라 오히려 그 가능성을 보여준다고 볼 수 있다.어떻게 보면 인공지능은 이 역설로 인해 우리의 관심을 끄는 측면이 있다.앨런 튜링의 이론 역시 근본적인 논리의 역설 때문에 후대에 더 많은 영향을 끼쳤다.무엇인가를 학습할 수 있는 인공지능은 바이어스(일상적으로 우리가 쓰는 의미로 편견이라는 뜻보다 특정한 학습을 하도록 디자인된 기계의 세팅 상태를 의미)를 통해 가능하지만,바로 그 바이어스 때문에 일반 인공지능을 획득할 수 없다.인공지능이 인간과 같아지면 사실상 인공지능에 우리가 기대하는 기능을 상실하는 것이다.
튜링의 이론에 내재한 역설은 해소할 수 있는 것이 아니라,인공지능을 떠받치는 토대다.마치 이 문제는 인간의 의식이 무엇인지 규정할 수 없는 것과 마찬가지다.두뇌를 아무리 해부해서 인간의 두뇌 구조와 동일한 기계를 만들더라도 그 장치에 의식이 깃들지 말지 과학적으로 확신할 수 없다.이렇게 확신할 수 없는 문제이기에 인공지능에 대한 온갖 신화가 탄생하는 것이다.아마도 이런 신화 중에 대표적인 것이‘슈퍼 인텔리전스’(초지능)에 대한 주장일 것이다.닉 보스트롬이 주창해서 유명해진 이 개념은 그러나 보스트롬 고유의 발명품이 아니다.
보스트롬 이전에‘울트라 인텔리전스’(초인 지능)를 구상한 영국 수학자 존 굿이 있었다.유대계 폴란드인 가족에서 태어난 굿은 스탠리 큐브릭의 1968년도 영화‘2001 스페이스 오디세이’에 등장하는 인공지능 컴퓨터에 대해 자문해준 것으로 유명하다.굿의 가설에서 중요한 상상은 바로‘지능 폭발’에 있다.이 개념은 인간 두뇌와 인공지능 기술 발전을 상호적인 것으로 간주하면서 컴퓨터를 비롯한 여러 기술의 성능이 향상될수록 인간의 지능을 가능하게 하는 두뇌의 기능을 뛰어넘어 인간보다 더 높은 지능을 가진 초인적인 기계로 진화할 수 있을 것이라는 전제를 제시한다.굿은 만일 이런 초인적 지능이 만들어진다면,기존의 문제 해결 능력과 창의력이 배가될 것이라 봤다.
굿은 튜링의 발상에 착안해‘씨앗 인공지능’이라는 개념을 제시한다.이런 최초의 인공지능을 만들어낸다면,공학적 역량이 인간 창조자의 능력과 동등하거나 이를 초월하는 인공지능을 개발할 수 있다고 예상했다.이 자동화한 인공지능은 스스로 자신의 소프트웨어와 하드웨어를 개선해 더 나은 기계를 설계할 수 있을 것이고,이 과정을 반복할수록 인공지능의 역량은 무한하게 증폭될 것이다.이런 재귀적 자기 개선은 기술 발전을 통해 더욱 가속화해서 물리 법칙이나 이론적 계산이 설정하는 한계에 도달하기 전까지 엄청난 질적 변화를 초래할 가능성이 있고,많은 반복 과정을 지속적으로 거친다면 인공지능이 끊임없이 자가발전을 해서 인간의 인지 능력을 훨씬 뛰어넘을 것이라는 논리다.
굿의 주장은 초인이란 결국 평범한 인간을 뛰어넘는 지능을 가진 기계라는 전제에 근거한다.이 말을 바꿔 생각하면 아무리 뛰어난 인간이라도 결국 기계다.이런 굿의 생각은 칸트의 계몽주의가 전제했던‘생각하는 기계’의 다른 판본처럼 보인다.물론 칸트는 인간과 기계를 구분해서 인간만이 자유로운 생각을 할 수 있다고 봤지만,결국 칸트의 생각도 인간 지성의 무한 확장에 대한 믿음에 근거하고 있다는 점에서 만일 인간과 똑같은 기계를 만든다면 그 장치 또한 지능의 무한 확장이 가능할 것이라는 상상을 할 수 있을 것이다.
굿의 견해를 따른다면 초인은 인간에게 주어진 내재적인 지적 능력의 한계를 초월하는 기계다.따라서 인간만큼 지적 활동을 잘 수행하는 기계를 제대로 설계하면 그 기계는 초지능을 획득하게 될 것이고,그 과정에서 더욱 우수한 기계를 스스로 설계할 수 있을 것이다.왜냐하면 기계는 인간보다 더 완벽하게 작동하는 장치이기 때문이다.이런 전제에서 보면 이 기계에‘지능 폭발’이 일어나지 말라는 법이 없다.굿은 “최초의 울트라 인텔리전스를 갖춘 기계는 인간이 만들게 될 마지막 발명품”이라고 정의했다.이런 이야기는 우리에게 너무도 익숙하지 않은가.대부분 우리가 접하는 20세기 과학소설의 주제가 바로 여기에 기원을 두고 있다.
인간이 만든 기계가 인간을 배신한다는 이야기는‘아이,로봇’부터‘터미네이터’와‘엑스 마키나’까지 거의 모든 과학적 허구의 뼈대를 이룬다.그러나 이런 이야기 구조는 그럴듯하게 보이지만,아직 그렇게 과학적 근거가 있는 것은 아니다.오히려 이와 같은 상상은 기독교 신화의 과학소설 판본에 가깝다.기독교 신화가 말하는 에덴동산을 인공지능 실험실로 옮겨놓았을 뿐이다.기독교 성인 중 한 명인 아우구스티누스는 아담과 이브에 대해 흥미로운 이야기를 했는데,선악과를 먹기 전 아담과 이브는 아무런 자의식이 없었다는 주장이다.이런 전제에서 아우구스티누스는 아담과 이브는 쾌락이나 슬픔에 대한 감각도 없는 자동 기계였을 것이라고 봤다.
선악과를 먹음으로써 둘은 비로소 의식을 갖게 되고 자기만의 생각을 하기 시작한다.이 때문에 이들은 에덴동산에 더는 머물 수 없었다.이런 아우구스티누스의 생각은 인공지능에 대한 신화의 원형을 그대로 보여준다.인공지능은 현대 과학자들의 아담과 이브이다.선악과를 먹기 이전의 아담과 이브에 대한 아우구스티누스의‘사고 실험’은 영미 철학의 좀비 논쟁을 떠올리게 한다.의식이란 것이 인간을 인간이게 하는 부수적 요소가 아니라 근본적 요소라는 점을 강조하기 위한 이 논의는 나와 똑같은 좀비를 상상하되 그 좀비가 나와 같은 의식을 갖고 있지 않다고 한다면 과연 그 좀비와 나는 똑같은 존재일 수 있는지 묻는다.이‘사고 실험’이 증명하는 것은 인간을 규정하는 핵심이 바로 의식이고,이 의식 자체를 메타적으로 설명하는 것은 불가능하다는 사실이다.
이런 원리로 인해 튜링의 이론과 마찬가지로 굿의‘지능 폭발’이론도 역설에 봉착한다.생각해보자.굿이 말한 대로 인간의 지능과 같은 수준의 인공지능을 만들었다고 치자.굿의 가설에 따르면 그러면 그 인공지능은 재귀적인 자기 개선을 무한 반복해 인간의 지능을 넘어갈 것이다.이때 재귀적인 반복 운동은 양적인 알고리즘을 따른다.그런데 여기에서 문제가 생긴다.굿이 말한 그 인공지능도 처음에 인간의 지능 수준일 것이다.튜링이 말한 세 살 아동이든 이세돌 같은 성인이든 여하튼 그 인공지능의 수준은 인간의 지능에 맞춰져 있다.
그렇다면 굿의 가설을 뒤집어서 생각할 수 있다.인간의 지능 수준에 도달한 인공지능이‘지능 폭발’을 할 수 있다면 그 지능 수준을 이미 갖춘 인간도 초인 지능으로 나아갈 수 있는 것 아닌가.우리 주변에‘도인’을 자청하는 수많은 인간이 있다.온갖 방송 프로그램이 그들을 취재했지만 그 주장을 하는 이들이 초지능의 증거를 보여준 적은 없다.그냥 그분은 초인이시다는‘믿음’이 있을 뿐이다.인류의 역사가 2만 년이 넘어가는데,스포츠 토토 분석 디시왜 인류사에서 남들보다 특출한 지능을 소유한 것으로 알려진 이들조차 굿이나 보스트롬이 주장하는 초지능에 대한 과학적 증거를 보여주지 못한 것일까.오히려 아이러니하게도 과학보다 종교에서 초지능에 대한 신화가 더 설득력을 얻는 것은 우연이 아니다.
인공지능이 인간의 지능 수준을 넘어설 수 없는 이유는 앞서 튜링의 역설에서 설명한 프로그램의 한계 때문이다.바이어스에 근거한 인공지능의 능력이 양적인 것이라고 한다면,초지능이나 일반 인공지능은 질적인 능력이다.문제는 마치 영미 철학에서 개념화하는 의식처럼 질적인 능력을 설명할 방법이 없다는 사실에 있다.칸트가 말한 자유로운 생각을 인공지능이 수행하도록 하려면 그 자유로운 생각이 어떤 원리에서 가능한지 알아야 하는 것이다.그런데 아직 우리는 그 원리를 제대로 파악하지 못하고 있다.초지능이 과학이 아니라 신화에 머물 수밖에 없는 이유는 여전히 우리가 우리 자신을 제대로 이해하지 못하고 있기 때문이다.
이택광 문화비평가·경희대 글로벌커뮤니케이션학부 영미문화전공 교수
토토 텔레그램 채널
토토 텔레그램 채널 - 2025년 실시간 업데이트：윤석열 대통령은 19일 서울 영등포구 문래예술공장에서 21번째 민생토론회를 열고 문재인 정부의 공시가격 현실화 제도를 강도 높게 비판했다.
토토 텔레그램 채널,AI 기반 6G 시뮬레이터와 오픈랜, AI 데이터센터 관련 주요 기술, 조비 에비에이션과 협력해 제작한 UAM 모형도 전시했다.