유발 하라리에게 묻다. <호모 데우스> 10문 10답

https://gmy.book.eutopos.co.kr/book/magazine/view/book/956

세계로 미래로 책으로 - 김영사

---

⑥ Q: 인간과 인공지능의 가장 큰 차이는 결국 "의식"의 유무인데, 시스템에서는 의식은 필요 없다고 생각합니다. 그러나 유발 하라리 작가님이 설명했듯이 과학과 경제에는 브레이크가 듣지 않습니다. 의식이 없는 기능적인 AI는 약한 AI개념에 속하고 인간과 같은 의식을 가지는 AI를 강한 AI라 규정하고 이미 이를 창조하려고 노력하고 있습니다. 잘 알겠지만 AI 개념의 원조라고 할 만한 HAL9000(스페이스 오디세이 2001)은 정신병을 일으키는 ‘의식’을 가지고 있습니다. 

또한 레이 커즈와일은 인간의 ‘의식’ 자체가 일종의 생화학적 알고리즘의 일종이므로 이를 비유기적 알고리즘으로 구성된 프로그램으로 대체 가능한 개념이라고 주장하고 있습니다. 이러한 강한 AI, 즉 인간과 비슷하거나 인간보다 더 인간적인 면모를 가진(지능만 높은 AI가 아니라 인간의 약점까지 그대로 가진) 출현할 수 있을지에 대한 작가님의 의견이 궁금합니다. 레이 커즈와일은 이러한 비정상적인 인간적 욕망을 가진 AI의 출현은 없을 거라 생각합니다. 굳이 만들 효용이 없고 그런 식의 공상과학은 잘못된 유비추리에서 비롯된 것이라 주장합니다(인간의 의식이 문제 있으니 인공지능의 정신도 문제 있을 거라는 식의 인간적인 관점에 빠진 추정). 이에 대한 작가님의 생각은 어떤지 묻고 싶습니다. (agny**** 님의 질문)

---

A: 먼저 이렇게 살펴봅시다. AI가 정서지능과 예술 같은 인간의 영역으로만 여긴 분야에서 조차도 우리와 경쟁을 시작하게 될 것입니다. 오늘날 이미 AI가 사람의 감정을 감지하고 예술을 창작하는 분야에서 인간보다 더 잘하고 있습니다. 제가 여러분의 감정을 어떻게 알 수 있을까요? 저는 당신의 얼굴 표정과 목소리 톤 같은 외부적인 신호를 분석하여 알아챕니다. AI는 똑같은 분석을 저보다 더 정확하게 할 수 있으며, 통상 저의 눈과 귀가 보고 들을 수 없는 수많은 내적 지표를 동시에 분석할 수 있습니다. 당신의 혈압, 뇌의 활동, 셀 수 없을 정도로 많은 기타 바이오인식 데이터를 모니터하여, AI는 당신이 화가 나 있는지, 사랑하는지 혹은 고통을 느끼고 있는지를 알 수 있습니다. 예술에 있어서도, 만약 예술의 목적이 사람의 어떤 특정 정서를 고무시키는 것이라면 머지 않아 컴퓨터가 사람보다 더 나은 예술가가 될 것입니다. 컴퓨터가 스스로의 어떤 감정을 지니지는 않겠지만 인간보다 더 잘 인간의 감정을 분석하고 조종할 수 있게 될 것입니다. 마치 컴퓨터가 키보드인 것처럼, 우리의 감정을 가지고 놀 수 있을 겁니다. 그래서 우리는 정서지능이나 예술에서조차도 AI와 경쟁할 수 없게 될 것입니다. 

다른 시각으로는, AI가 예측 가능한 미래에 인간처럼 될 가능성은 낮으며, 특히 AI가 의식을 개발할 가능성은 낮습니다. 공상과학 영화는 대개 지능을 의식과 혼동하고 있으며, 인간과 지능을 겨루고 능가하기 위해서는 컴퓨터가 의식을 개발해야 한다고 추정합니다. 대부분의 공상과학 영화의 줄거리는 컴퓨터가 의식을 개발할 경우에 어떤 일이 일어날까?라는 의문을 중심으로 전개됩니다. 흔히 주인공인 인간이 컴퓨터와 사랑에 빠지거나, 컴퓨터가 모든 인간을 죽이려 합니다. 

지능과 의식은 사실상 매우 다른 것이기 때문에, 이러한 줄거리는 비현실적인 시나리오입니다. 지능은 문제를 해결하는 능력인 반면, 의식은 어떤 것을 느끼고 욕망하는 능력입니다. 포유동물은 이 두 능력이 함께 작동합니다. 포유동물은 어떤 것을 느낌으로써 문제를 해결합니다. 따라서 지금까지 고등지능은 항상 의식과 관련 있었습니다. 바둑을 두고, 차를 운전하고, 전쟁을 하고, 질병을 진단할 수 있었던 유일한 존재는 의식을 지닌 인간이었습니다. 그러나 지능은 이제 의식으로부터 분리되고 있습니다. 우리보다 더 잘 바둑을 두고 차를 운전하며, 전쟁을 하고 질병을 진단할 수 있는 무의식의 알고리즘을 우리는 개발하고 있지만, 아직 그것은 아무런 의식을 갖고 있지 않으며, 의식을 개발하려는 증거조차 보이지 않습니다. 예를 들면 바둑에서 이세돌을 이긴 AI인 알파고는 놀라운 지능을 지니고 있지만, 의식은 전혀 없습니다. 알파고는 바둑을 두는 동안 불안감을 느끼지 않았고, 바둑을 이겼을 때도 기쁨을 느끼지 않았습니다. 알파고는 전혀 감정을 지니고 있지 않습니다.

---

지능은 이제 의식으로부터 분리되고 있습니다.
-> 이게 과연 맞을까?