비전공자도 이해할 수 있는 AI지식 -진정한 이해는 무엇인가-
1. 인간을 흉내낼 수 있다면 생각할 수 있는 것이다
우리 말을 이해하는 것처럼 보였던 컴퓨터가 사실은 언어를 숫자로 바꿔 확률을 계산할 뿐이란 점에 실망한 분도 있을 것 같습니다.
그렇다면 과연 이해한다는 것은 무엇을 의미할까요?
앨런 튜링은 <계산 기계와 지능>에서 '기계는 생각할 수 있는가?'라는 담대한 질문을 던지면서
생각의 정의를 내리는 어려운 과정을 탐구하는 대신에
인간이 생각한다고 여기는 행동을 기계가 흉내낼 수 있다면 이를 '생각한다'라고 판정하자고 제안합니다.
누군가가 의식하고 있는지를 알아내는 유일한 방법은 그 사람의 행동을 내 행동과 비교하는 것 뿐인데
기계라고 굳이 다르게 취급할 이유가 없다는 것입니다.
이 발상을 바탕으로 제안한 것이 바로 그 유명한 '이미테이션 게임', 우리말로 하면 '흉내 놀이'입니다.
이 놀이는 일종의 사고 실험으로 이를 통과하면, 즉 기계가 인간을 잘 모방하면 기계가 지능을 지닌 것으로 판단하자는 거죠.
방식은 다음과 같습니다.
- 남성 A, 여성 B, 그리고 실험자 C, 총 3명이 각자 방에 있어서 서로를 볼 수 없습니다.
- C는 A와 B에게 질문을 하면서 둘 중 누가 남자이고 누가 여자인지를 맞춰야 합니다.
- A는 C가 잘못된 판단을 하도록 실험자를 속이고, B는 C가 올바른 판단을 하도록 실험자를 도와줍니다.
여기서 만약 기계가 A의 역할을 맡으면 어떤 일이 벌어질까요?
실험자는 인간 남녀와 얘기할 때처럼 속임수에 넘어갈까요?
기계는 사람보다 실험자 C를 더 잘 속일 수 있을까요?
튜링은 이 게임을 '기계는 생각할 수 있는가?'라는 어려운 질문 대신에 사용하자고 제안했습니다.
이것이 바로 튜링 테스트(Turing test)입니다.
튜링은 논문을 출판한 1950년에, 50년 후 정확히 21세기가 열리는 시점에는 평범한 사람이 5분 동안 튜링 테스트를 한 뒤에 정체를 알아맞힐 확률이 70%를 넘지 않을 것으로 예측했습니다.
튜링의 주장대로라면 21세기에는 30%의 컴퓨터가 '생각할 수 있는 기계'가 되는 셈이지만, 아쉽게도 아직까지 튜링 테스트를 제대로 통과한 챗봇은 존재하지 않습니다.
당시에는 튜링 또한 인공지능을 지나치게 낙관적으로 바라봤던 것 같습니다.
2. 중국어 방 사고실험, 튜링테스트를 통과한다고 생각하는 것은 아니다
그렇다면 과연 튜링 테스트를 통과했다는 사실만으로 기계가 생각한다고 볼 수 있을까요?
여기에 대한 대표적인 비판이 UC 버클리의 존 설 교수가 1980년에 발표한 중국어 방 사고 실험(chinese room)이 있습니다.
이 실험은 다음과 같습니다.
1) 중국어를 모르는 사람을 작은 방에 들어가게 한 후 중국어로 된 질문과 대답이 적힌 책, 필기도구를 함께 넣어줍니다.
2) 한쪽에서 중국어로 질문을 써서 넣으면, 방 안에 있는 사람은 중국어 책에서 답변을 찾아 작성한 쪽지를 반대편으로 건넵니다.
이렇게 하면 중국어를 전혀 모르는 사람도 단순히 책에 있는 답변을 찾아내서 튜링 테스트를 통과할 수 있습니다.
그렇다면 이 사람은 과연 중국어를 이해했다고 볼 수 있을까요?
밖에서 보면 마치 방안에 있는 사람이 중국어 질문을 알고 있는 것처럼 보이지만, 실제로는 규칙에 따라 기계적으로 대응하고 있을 뿐이란 거죠.
존 설은 이런 방 안에 있는 사람이 중국어 질문을 이해한다고 볼 수 없으며, 마찬가지로 이렇게 행동하는 기계를 '생각'한다고 볼 수 없다고 했습니다.
존 설은 <제퍼디! 퀴즈쇼>에서 인간을 꺾고 우승을 차지한 IBM의 왓슨에 대해서도 이렇게 평가했습니다.
"왓슨은 질문도, 답도 이해하지 못하고, 자신이 시합을 하고 있다는 것도, 심지어 자신이 이겼다는 것도 이해하지 못한다. IBM의 컴퓨터는 이해하도록 설계되지 않았고, 그렇게 설계될 수도 없다. 이해하는 것처럼 흉내 내어 행동하도록 설계되었을 뿐이다."
우리가 지금까지 살펴본 BERT같은 언어 이해 모델이나 GPT같은 생성 모델은 모두 숫자로 표현하고 확률을 계산할 뿐입니다.
질의응답도 마찬가지입니다.
그저 정답의 위치만을 찾을 뿐이었죠.
컴퓨터는 마치 사람처럼 또는 사람을 능가하는 수준으로 정답을 잘 찾아내지만, 결국은 숫자로 표현한 확률을 따라 행동할 뿐입니다.
존 설이 얘기하는 중국어 방 사례에 부합하는 경우라고 볼 수 있죠.
그렇다면 존 설의 주장대로 기계가 생각한다고 볼수는 없는 것일까요?
3. 인공지능이 진정한 이해를 묻다
컴퓨터가 인간 수준의 지능을 갖고 있는지 테스트하려면, 튜링 테스트만으로는 부족하다는 비판도 있습니다.
지능을 이해하기 위한 두뇌의 작동 방식보다는 보여지는 행동에 지나치게 의존한다는 점 때문이죠.
또한 기계가 단순히 문자를 이용한 테스트만 받을 것이 아니라 시각 정보와 청각 정보도 모두 완벽하게 처리할 수 있어야 한다는 비판도 있습니다.
하지만 미래학자 레이 커즈와일은 <마음의 탄생>에서 튜링 테스트만으로도 충분하다는 의견을 피력했습니다.
시각적, 청각적 테스트를 덧붙인다고 해서 튜링 테스트가 더 어려워지는 것은 아니라는 거죠.
또한 그는 2029년까지 튜링 테스트를 통과하는 컴퓨터가 나올 것으로 예측했습니다.
그의 전작 <특이점이 온다>에서는 특이점(Singularity)이 오는 시기를 2045년 전후로 집어 전 세계적으로 화제가 되기도 했습니다.
여기서 말하는 특이점이란 기계가 인간 지능을 추월하는 시점을 의미합니다.
2045년에는 인간의 지적 능력을 초월하는 초지능이 등장한다는 얘기죠.
이런 과감한 주장을 할 만큼 커즈와일은 급진적인 미래학자로도 유명합니다.
그렇다면 커즈와일은 중국어 방의 사례를 어떻게 해석할까요? 커즈와일은 이렇게 주장합니다.
"존 설의 중국어 방 주장은 컴퓨터가 기호를 조작하기만 할 뿐 기호의 의미는 이해하지 못한다는 것이지만, 이는 우리 뇌가 신경 간 연결과 시냅스 세기를 조작하기만 할 뿐 그 의미는 이해하지 못한다는 말과 똑같습니다. 우리 인간의 뇌도 동일한 방식으로 작동하기 때문입니다. 결국 존 설의 주장대로라면 인간의 뇌도 진정으로 어떤 것도 이해하지 못한다는 결론을 내려야합니다."
컴퓨터가 이해하는 방식은 인간의 두뇌가 이해하는 방식과 다를 바 없는데, 왜 컴퓨터는 진정으로 이해한다고 여기지 않느냐는 거죠.
인디애나대학교의 더글러스 호프스태터 교수는 1979년에 <괴델, 에셔, 바흐>라는 예술과 과학을 결합한 독특한 책을 출간해 <뉴욕 타임스> 베스트셀러에 올려놓습니다.
이 책의 아마존 독자평을 보면 "도대체 무슨 얘기를 하는 책인지 모르겠다"라는 평가가 대부분일 만큼 난해하지만,
저자는 책에서 인공지능에 대한 비판과 함께 매우 통찰력 있는 인사이트를 제시하고 있습니다.
무엇보다 호프스태터는 인공지능 연구가 인간 의식에 관한 근본적인 질문은 잊어버린 채 온통 기술 중심으로만 개발되고 있는 현실에 불만을 표했습니다.
공학자들은 지난 몇십 년간 지능을 '만들어내는'데는 탁월한 성과를 거뒀지만 정작 지능을 '이해하는'데는 턱없이 부족했다고 비판합니다.
그러면서 의미 있는 인공지능을 만드는 유일한 방법은 인간의 상상력이 작동하는 방식을 이해하는 것이라 믿었죠.
이후에도 호프스태터는 이에 대한 연구를 꾸준히 진행합니다.
그러나 아쉽게도 주류 인공지능 연구와는 많이 다르게 가정, 유추, 비유같은 뇌의 고차원적인 작동 원리를 탐구하는 호프스태터의 접근 방식은 21세기 들어 사실상 폐기되다시피 합니다.
이후에는 무어의법칙으로 대표되는 연산 능력의 눈부신 발전에 힘입어 계산의 시대가 열리게 되죠.
대표적인 결과물이 딥 블루입니다.
계산 능력만으로 체스에서 엄청난 성과를 내게 되죠.
하지만 그만큼 상상력에 관한 관심은 희미해졌습니다. 지능은 결국 엄청난 연산능력과 방대한 기억력뿐일까요?
4. 언어를 이해한다는 것은 무엇일까?
그렇다면 언어를 이해한다는 것은 과연 무엇을 의미할까요?
지금까지 수많은 사람이 컴퓨터에게 언어를 가르쳤습니다.
- 컴파일러는 규칙에 따라 인간의 자연어를 컴퓨터가 이해할 수 있는 형식으로 바꿨습니다.
- 일라이자와 심심이 같은 챗봇은 규칙에 기반해 질문에 응답했습니다.
- Word2Vec은 문장을 숫자로 표현하고 벡터 간 유사도를 판별했습니다.
- 언어를 생성하는 GPT-3는 다음에 나올 단어가 무엇인지 확률을 통해 문장을 만들었죠.
- 구글 미나, 페이스북 블렌더 봇같은 챗봇은 거대한 모델에 엄청나게 많은 데이터를 학습했습니다.
- 언어를 이해하는 BERT는 사전학습을 하고, 정답의 위치가 몇번째에 있는지 위치를 확률로 계산했습니다.
- 이루다는 BERT를 통해 대화를 숫자로 표현한 다음, 가장 근접한 답변을 골라냈습니다.
이 중에 어떤 방식이 언어를 진정으로 이해하는 것일까요?
커즈와일은 다음과 같이 주장합니다.
"통계적 분석 과정을 거쳐 언어를 비롯한 여러 현상을 이해하는 것을 '진정한 이해'가 아니라고 한다면, 우리 인간 또한 같은 방식으로 이해하기 때문에 진정으로 이해하는 것은 감히 아무것도 없다고 할 수 있다."
과연 진정으로 이해한다는 것은 어떤 의미일까요?
'책 읽기 > 비전공자도 이해할 수 있는 AI지식' 카테고리의 다른 글
| 비전공자도 이해할 수 있는 AI지식 -데이터를 잘 모아야하는 이유- (0) | 2023.01.02 |
|---|---|
| 비전공자도 이해할 수 있는 AI지식 -내비게이션은 어떻게 막히는 구간을 알까- (0) | 2023.01.01 |
| 비전공자도 이해할 수 있는 AI지식 -기계는 언어를 이해할 수 없는가- (0) | 2022.12.31 |
| 비전공자도 이해할 수 있는 AI지식 -인간보다 말을 잘하는 기계의 등장- (0) | 2022.12.29 |
| 비전공자도 이해할 수 있는 AI지식 -기계와 대화할 수 있을까- (0) | 2022.12.29 |
