AGI란 무엇인가 (튜링테스트, 강인공지능, LLM한계)

ChatGPT 같은 AI와 대화하다 보면 "이게 혹시 사람과 구별이 안 되는 수준 아닌가?"라는 생각이 들 때가 있습니다. 그래서 주목받는 개념이 AGI, 즉 범용 인공지능(Artificial General Intelligence)입니다. AGI란 특정 분야에만 특화된 지금의 AI와 달리, 인간처럼 어떤 과제든 유연하게 처리할 수 있는 지능을 뜻합니다. 하지만 이 개념은 생각보다 훨씬 복잡하고, 아직 누구도 정확한 답을 내놓지 못했습니다. 이 글에서는 튜링 테스트, 강인공지능, LLM의 한계를 차례로 짚어 봅니다.

튜링테스트, 믿었던 기준이 무너지다

AI가 사람을 흉내 낼 수 있으면 지능이 있다고 보는 시각은 오랫동안 당연하게 받아들여져 왔습니다. 바로 앨런 튜링(Alan Turing)이 1950년에 제안한 튜링 테스트(Turing Test)가 그 기반입니다. 튜링 테스트란 인간 관찰자가 텍스트만 보고 상대방이 사람인지 기계인지 구별하지 못하면 그 기계는 지능이 있다고 판단하는 방식입니다.

그런데 실제 역사를 들여다보면 이 기준이 얼마나 취약한지 금방 드러납니다. 1966년 Joseph Weizenbaum이 만든 ELIZA라는 챗봇은 사람의 말을 그대로 되받아치는 단순한 패턴만으로 사용자들을 감쪽같이 속였습니다. 심지어 ELIZA의 작동 원리를 잘 알고 있던 Weizenbaum의 비서조차 상담을 시작할 때 방에서 나가달라고 요청했다고 합니다. 이처럼 사람이 기계에 감정적으로 몰입하는 현상을 엘리자 효과(ELIZA Effect)라고 부릅니다. 엘리자 효과란 기계가 실제로 이해하거나 공감하지 못함에도 인간이 스스로 의미를 부여하며 감정을 투영하는 심리적 현상을 뜻합니다.

오늘날의 AI 챗봇에서도 같은 현상이 나타납니다. 고민을 털어놓았을 때 돌아오는 응답이 따뜻하게 느껴져 '정말 이해하는 건가?' 싶을 때가 있지만, 냉정하게 보면 패턴 기반 응답입니다. 튜링 테스트는 기계의 사고력을 증명하는 게 아니라 인간이 얼마나 쉽게 속는지를 드러내는 시험에 가깝습니다. 오늘날 컴퓨터 과학자들이 이 테스트를 AGI의 적절한 척도로 보지 않는 이유가 바로 여기에 있습니다.

 

 

 

강인공지능, 의식이 있어야 진짜 지능인가

튜링 테스트보다 훨씬 높은 기준을 제시하는 개념이 있습니다. 바로 강인공지능(Strong AI)입니다. 강인공지능이란 단순히 사람처럼 행동하는 수준을 넘어, 의식과 자기 인식을 갖춘 AI 시스템을 의미합니다. 철학자 존 설(John Searle)은 "적절히 프로그래밍된 컴퓨터는 단순히 정신을 연구하는 도구가 아니라 실제로 정신 그 자체"라는 강한 AI의 주장을 정리하면서도, 동시에 이에 대한 강력한 반박을 내놓았습니다.

그 반박이 바로 '중국어 방(Chinese Room)' 논증입니다. 중국어를 전혀 모르는 영어 사용자가 방 안에서 기호 조작 규칙만 따라 중국어 대화를 성공적으로 주고받는 상황을 상상해보면, 겉으로는 '이해'처럼 보이지만 실제로는 아무것도 이해하지 못한다는 것입니다. 이 논증은 지금도 철학계와 AI 연구자들 사이에서 수십 년째 논쟁 중입니다. 자기 인식(Self-awareness)이란 자신의 존재와 상태를 스스로 인식하는 능력을 말하는데, 이것이 AGI의 필수 조건인지 자체가 아직 결론 나지 않았습니다.

그런데 의식이 있어야 AGI라면, 우리는 AI가 의식을 갖는 순간을 어떻게 검증할 수 있을까요? 의식의 정의 자체가 인간에게도 명확하지 않은 상황에서 이 기준은 너무 추상적입니다. 강인공지능을 AGI의 유일한 기준으로 삼기 어려운 이유가 바로 이 모호함에 있습니다.

LLM한계, 지금의 AI는 AGI에 얼마나 가까운가

요즘 ChatGPT나 Claude 같은 LLM(Large Language Model, 대규모 언어 모델)을 쓰다 보면 "이미 AGI 아닌가?"라는 생각이 드는 순간이 있습니다. LLM이란 방대한 텍스트 데이터를 학습해 자연어를 이해하고 생성하는 AI 모델입니다. 실제로 일부 연구자들은 Meta의 Llama, OpenAI의 GPT, Anthropic의 Claude 같은 모델들이 이미 AGI의 범주에 들어섰다고 주장하기도 합니다.

하지만 현실은 다릅니다. 원하는 답을 얻으려면 질문을 여러 번 다듬어야 하고, 결과물에 틀린 정보가 섞여 있어 직접 검증해야 하는 경우가 적지 않습니다. Meta의 수석 AI 과학자 Yann LeCun은 LLM에는 상식이 없고, 행동하기 전에 생각하는 능력도 없으며, 지속적인 기억과 계층적 계획 능력도 부족하다고 지적합니다. LLM이 광범위한 작업을 처리하면 그것만으로 AGI라고 보는 시각도 있지만, '범용성'과 '신뢰할 수 있는 성능'은 전혀 다른 문제입니다.

2023년 Google DeepMind 논문에서는 AGI를 판단하는 프레임워크로 아래 여섯 가지 핵심 요소를 검토했습니다(출처: Google DeepMind).

1. 튜링 테스트를 통과하는 행동 모방 능력
2. 의식 또는 자기 인식을 갖춘 강인공지능 수준
3. 인간 두뇌 구조를 재현하는 신경과학적 접근
4. 모든 인지 과제에서 인간 수준 이상의 성능 달성
5. 새로운 과제를 실시간으로 스스로 학습하는 역량
6. 경제적으로 가치 있는 작업에서 인간을 능가하는 자율성

지금의 LLM은 이 중 일부 항목에서 인상적인 성과를 보여주지만, 실시간 학습이나 신체 기반 경험처럼 결정적인 항목에서는 여전히 명확한 한계를 드러냅니다. 멀티모달 AI(Multimodal AI)란 텍스트, 이미지, 음성 등 여러 형태의 데이터를 동시에 처리하는 모델을 뜻하는데, 이러한 통합 모델의 발전이 AGI로 가는 경로인지는 연구자들 사이에서도 여전히 논쟁 중입니다.

AGI 도달 시점, 전문가들도 틀릴 수 있다

그렇다면 AGI는 언제쯤 실현될까요? 2023년 10월, 2,778명의 AI 연구자를 대상으로 한 대규모 설문에서 응답자들은 2047년까지 모든 과제에서 인간을 능가하는 AI가 등장할 확률을 50%로 추정했습니다. 불과 1년 전 유사한 연구에서 나온 예측보다 13년이나 앞당겨진 수치였습니다. ChatGPT 출시 이후 AI 기술의 발전 속도가 얼마나 빨라졌는지를 방증하는 숫자입니다.

하지만 전문가 예측을 무조건 신뢰하기도 어렵습니다. 비행기를 최초로 발명한 Wright 형제 중 Wilbur Wright는 "1901년에 나는 형제 Orville에게 50년 동안 인간이 하늘을 나는 일은 없을 것이라고 말했다. 그리고 2년 후, 우리는 비행기를 만들고 있었다"라고 고백했습니다. 자기 분야의 전문가도 이처럼 크게 빗나간 예측을 할 수 있습니다.

AGI의 정의조차 합의되지 않은 상황에서 타임라인 예측은 더욱 조심스러울 수밖에 없습니다. IBM의 AGI 정의 자료를 보면(출처: IBM Think), AGI를 인정할 수 있는 객관적 벤치마크 자체가 아직 합의되지 않았다는 점이 명확히 드러납니다. 제로샷 학습(Zero-shot Learning)이란 한 번도 학습하지 않은 과제를 수행하는 능력을 뜻하는데, 이 능력이 강화된다고 해서 그것이 곧 AGI를 의미하는지는 또 다른 논쟁거리입니다. 지금 시점에서 확실한 건, AGI는 아직 목적지에 도달하지 않았고, 우리는 지도도 완성되지 않은 길을 걷고 있다는 점입니다.

자주 묻는 질문

Q. 지금 쓰는 ChatGPT나 Claude는 AGI인가요?

A. 일반적으로 현재의 LLM은 AGI로 분류되지 않습니다. 광범위한 주제를 다루는 범용성은 갖추고 있지만, 실시간 학습, 신뢰할 수 있는 추론, 신체 기반 경험 등 AGI에 필요한 핵심 조건들이 아직 충족되지 않았습니다. LLM의 결과물을 그대로 믿기보다 비판적으로 검토하는 습관이 반드시 필요합니다.

Q. 튜링 테스트를 통과하면 AGI라고 할 수 있나요?

A. 오늘날 대부분의 컴퓨터 과학자들은 그렇게 보지 않습니다. 튜링 테스트는 기계의 지능을 증명하기보다 인간이 얼마나 쉽게 속는지를 보여주는 시험에 가깝습니다. 1966년의 단순한 챗봇 ELIZA도 사람들을 감정적으로 몰입시킨 사례를 보면, 이 기준이 AGI를 판단하기에는 너무 낮다는 것을 알 수 있습니다.

Q. AGI가 실현되려면 의식이 필요한가요?

A. 아직 합의된 답이 없습니다. 의식이 필요하다는 강인공지능 관점과, 자기 인식 없이도 인간 수준의 과제 수행이 가능하다는 관점이 공존합니다. 의식의 정의 자체가 명확하지 않기 때문에, 이 조건을 AGI의 기준으로 삼기에는 현실적인 한계가 있습니다.

Q. AGI는 언제쯤 등장할 것으로 예측되나요?

A. 2023년 AI 연구자 2,778명을 대상으로 한 설문에서는 2047년까지 등장할 확률을 50%로 추정했습니다. 다만 전문가 예측도 빗나갈 수 있고, AGI의 정의 자체가 합의되지 않은 상황이라 이 수치를 단정적으로 받아들이기보다 참고 수준으로 보는 것이 합리적입니다.

Q. 에이전틱 AI와 AGI는 같은 개념인가요?

A. 다른 개념입니다. 에이전틱 AI(Agentic AI)란 도구와 여러 모델을 활용해 다단계 작업을 자율적으로 수행하는 시스템을 뜻하며, 정해진 영역 안에서 작동합니다. 반면 AGI는 사실상 모든 인지 과제에서 인간 수준 이상으로 이해하고 적응하는 가설적 지능입니다. 자율성이 높다고 해서 AGI가 되는 것은 아닙니다.

AGI를 막연히 'AI가 사람처럼 되는 것'으로 생각하기 쉽지만, 튜링 테스트부터 강인공지능, LLM의 한계까지 살펴보면 전문가들도 아직 합의에 이르지 못한 복잡한 문제입니다. 지금 당장 AGI가 실현되지 않았다고 해서 현재의 AI가 가진 가치가 줄어드는 건 아닙니다. 오히려 AI의 결과물을 주체적으로 검증하고 활용하는 능력이 더 중요합니다. AGI에 대해 더 깊이 알고 싶다면 Google DeepMind나 IBM의 연구 자료를 직접 읽어보시길 권합니다. 공식 자료를 통해 얻는 이해가 훨씬 단단합니다.

---

참고: https://www.ibm.com/kr-ko/think/topics/artificial-general-intelligence