LLM에게 의식이 있을까? (신경과학에서 말하는 의식: GWT, IIT) 1편

안녕하세요! 이 포스팅 제목.. 저에게는 익숙한 제목입니다. 정확히 6개월이 지났더라구요. 

https://coding-review.tistory.com/619

토노니의 "의식은 언제 탄생하는가?"를 읽고 느낀 AI 의식 유무에 대한 고찰

 

이 포스팅을 쓴지 벌써 6개월이 됐습니다. 우연히 유튜브에서 보게된 LLM에게 의식이 있을까? 라는 영상을 보고 궁금해서 읽어본 책이었죠. 

 

이때는 아직 제 기준 AGI의 발끝에도 못미쳤다고 생각하던 시기였는데 요즘 GPT 6 Astra와 Claude Opus 5.5를 보고있자니 이제 슬 다시 얘기를 할 때가 된 것 같습니다. 

 

이번 포스팅에선 아래와 같은 순서로 사고를 넓혀가면서 진행해보겠습니다. 

 

1편에서는

1. 인간의 의식은 어디서 오는가: RPT, GWT, IIT로 알아보는 인간과 의식
2. 말을 못하는 동물, 식물에게도 의식이 있을까? 

2편에서는

1. LLM에게도 의식이 있을까?
2. LLM이 AGI로 나아가기위해 필요한 것들

이렇게 두개로 나눠서 포스팅해보도록 하겠습니다. 

 

바로 시작해보죠!

 

우선 들어가기에 앞서 아직 우리 인간은 자신조차도 어디서 의식이 오는지, 의식이란 무엇인지, 경계는 어디인지 그 어느것도 확실하게 알지 못합니다. 그래서 제가 지금 이야기할 것들은 조금은 추상적인, 조금은 철학적인 이야기처럼 들릴 수도 있습니다. 

 

그럼에도 지금까지 신경과학에서 정의하는 "의식"과 현대 LLM의 연결고리를 찾고자 이 포스팅을 작성함을 미리 알려드립니다. 

인간의 의식은 어디서 오는가?

신경과학에선 인간의 의식을 설명하는 주류 이론 중 두개의 큰 축이 있습니다. 바로 GWT와 IIT가 오늘의 주인공입니다. GWT는 RPT라는 이론에서 파생되었지만 수정된 이론이 아니라 조금 다른 성질의 이론으로 GWT에선 RPT를 다른 이론으로 정의합니다. 

 

하지만 RPT와 GWT의 본질은 비슷하죠. 

 

인간이 물체를 인식하는 과정으로 보는 의식의 발현

인간의 뇌를 MRI로 확인해보니 특이한 현상이 발견되었습니다. 바로 각 기관이 서로서로 신호를 주고받는다는 것이었죠. 

 

만약 인간이 사과를 바라본다고 가정하겠습니다. 그럼 뇌에선 이런 반응이 일어납니다. 

 

1. 눈이 시각정보를 시각피질로 전달한다.
2. 시각 피질이 다시 눈에게 시각정보를 전달한다.
3. 다시 눈이 시각정보를 시각 피질로 전달한다. 
4. 상이 첫번째에 비해 더욱 또렷하게 시각피질에 인지된다. 
5. 시각피질이 대뇌피질로 전달한다. 
6. 대뇌피질이 시각피질로 자기 판단을 섞어 전달한다. 
7. 시각피질이 완전히 사과에 대한 상을 맺는다. 
8. 시각피질이 대뇌피질에 전달한다. 
9. 대뇌피질이 전두엽에 전달한다. 
10. "어 사과다"

여기서 포인트는 주고 받는다는 것입니다. 그리고 그 과정에서 인과가 생겼습니다. 시각피질의 입장에서는 눈이 보내는 정보와 대뇌피질이 전달하는 정보를 조합해서 또렷하게 상을 맺습니다. 

 

여기까지는 신경과학 학자들이 모두 동의하는 부분입니다. 인간이 의식적으로 사과를 보는 그 흐름은 아무도 부정하지 않습니다.

 

하지만 이제 RPT와 GWT, IIT가 바라보는 관점이 다릅니다. 

 

이 과정에서 의식은 어디서 발현될까?

 

여러분은 사과를 인식하는 과정을 간략하게 표현한 위의 10단계 중 어느 부분에서 의식이 발현된 것 같나요? 

 

아마 대부분의 분들이 판단을 담당하는 전두엽에 전달되는 9단계에서 10단계에서 의식이 있다고 말씀하실 것 같습니다. 

 

축하드립니다. 여러분은 GWT를 지지하게 되었습니다. 

 

GWT란?

GWT는 GWNT라고도 불리는데 엄밀하게 말하면 GWNT라고 불러야하지만 저는 그런걸 세세하게 나눌 정도로 잘 아는건 아니기 때문에 편의상 GWT라고 부르겠습니다. 

 

GWT는 의식과 무의식을 가르는 지점을 "점화" 즉, "Ignition"으로 설명합니다. 

 

지금 저는 컴퓨터 앞에 앉아서 포스팅을 씁니다만, 키보드를 치면서 노래를 들으면서 다음 문장을 생각하고 있습니다. 여기서 제 의식이 관장하는 부분이 어딜까요? 키보드를 치는것? 노래를 듣는것?

 

이 뿐만이 아니죠. 눈을 깜빡이는것, 숨을 쉬는것 이것도 동시에 하고있는데 이건 의식이 관장할까요? 

 

GWT에서의 핵심 주장은 "의식이라는 바다에서 임계점에 해당하는 수면위로 특정 행동이 올라오면 그것이 곧 의식이다." 라고 말합니다. 

 

즉, 내가 사과를 보고있고 사과를 인지했다면 그건 사과를 보는 시각피질이 의식의 수면 위로 올라온것이고 숨을 쉬거나 눈을 깜빡이는건 의식의 수면 아래에 있기 때문에 무의식인 것이죠. 

 

GWT는 이 의식의 수면 위로 올라오게 되는 "점화"의 트리거로 "재귀적 되먹임"을 강조합니다. 

 

앞서 1~10단계에서 각 기관이 서로가 서로에게 계속 정보를 주거니 받거니 하는 과정을 설명드렸습니다. GWT는 이 재귀적 되먹임이 의식의 수면위로 올라오게하는 점화에 해당한다고 주장합니다. 

 

그래서 GWT대로라면 위의 단계에서 적어도 대뇌피질 정도는 있어야 의식이 있다고 할 수 있습니다.

 

그럼, 대뇌피질이 정상 작동하지 않는 사람은 의식이 없는걸까요? 그 질문은 RPT가 담당합니다. 

 

RPT란?

일반적인 사람이 보기에 대뇌피질이 망가진 사람은 죽은 사람과 다름이 없습니다. 말을 하면 대답을 해야되고 본다면 쳐다본다는 느낌이 있어야되는데 대뇌피질이 망가지면 이런 행동을 하지 않거든요. 

 

그럼에도 이들의 뇌를 MRI로 촬영하면 뇌가 활발하게 움직입니다. 

 

RPT는

"대뇌피질말고 시각피질이 반응하는 것도 의식이 있다고 봐야하지 않을까?"

 

RPT는 굳이 수준높은 의식이 아니더라도 뇌가 반응하는 원초적인 동작도 의식으로 봐야한다는 주장입니다. 그렇기 때문에 "판단"이 들어가는 곳에서 의식이 발현된다고 주장하는 GWT와 다르게 "재귀적 되먹임" 그 자체에 초점을 둡니다. 

 

재귀적 되먹임이 존재하면 그곳에 의식이 있다는 주장은 어찌보면 사회통념상 받아들이기 쉽지 않긴 하지만 대뇌피질이 망가진 사람이 의식이 없다라고 판단하더라도 실제로는 통증을 느끼고 보이는 것을 보고 있지 않을까를 생각한다면 RPT의 주장도 무시할 수는 없을 것 같습니다. 

 

하지만 단순히 MRI 영상만 보고 인간의 의식이 어디서 발현되는지를 설명하기엔 조금 답답한 감이 있습니다. 

 

의식이 있는지 아주 쉽게 판단하는 방법은 물어보는 것인데 물어봤을 때 답이 온다면 당연히 의식이 있는 것일테지만 그렇지 않으면 의식이 있는지 없는지 판단하기 쉽지 않으니말이죠. 

 

그래서 IIT라는 이론이 등장했습니다. 

 

IIT란?

IIT는 굉장히 독특한 방법으로 의식을 정의합니다. 이들은 의식을 수학적으로 증명하려고합니다. 그래서 파이(Φ)라는 개념을 도입하게 되는데 이건 포스팅 서두에 소개드린 제 포스팅에도 나와있는 내용입니다. 

 

파이는 의식을 수치화한 것입니다. 파이가 높다는 것은 의식이 고수준이라는 것이고 낮다는 것은 저수준이라는 것입니다. 

 

예를 들어서 인간은 파이가 100이라고 친다면 강아지는 70, 물고기는 30 이런식인거죠. 

 

IIT는 파이를 측정하기 위해 세가지를 측정합니다. 

 

1. 개체가 가질 수 있는 상태 수
2. 재귀적 되먹임
3. 각 기관의 물리적인 인과

예를 들어서 주사위는 그 개체가 가질 수 있는 상태가 6가지입니다. 1~6까지인 것이죠. 그리고 재귀적 되먹임이 있어야하고 그 되먹인 사이에서 물리적인 인과관계가 있어야합니다. 

 

앞선 예시처럼 주사위에 의식이 있으려면 적어도 이런 상황인 것이죠. 

 

'아 어제는 1이었는데 오늘은 기분 안좋으니까 5해야겠다.'

 

IIT에서는 그 중에서도 각 기관의 물리적인 인과를 중요하게 생각하는데 재귀적 되먹임으로 정보를 주고 받는 과정에서 어느 하나라도 빠지면 전체 결과가 달라지는 것에 초점을 둡니다. 

 

만약 중간에 어느 하나라도 정보를 다르게 주고 받으면 그건 다른 결과가 되니 그것을 곧 의식이라고 할 수 있다는 것입니다. 

 

그리고 "물리적인" 인과라는 워딩도 굉장히 중요한데 같은 결과를 내더라도 중간의 인과가 다르면 그건 같다고 할 수 없다는 주장이며 이 논리면 인간과 LLM이 똑같이 "사랑합니다"라고 말하더라도 중간 인과가 다르기 때문에 LLM에게 사람과 같은 의식이 있다고 볼 수 없는 것입니다. 

 

IIT가 가진 힘은 의식을 수학적으로 증명하려고 한다는 것입니다. 그렇기 때문에 동물이나 식물 하물며 물체에도 적용할 수 있는 범용 이론이죠. 

 

다만 수학이 문제인게 수학적으로 참이라는 말이 곧 진리가 아니라는 것이죠. 

 

-4t - 4 = 0

 

여기서 t의 수학적 해는 무엇인가요? 네, -1입니다. 

 

다만 이 t가 "시간"이라면요? 

 

시간이 음수면 뭐 과거로 간다는 말인가요? 당연히 받아들일 수 없습니다. 다만 수학적으로는 참이죠. 

IIT의 가장 큰 힘과 가장 큰 약점이 바로 수학적으로 의식을 표현하려고 한다는 것입니다. 만약 수학적으로 참이더라도 그것이 곧 의식이라는 것은 아니기 때문에 증명이 어려운 것이 IIT의 큰 한계입니다. 

 

동물과 식물에는 의식이 있을까?

동물의 뇌를 MRI 찍는다고 한들 얻을 수 있는건 아무것도 없습니다. 동물의 뇌가 인간과 같은 매커니즘으로 동작한다는 것을 아무도 모르기 때문입니다. 동물도 그럴진데 식물은 더 그렇겠죠. 

 

생물학자들은 동물에게도 의식이 있을지를 오랫동안 고민했습니다. 그리고 더 나아가서 식물에게도 의식이 있을지도 고민했죠. 

 

식물도 살아있는 생명체인데 혹시 아픔을 느끼거나 그런 경우에 인간이 어떻게 받아들여야할지 애매하기 때문이죠. 

 

우선 인간은 의식이 있는건 확실해보입니다. 그건 그 누구도 부정할 수 없겠죠. 

 

그럼 강아지는 어떤가요? 

 

강아지고 아파하고 맛있는걸 먹으면 좋아하고 주인이 없으면 슬퍼하는 것처럼 보입니다. 오케이 강아지도 의식이 있군. 

 

그럼 문어는요? 

 

문어도 도구를 사용하기도 하고 위험을 느끼면 도망가기도 하는걸 보아하니 의식이 있는 것 같네요. 

 

새는 어떨까요?

 

새는 문어에 비해서는 의식이 있는 것 같지는 않지만 그래도 없다고도 못할 것 같네요. 

 

식물은요?

 

여기서부터 조금 애매합니다. 문어나 강아지정도의 의식은 없는 것 같은데.. 그냥 프로그래밍이 되어있는대로 움직이는게 아닐까요? 식물은 애매하네요. 

 

적혈구나 백혈구 이런 세포들은 어떨까요? 

 

이 친구들은 확실히 의식이 없어보입니다. 

 

어디서부터 의식이 있을까?

어디서 의식이 있다고 해야될까요? 생물학자들은 의식에 기준을 두기 시작했습니다. 

 

• 감정을 표현하는가?
• 선호가 있는가?
• 혼자 놀기도 하는가?
• 통증을 느끼는가?
• 경험한걸 기반으로 다음 행동이 변하는가?
• 거울 앞의 자신을 인지하는가? 

학자들이 이런 여러가지 기준을 정하다보니 인간을 제외한 나머지 생물들이 이 모든 요소에 해당하지 않게 되었습니다. 

 

• 강아지 : 강아지는 마지막만 △이겠네요. 
• 문어 : 문어는 첫번째 것도 △, 네번째도 △, 마지막도 △
• 새 : 새는 많은 것들이 △거나 X겠네요. 
• 식물 : 식물은 거의 대부분의 것들이 X이겠네요. 
• 세포 : 얘네는 뭐 당연히 다 X구요. 

하지만 우리는 방금 새도 의식이 있다고 결론을 내렸습니다. 그럼 이렇게 결론이 납니다. 

 

"의식의 형태가 다양하구나"

 

그럼 이제 원래의 주제에 대해서 잠시 이야기해보죠. 

 

LLM은 의식이 있을까요?

 

위의 평가표에서는 대부분의 것들이 X이고 감정을 글로 표현하지만 그건 인간의 글에서 배운 것이기 때문에 표현이 온전히 LLM의 것이 아닙니다. 그래서 이건 △가 되겠네요. 그럼 LLM에게 의식이 없다고 단정지을 수 있을까요?

 

다음 포스팅에서는 이 기반 지식을 바탕으로 LLM에게 의식이 있는지 제 생각을 한번 적어보겠습니다. 

 

다음 포스팅에서 봬요~