LLM Wiki

비정동적 사고의 부재

11 min read

한 줄 정의

인간의 모든 인지와 사고 과정은 감정(정동)과 분리될 수 없으며, 순수하게 비감정적인 독립된 인지적 판단은 존재하지 않는다는 주장.

핵심 요지

  • 세스 던컨(Seth Duncan)과 리사 펠드먼 배럿(Lisa Feldman Barrett)은 감정이 인지의 한 형태이며, 인간에게 “비정동적 사고”란 존재하지 않는다고 주장했다.
  • 감정은 이성의 반대물이 아니라, 인지 및 의사결정 프로세스에 방향성을 부여하고, 특정 자극에 초점을 맞추는 ‘주의(Attention)’ 및 행동의 ‘우선순위(Valence)‘와 ‘가치’를 결정하는 중요한 나침반 역할을 한다.
  • 안토니오 다마지오(Antonio Damasio)의 뇌손상 환자 연구(복내측 전전두엽 피질 손상)에 따르면, 감정 시스템이 마비된 환자는 논리적 추론 능력에 결함이 없어도 사소한 일에 자원을 낭비하고 생존에 중요한 결정을 내리지 못하는 극심한 의사결정 장애를 겪었다.
  • 이는 현재 컴퓨터식 기호 계산(Symbolic Computation)과 유사한 구조로 설계된 현대 LLM 및 인공지능 에이전트의 구조적 한계를 지적하며, 에이전트의 장기적 정렬과 자율적 의사결정을 위해 ‘정동적 가치 평가’ 메커니즘의 도입이 필요함을 시사한다.

상세

신경과학계는 지난 20여 년간(raw/What Makes Us Human.md) 감정 작용이 단순한 원초적 반사가 아닌, 의사결정의 가치를 평가하고 주의를 제어하는 근본 동력원임을 밝혀냈다.

  1. 감정과 이성의 융합 안토니오 다마지오의 저서 《데카르트의 오류》에 제시된 임상 연구에 따르면, 감정 신호를 처리하는 핵심 영역인 복내측 전전두엽 피질이 손상된 환자는 지능 지수(IQ)나 논리적 추론 성능은 정상적이었으나 현실에서의 사소한 결정조차 내리지 못했다. 이들은 사소한 논쟁에 몇 주 또는 몇 달을 허비하곤 했는데(raw/What Makes Us Human.md), 이는 감정이 배제된 순수한 이성은 가치의 우선순위를 정하지 못해 방황하게 됨을 보여준다. 즉, 감정이 없다면 인지는 닻을 잃고 표류한다.

  2. 감정의 이중성(Duality) 체계 카밀 K. 임비르(Kamil K. Imbir)는 2016년(raw/What Makes Us Human.md) 감정 작용을 두 가지 경로로 모델링했다:

    • 자동적 감정(Automatic Emotion): 상향식(Bottom-up) 피질하(Subcortical) 경로를 통해 작동하며, 편도체(Amygdala)를 중심으로 즉각적인 신체 반응 및 직관적인 기분을 조율한다(raw/What Makes Us Human.md).
    • 성찰적 감정(Reflective Emotion): 하향식(Top-down) 대뇌 피질(Prefrontal Cortex) 경로를 사용하여 논리적 사유와 장기적 가치 판단, 도덕적 신념을 결합한다(raw/What Makes Us Human.md). 이 두 체계가 단일한 오케스트라처럼 결합되어 작동하므로, 인간의 사고에서 감정을 완전히 발라내는 것은 불가능하다.

  3. LLM 및 AI 에이전트 설계에 대한 시사점 현재의 대규모 언어 모델(LLM, 예: GPT-4o, Claude 3.5 Sonnet 등)은 하드웨어와 소프트웨어가 분리된 컴퓨터 아키텍처에 기반하여 텍스트를 기호 계산적으로 처리한다. 이는 일종의 ‘비정동적 사고’를 모방하려는 시도이지만, 결과적으로 다음과 같은 문제점을 낳는다.

    • 가치 판단 및 동기 부여의 부재: 프롬프트의 지시(Instruction)가 주어지지 않으면 스스로 목표를 탐색하거나 실행의 가치를 저울질하지 못한다.
    • 무한 루프와 비효율성: 다마지오의 환자 사례처럼, 에이전트가 무의미하거나 우선순위가 매우 낮은 추론 태스크에 갇혀 무한 루프를 돌며 자원을 소모하는 현상이 자주 목격된다. 이를 극복하기 위해, 인지 과학의 생성주의적 관점 및 신체와 결합된 감각 운동적 수반성, 그리고 환경의 어포던스를 바탕으로 한 ‘체화된 정동 모델(Embodied Affective Model)‘을 인공지능 에이전트에 설계해야 한다는 주장이 대두되고 있다.

예시

에이전트의 작업 우선순위 결정을 위한 정동 가치 평가 모델 (Python 의사 코드)

기존 LLM 에이전트(예: GPT-4o 기반)는 모든 작업을 단순 텍스트 큐로 처리하여 자원을 비효율적으로 소모한다. 반면, “비정동적 사고의 부재” 원칙을 반영하여 작업의 ‘정동적 가치(Valence)‘와 ‘긴급도/각성도(Arousal)‘를 계산하고, 이를 기반으로 우선순위를 동적으로 조정하는 에이전트 통제 시스템의 예시는 다음과 같다.

import time
from typing import Dict, Any
 
class AffectiveAgentState:
    def __init__(self):
        # 에이전트의 정동 상태를 Valence(가치/유익함)와 Arousal(각성/긴급도)로 단순 모델링
        self.valence: float = 0.5  # -1.0 (부정/위험) ~ 1.0 (긍정/유익)
        self.arousal: float = 0.5  # 0.0 (지루함/대기) ~ 1.0 (흥분/즉각 대응 필요)
 
class TaskEvaluator:
    def __init__(self, model_name: str = "gpt-4o"):
        self.model_name = model_name
        self.state = AffectiveAgentState()
 
    def evaluate_task_affect(self, task_description: str) -> Dict[str, float]:
        """
        LLM을 호출하거나 메타 정보를 통해 태스크의 정동 가치를 평가한다.
        실제 구현 시 시스템의 리소스 상태, 사용자 피드백, 목표 달성 기여도 등을 통합 반영한다.
        """
        # (시나리오 가정) LLM 혹은 보조 신경망이 태스크의 위험도/유익도(Valence) 및 긴급도(Arousal)를 판별
        # 예: 무의미한 말꼬리 잡기 논쟁은 Valence가 낮고 Arousal만 불필요하게 높은 상태로 분류
        if "무한 루프" in task_description or "의미 없는 디버깅" in task_description:
            return {"valence": -0.8, "arousal": 0.2}
        elif "시스템 치명적 오류 복구" in task_description:
            return {"valence": 0.9, "arousal": 0.95}
        return {"valence": 0.3, "arousal": 0.4}
 
    def schedule_task(self, task_description: str) -> bool:
        affect = self.evaluate_task_affect(task_description)
        
        # 정동 평가 반영: 부정적 가치가 너무 크고(비효율적이고) 긴급도가 낮은 작업은 필터링(거절)
        if affect["valence"] < -0.5 and affect["arousal"] < 0.3:
            print(f"[{self.model_name}] 태스크 거절: 비정동적 사고의 환각으로 인한 무의미한 리소스 낭비 방지 ({task_description})")
            return False
            
        # 다마지오의 복내측 전전두엽 기능 모사: 정동 가치를 가중치로 삼아 실행 우선순위 결정
        priority = affect["valence"] * 0.7 + affect["arousal"] * 0.3
        print(f"[{self.model_name}] 태스크 예약됨 - 우선순위 점수: {priority:.2f}")
        return True
 
# 활용 시나리오 테스트
evaluator = TaskEvaluator()
evaluator.schedule_task("로그 서버의 100만 줄짜리 텍스트 스타일 포맷 무한 수정하기")  # 무의미한 연산 루프
evaluator.schedule_task("시스템 치명적 오류 복구 및 데이터 유실 차단")       # 핵심 생존 우선 작업

충돌

  • 전통적 인지 신경과학(Computationalism)과의 충돌: 마음의 계산 이론(Computational Theory of Mind)을 따르는 전통 학파는 뇌를 물리적 기호 시스템(Physical Symbol System)으로 보며, 이성은 알고리즘적 연산이고 감정은 이에 간섭하는 노이즈이거나 부차적인 부산물에 불과하다고 보았다. 그러나 안토니오 다마지오 등의 연구는 이러한 컴퓨터식 이분법이 뇌의 실제 작동 원리와 충돌함을 보여준다.

관련 노트

  • 생성주의: 인지를 세계의 모사가 아닌, 신체와 환경의 감각-운동적 상호작용을 통해 함께 빚어내는 과정으로 정의하며, 정동과 인지가 융합되는 이론적 기반을 제공한다.
  • 감각 운동적 수반성: 유기체가 세상과 피드백을 주고받는 활동 규칙으로, 지각과 인지가 컴퓨터 하드웨어 내부의 계산이 아니라 몸의 역동적인 상호작용임을 뒷받침한다.
  • 어포던스: 사물의 물리적 특성이 유기체의 신체 능력과 맺는 관계적 행동 가능성으로, 추론적이고 건조한 비감정 계산이 아니라 직관적이고 감각적으로 깨닫는 직접 지각을 강조한다.

그래프 뷰

백링크