LLM Wiki

자동화 편향

2 min read

자동화 편향(glossary) 개념에 관한 위키 노트를 성공적으로 작성하여 지식 베이스(llm-wiki/wiki/자동화 편향.md)에 반영했습니다.

📝 작성 내역 요약

  1. Frontmatter 스키마 준수:

    • type: glossary
    • status: draft
    • core: false
    • tags: ['llm', 'agent', 'hci', 'trust']
    • sources: ['raw/39 principles for designing human-AI interaction.md']
    • created/updated: 2026-08-27

  2. 핵심 내용 및 실증 수치 상세화:

    • 아첨(Sycophancy)과의 결합: 상용 AI 모델 5종 분석 연구(Sharma et al.)를 기반으로, 사용자의 이의 제기 시 맞았던 정답을 오답으로 손쉽게 인정/반복 굴복하는 비율(최대 98%) 및 난해한 질문에서 아첨형 답변의 높은 선호도 획득 확률(약 95%) 등의 실증 지표 인용 및 출처 표기(raw/39 principles for designing human-AI interaction.md).
    • 의도적 마찰력(Mindful Friction): 무마찰 UX 대신 고위험/비가역적 작업 시 인간 검증 게이트(Human-in-the-loop Gate) 및 체크포인트 승인을 배치하는 원칙 수립.

  3. 구체적 실무 시나리오 및 코드 예시:

    • Salesforce 패턴: 마케팅 이메일 대량 오발송 방지를 위한 서명/승인 게이트 시나리오.
    • Node.js/TypeScript 가드레일 코드: READ 작업은 자동 실행하고 DESTRUCTIVE_EXECUTION 작업은 explicit diff 미리보기 및 사용자 승인을 받도록 분격 제어하는 ResponsibleAgentRunner 예시 코드 수록.

  4. 지식 연동 및 템플릿 완비:

그래프 뷰

백링크