한 줄 정의
양자 지원 벡터 머신(QSVM)은 데이터를 기하급수적으로 확장되는 고차원 힐베르트 공간(Hilbert Space)으로 매핑하는 양자 커널(Quantum Kernel)을 활용하여 정상 데이터와 이상 데이터를 분리해내는 양자 기반 기계학습 모델 및 분류 도구이다.
핵심 요지
- 기하급수적 공간 매핑: 일반 클래식 컴퓨터로는 연산하거나 표현하기 힘든 방대한 차원의 매핑 공간을 큐비트의 기하급수적 확장성을 통해 제공한다.
- 양자 커널 적용: 두 양자 상태의 중첩도(유사도)를 측정하는 피적합 커널(Fidelity Kernel)을 기반으로 설계되어 작동한다.
- 비지도 이상 탐지 최적화: 정상 데이터의 분포 경계를 양자 커널 공간상에서 정의하고, 이를 통해 극소수의 이상 데이터(사기 거래, 침입 등)를 분리해내는 단일 클래스 SVM(One-Class QSVM) 구조로 흔히 사용된다.
상세
양자 지원 벡터 머신(QSVM)은 기존 SVM의 커널 함수(Kernel Function)를 양자 컴퓨터 상에서 연산되는 **양자 커널(Quantum Kernel)**로 대체한 모델이다.
1. 작동 매커니즘
- 양자 상태 인코딩 (Feature Mapping): 클래식 원시 피처 데이터를 인코더를 통해 압축한 후, 양자 상태로 변환하는 피처 맵(Feature Map) 회로를 통해 큐비트의 상태로 매핑한다.
- 피적합 커널(Fidelity Kernel) 측정: 두 상태 간의 물리적 중첩도를 측정하여 유사도 행렬(Kernel Matrix)을 생성한다.
- 이상치 경계 설정: 생성된 유사도 커널 행렬을 토대로 단일 클래스 SVM 목적함수를 최적화하여 정상 영역의 초평면(Hyperplane) 경계를 설정하고, 유입되는 테스트 샘플의 이상치 여부를 판별한다.
2. 하드웨어 시뮬레이션
실무 환경에서는 PennyLane(페니레인)과 같은 양자 시뮬레이터 라이브러리를 통해 GPU 상에서 상태 벡터 시뮬레이터(Statevector Simulator)를 구동하여 이 연산을 모사 및 평가한다. 큐비트 수와 얽힘(Entanglement) 구조에 따라 성능이 좌우되며, 커널이 한 값으로 수렴해 무력화되는 **커널 집약 현상(Kernel Concentration)**과 같은 양자 고유의 한계점을 극복해야 하는 설계적 과제가 존재한다.
예시
- 네트워크 침입 탐지 및 금융 이상 거래 벤치마크: 정상 데이터(0)로만 모델을 학습시킨 비지도 이상 탐지(Unsupervised Anomaly Detection) 환경에서 양자 커널 기반의 QSVM은 ROC-AUC 0.9916의 성능을 보이며, 기존 클래식 모델들(Isolation Forest, RBF OCSVM 등)보다 이상 신호를 더 잘 정교하게 분류한다.
충돌
- 클래식 커널 대비 연산 비용: 양자 커널은 이론상 고차원 특성 매핑에서 우위를 지니지만, 실제 물리적 양자 하드웨어나 고성능 시뮬레이터(PennyLane lightning.gpu 등) 없이 CPU로만 연산할 때는 속도가 기하급수적으로 느려져 일반 클래식 SVM보다 연산 효율성이 극도로 떨어진다.