Approximate Machine Unlearning through Manifold Representation Forgetting Guided by Self Mode Connectivity

Machine unlearning is a fundamental mechanism that enforces the right to be forgotten. Existing unlearning studies that rely on label manipulation or task-gradient reversal often deliver limited unlearning effectiveness. Moreover, they can undermine the original learning objective and typically do not guarantee equivalence to standard unlearning by retraining. In this paper, we propose \textbf{ManiF-SMC} (\textbf{Mani}fold \textbf{F}orgetting with \textbf{S}elf \textbf{M}ode \textbf{C}onnectivity), motivated by the observation that a model retrained on the remaining data tends to classify erased samples by their semantic similarity to the retained data. We begin with systematically recasting the approximate unlearning as pushing each erased sample away from its original learned manifold representation centroid toward its nearest semantic neighbors in the retained data. This reformulation aligns unlearning with retraining behavior and operates purely in representation space, reducing reliance on labels and task-specific gradients. To tackle the manifold representation-based unlearning problem, ManiF-SMC encapsulates the unlearning and representation preservation goals in a margin-based triplet loss. Because finding a suitable margin for unlearning is challenging, we propose a self-mode-connectivity module that rapidly reconstructs the local manifold to guide the adaptive margins generation for each unlearning case. Extensive experiments on four representative datasets show that ManiF-SMC achieves unlearning effectiveness comparable to state-of-the-art approximate methods while operating solely within the model's representation space.

📋 한 줄 요약

**[Approximate Unlearning / Manifold]** ManiF-SMC가 erased sample을 학습된 manifold centroid에서 retained data의 semantic 이웃으로 밀고 self-mode-connectivity로 adaptive margin을 생성 — 라벨·task-gradient 의존 없이 SOTA 수준 unlearning.

🎯 핵심 기여도

Machine unlearning이 right-to-be-forgotten 강제의 fundamental 메커니즘이지만 기존 unlearning 연구가 라벨 조작·task-gradient 반전에 의존해 효과가 제한적임을 지적 — 또한 원래 학습 목표를 훼손하고 표준 retraining과의 equivalence를 보장하지 못함.
ManiF-SMC(Manifold Forgetting with Self Mode Connectivity) 제안 — 남은 데이터로 retrain한 모델이 erased sample을 retained data와의 semantic 유사성으로 분류한다는 관찰에서 동기.
Approximate unlearning을 representation space의 manifold 작업으로 systematically 재정식화 — 각 erased sample을 원 manifold representation centroid에서 retained data의 nearest semantic 이웃 쪽으로 밀어냄. 이는 unlearning을 retraining 행동과 정렬시키고 라벨·task-specific gradient 의존 감소.
Manifold representation 기반 unlearning을 margin-based triplet loss로 캡슐화. 적절한 margin 찾기가 어려운 점을 해결하기 위해 self-mode-connectivity 모듈로 local manifold를 빠르게 재구성, 각 unlearning 케이스에 adaptive margin을 자동 생성.

💡 핵심 아이디어

Approximate unlearning은 라벨·task-gradient 조작이 아니라 representation space에서의 manifold 작업으로 재정식화될 수 있으며, erased sample을 원 centroid에서 retained semantic 이웃으로 미는 triplet loss + self-mode-connectivity 기반 adaptive margin이 retraining과 정렬된 효과적 unlearning을 만든다.

🔬 기술적 접근법

**방법론**: ManiF-SMC — manifold forgetting + self mode connectivity.
**핵심 기법**: (1) Erased sample을 원 manifold centroid에서 retained data의 nearest semantic 이웃으로 push, (2) Margin-based triplet loss로 unlearning·representation 보존 목표 캡슐화, (3) Self-mode-connectivity 모듈로 local manifold 재구성, (4) 각 case에 adaptive margin 자동 생성, (5) Representation space에서만 동작 — 라벨·task gradient 의존 감소.

📊 주요 결과

4개 대표 데이터셋 광범위 실험.
SOTA approximate method와 비견되는 unlearning effectiveness.
모델 representation space 안에서만 동작.
Retraining 행동과 정렬된 unlearning 입증.

💭 의의 및 한계

**의의**: Unlearning의 라벨 조작 패러다임 탈피, manifold representation 관점으로 일반화 가능한 새 정식화, adaptive margin의 자동화로 실용성. **한계**: 4 데이터셋의 generalization, self-mode-connectivity 모듈의 계산 비용, manifold-based 가정이 일부 task에서 적합도 의존.

🚀 실용적 활용

개인정보 보호·right-to-be-forgotten 컴플라이언스.
모델 배포 후 efficient unlearning.
Continual·incremental 학습의 망각 모듈.