Section 1 . INTRO : t-SNE 고안 이유

• 고차원의 중요한 데이터 구조를 저차원 데이터에서 최대한 보존하는 것이 차원 축소의 목표

Classic한 linear 스케일링(PCA, MDS) 은 서로 다른 point들이 낮은 차원에서 서로 떨어져 있는거리를 중요하게여김.

• 이 선형 스케일링으로는 불가능한 local structure을 보존하고자 non-linear한 방법을 고안

다양한 non-linear한 방법들이

Sammon mapping, CCA, SNE, Isomap, MVU, LLE, Laplacian Eigenmap이 고안되었지만,

대부분의 기술들은 local/global structure을 동시에 반영하지 못했다.

• t-SNE는 대부분의 local 구조 뿐만아니라, global 구조까지 클러스터의 형태로 보존가능함을 실험으로 검증

Section 2. SNE (Stochastic Neighbor Embedding) : LLE와 비교하여.

ISOMAP/LLE

LLE는 deterministic한 접근법.

만약 LLE에서 k=5일때, 고차원에서 가장 가까운 5개 객체를 찾고, 가중치를 할당해서 저차원의 좌표계를 찾음.

이웃에 변화가 없고, 가장 가까운 5개가 이웃으로 무조건 선택됨.

SNE는 Stochastic 확률적인 접근법.

SNE는 두 point의 유클리드 거리를 조건부 확률로 변환하는 것으로 시작.