Tag: ViT

CLS 토큰과 Patch 토큰 상호작용 재고

ViT에서 [CLS] 토큰과 patch 토큰의 처리 경로를 분리하면 dense prediction 성능이 향상된다