Скачать с ютуб [Paper Review] RECLIP: Resource-efficient CLIP by Training with Small Images в хорошем качестве

[Paper Review] RECLIP: Resource-efficient CLIP by Training with Small Images

발표자 : 석사과정 성시열 1. 논문 제목: RECLIP: Resource-efficient CLIP by Training with Small Images 2. 논문 링크: https://arxiv.org/abs/2304.06028 3. 인용 수: 4회 (~2024.6.30) 4. 논문 Overview: - CLIP 연구에서는 큰 Batch Size 구현을 위해 거대한 컴퓨팅 자원이 필요하여 고급 장비를 가진 기관에 한정됨 - 효율적인 컴퓨팅 자원 활용 방법으로 RECLIP을 제안함 - 저해상도 이미지와 짧은 이미지 임베딩 길이를 사용하여 계산량을 감소시킴 - 학습 끝 부분에서 고해상도 이미지로 Fine-tuning을 수행하므로써 컴퓨터 자원 요구사항을 최소화함 - 그 결과 Zero-shot Image Classification, Image-Text Retrieval 분야에서 적은 계산량으로 경쟁력 있는 성능을 보였으며, LVIS를 활용한 Open-Vocabulary Detection 분야에서 SOTA를 달성함