【Self】 Self-supervised learning 2 - SwAV

  • Contents
    • SwAV PPT
    • SwAV Code
    • SwAV Paper
  • File Path = /Users/junha/OneDrive/21.1학기/논문읽기_21.1/Self-Traning

SwAV github gif

Link: https://github.com/facebookresearch/swav

gif

SmartSelect_20210621-120550_Flexcil



SwAV Code

Swav_code_1.png Swav_code_1.png Swav_code_1.png Swav_code_1.png Swav_code_1.png Swav_code_1.png

  • 아래의 내용은 Q = code를 만드는 Distributed_sinkhorm() 코드이다. 해당 코드는 굳이 이해하려고 하지 말고 그대로 사용하자.
  • Soft Label Rounding (깍아내기, 가지치기) 과정이라고만 생각하면 편하다.

Swav_code_1.png Swav_code_1.png Swav_code_1.png Swav_code_1.png



SwAV Paper

image-20210621114151928 7_SwAV.png 7_SwAV.png 7_SwAV.png 7_SwAV.png 7_SwAV.png 7_SwAV.png 7_SwAV.png 7_SwAV.png 7_SwAV.png 7_SwAV.png 7_SwAV.png 7_SwAV.png



SwAV PPT

Swav_1.png Swav_1.png

  • 위의 그림은 잘못된 그림이다. 위와 같이 X 자로 비교하지 않는다.
  • Q_1(=q_s)은 p_t 끼리 BCE loss를 적용한다.
    image-20210621114151928

Swav_1.png Swav_1.png Swav_1.png


© All rights reserved By Junha Song.