본문 바로가기
반응형

Deep Learning3

DISTRIBUTED PRIORITIZED EXPERIENCE REPLAY 리뷰 review 본 논문은 2016년에 딥마인드에서 발표한 PER의 후속 논문으로 기존 PER과 대동소이하지만 제목에서 알 수 있듯이 데이터 분산처리라는 세팅에서 수행되었다는 점이 차이점입니다. 당시의 트렌드가 무거운 모델, 더 많은 데이터를 필요로 함에 따라 적절한 분산 처리를 통해 scalability를 확장하는 것이 중요한 과제였고 그에 따라 위와 같은 연구가 진행되었습니다. 목차 Gorila 에이전트는 learner, actor 및 매개 변수 서버를 분리하여 train process를 병렬화합니다. 단일 실험에서 여러 학습자 프로세스가 존재하며 지속적으로 파라미터 서버로 그래디언트를 보내고 업데이트된 파라미터를 수신합니다. 동시에, 독립된 actor는 병렬로 경험을 축적하고 매개변수 서버에서 Q-네트워크를 업데이.. 2021. 12. 21.
Relation-Aware Graph Attention Network for Visual Question Answering(ReGAT for VQA) 리뷰 따라서 VQA 시스템은 물체와 주변 상황을 잘 인식할 뿐 아니라 행위에 대한 의미적 요소인 ‘먹는다’ 그리고 위치적 요소 (중앙에 작은 얼룩말이 위치함 등의 정보를 이미지와 질문에서 잘 이해할 수 있어야 합니다.) 그림은 전체적인 모델의 인코더 구조를 보여줍니다. Faster R-CNN로 물체의 region을 생성하고 Question Encoder는 질문을 임베딩 합니다. 각 리전의 합성곱 피쳐와 바운딩 박스 피쳐가 relation encoder에 입력되어 relation aware하고 question adaptive한 region level representation을 학습하게 합니다. 이 relation aware visual feature와 question embedding이 multimodal f.. 2021. 9. 30.
[Image Classification] 치어리더 3대장 얼굴 분류기 만들기_개요, 데이터 수집, 전처리 Cheer leading Troika Face Classification 지난 학기 [딥러닝 응용] 수업에서 개인 프로젝트 과제로 수행했던 내용입니다. 다른 분들은 개인적으로 하고들 계신 연구를 가져와서 발표도 하고 하시던데 저는 그냥 재밌게 진행할 수 있는 주제로 선택해서 발표하고 소논문도 작성했었던 기억이 나네요. 프로젝트의 처음부터 끝까지 어떻게 진행했었는지 돌아보며, 관련 작업을 하시는 분들에게 참고가 되도록 작성해보겠습니다. 감사합니다. 1. 개요 Computer Vision Tasks 중에서 이미지 분류, 얼굴 분류 등은 이미 고도로 발전되어 추가로 정확도 측면의 발전 여지가 많지는 않은 것으로 알고 있습니다. 본 포스팅은 이미지 인식 및 분류를 위한 새 알고리즘을 제시한다기보다는 개인 공부를 위한 토이 프로젝트 개념에서 접근하였습니다. 직접 이미지를 수집하고 전처.. 2021. 7. 12.
반응형