Deep Learning (2) 썸네일형 리스트형 [Paper] Towards the Practical Utility of Federated Learning in the Medical Domain - review 논문은 여기 구현 코드는 여기 FL (Federated Learning, 연합 학습) 다수의 *로컬 클라이언트와 하나의 중앙 서버가 협력하여 데이터가 탈중앙화된 상태에서 글로벌 모델을 학습하는 기술 *로컬 클라이언트: 스마트폰, IoT 기기 등 장점 1. 데이터의 프라이버시 향상 병원의 임상 데이터와 같은 환자 개인정보가 보호되어야 하는 상황에서 데이터 유출 없이 모델 학습이 가능 장점 2. 커뮤니케이션 효율성 모든 로컬 디바이스의 데이터를 중앙 서버로 전송하게 되면 네트워크 트래픽과 스토리지 비용이 증가하지만 FL을 사용하면 로컬 모델의 업데이트 정보만 주고받으면 되기 때문에 커뮤니케이션 비용이 상당히 줄어든다 Cross-silo FL "silo"란 큰 규모의 저장소를 의미 즉, Cross-silo F.. [Paper] HTS-AT : A Hierarchical Token-Semantic Audio Transformer for Sound Classification and Detection Remaining Problems in AST 1. AST takes a long time to train and consumes large GPU memories - because the transformer takes the audio spectrogram as a complete sequential data - pretraining takes too long but without it, AST can ony achieve baseline performance on AudioSet dataset, which raises questions to its learning efficiency on the audio data 2. AST uses a class-token (CLS) to predict labe.. 이전 1 다음