weight sharing (1) 썸네일형 리스트형 ViT 에서 언급한 CNN 의 Inductive bias 에 대해 알아보자 개요Vision Transformer(ViT) 논문에서 언급한 inductive bias에 대한 개념을 정리하고 기록을 남깁니다. 1. Indective Bias 란? Inductive Bias는 학습 시스템이 새로운 데이터를 일반화하는 방식에 대한 선호나 가정을 의미합니다. 이는 인간이나 인공지능이 학습하고 추론할 때 모든 가능한 경우를 다 고려하는 것이 아니라, 특정 방식으로 일반화하는 데 도움을 줍니다.Inductive Bias의 중요성인공지능 모델이 학습 데이터에서 본 것 이상으로 새로운 상황에서 잘 작동하려면, 반드시 어떤 형태의 inductive bias가 필요합니다. 모델이 데이터에서 직접적으로 학습할 수 없는 정보나 규칙들을 미리 제공해 줌으로써 일반화의 방향을 정하는 것입니다. CNN,.. 이전 1 다음
