본문 바로가기

Regression

(2)
Gaussian process 실습 개요AI 프로그래밍 수업에서 배운 Gaussian processes 에 코드로 구현 한 내용을 정리 합니다.개인적으로 GP 에 대해 아직 완전히 이해를 못하고 있는 부분들이 있어서 학습이 더 필요 할 거 같습니다. https://en.wikipedia.org/wiki/Gaussian_process1. Gaussian processes visualize평균 함수 m(x)=0m(x) = 0m(x)=0을 사용하고, 주어진 세 가지 커널 함수 각각을 사용해 Gaussian process를 설정합니다.이 과정에서 매개변수를 다양하게 바꾸어가며 Gaussian process 에서 나오는 임의의 함수들을 샘플링합니다.각 커널 함수가 샘플 함수의 행태에 미치는 영향을 시각적으로 보여주고, 이에 대해 논의합니다. 주어진..
Ridge Regression 실습 및 개념정리 개요AI 프로그래밍 과제에서 나온 Ridge Regression 에 대한 문제 풀이 과정과 code 를 작성하고 결과를 해석 하여 의미를 살펴 본다. Ridge Regression의 핵심 개념을 이해하고, 모델 피팅 시 정규화가 얼마나 중요한 역할을 하는지를 알아 보고 정규화 없이 과적합된 모델과 정규화를 추가하여 일반화된 모델 간의 성능 차이를 시각화하고 비교하는 것이 목표이다. 문제 설명 합성 데이터 세트에 대해 Ridge Regression(또는 Tikhonov 정규화)을 사용하여 analytic solution 으로 다항식 곡선을 맞추는 내용이다. 해당 모델과 loss 함수는 아래 과정을 참고 바란다. import numpy as npfrom matplotlib import pyplot as pl..