머신러닝

[인공지능] 딥러닝 Overfitting(오버피팅) 피하는 방법!

Avoiding overfitting 1. Dropout (2012, Geoffrey Hinton) : Training을 진행할 때 매 Batch 마다 Layer 단위로 일정 비율 만큼의 Neuron을 꺼뜨리는 방식이다 왼쪽이 Dropout을 사용하지 않은 이미지이고, 오른쪽이 Dropout을 60%(0.6)을 적용한 이미지이다. 꺼지는 위치는 랜덤이다 랜덤하게 Neuron을 꺼뜨려 학습을 방해함으로써 모델의 학습이 Training data에 편향되는 것(over fitting)을 막아주는 것이 핵심이다. 즉, 동일한 데이터를 매번 다른 모델을 학습시키는 효과를 발생시켜 일종의 Model ensemble 효과를 얻는 것이다 가중치 값이 큰 특정 Neuron의 영향력이 커져 다른 Neuron들의 학습 속도..

[인공지능] 인공지능 도움되는 사이트 및 영상

코딩학원에서 주말 첫 수업을 위해 책을 받으러 학원으로 갔다왔다. 파이썬 기초반 (초등)의 수준을 알 수가 없어서 책이 필요했다. 다행히 초등학생을 위한 파이썬 책이 따로 있었다. 책은 읽어보니까 반복문, 조건문, 함수, 리스트 뭐... 비슷했는데, 확실히 초등학생을 위해 내용은 쉽고, 그림은 많았다. (내 수준에 딱 맞던데...) 책만 있다고 아이들에게 VScode를 설치해서 파이썬을 가르치긴 어렵다고 생각했다. 그래서 "앨리스 아카데미"를 사용하기로 함. 사실 내가 받은 책이 앨리스에서 만든 책이기도 함. ㅎㅎ 뭐, 이제 수업 자료 만들어지... 😑😑 https://academy.elice.io/courses/18873/info Do it! 첫 파이썬 | 엘리스 엘리스가 직접 쓴 책과 함께 배우는, ..