EunGyeongKim

learning rate, momentum coefficient learning rate와 momentum coefficient는 역전파 알고리즘을 신경망으로 훈련시키는 굉장히 중요한 변수이다. earning rate는 계산된 경사하강법 기준으로 새로운 factors의 weight의 속도를 조절하는 양의 상수이다. momentum coefficient는 가중치가 조정되는 속도를 가속화 되는 가중치에 추가되는 추가가중치이다. momentum coefficient는 최소화 루틴을 minimum에서 벗어나는데 도움을 준다. local minima local minima문제는 에러를 최소화 시키는 최적의 파라미터를 찾는 문제에 있어서 파라미터 공간에 수많은 지역적인 홀(local minimum)에 빠지는 문제...

Gradient(미분값, 즉 변화량) 기반 방법들을 사용할 경우 작은 파라미터의 값의 변화가 신경망 출력에 얼마나 영향을 미칠것인가를 기반으로 파라미터 값을 학습시킴.⇒ 파라미터의 값이 변화가 신경망 결과에 작은 영향만 미칠경우 : 효과적 파라미터 학습 불가능 Error rate가 낮아지지 않고 수렴해버리는 문제가 발생함. ⇒ 그러므로 Gradient Vanishing / Exploding 은 변화량이 매우 작아지거나(vanishing), 매우 커질때(Exploding)의 상황에서 신경망 학습을 제대로 시키지 못하는것 Gradient Vanishing / Exploding 해결방법 change activation function Simoid, tanh의 문제점을 해결하기 위해 ReLU(Rectifited..

IELTS 시험 시간 및 문제 유형 공부 기간대략적으로 3~6개월 ( 4 개월 예정) 영어 실력 체크캠브릿지 리닝, 리스닝 모의고사 공부 가중치 🔼거의 대부분 라이팅, 스피킹에 투자 필요 공부 방법리딩 & 리스닝Cambridge ielts 15, 16 pdf지문 분석듣기 파일은 유투브에서 찾기cambridge ielts 15 listening test 1 이런식으로 검색리딩시간재고 문제 풀기오답정리복습 라이팅시험구성학습 전략고급 문장구사력 훈련유형별 논리의 이해구조와 흐름을 익혀야 빠르게 쓸 수 있음.주제별 아이디어 정리어떤 주제가 나와도 쓸 말이 있어야 한다.아이디어 적용 훈련요령을 가지고 전략적으로 접근해야 함.라이팅 팁Task 1포괄적인 특징 찾기세부적인 북석하기Task 2템플릿 만들기페러브레이징..