본문 바로가기

딥러닝5

Computational Graphs & Backward Propagation Date : 2022.10.09 *The contents of this book is heavily based on Stanford University’s CS231n course. [Improving Efficiency] So far, we've used multivariable calculus techniques such as differentiation and gradients to derive the “slope of the loss function for weights.” Implementing a new method called “Backward Propagation of Errors (backpropagation)” will increase efficiency in the SGD proces.. 2022. 10. 24.
SGD, Epochs, and Accuracy Testing Date : 2022.09.28 *The contents of this book is heavily based on Stanford University’s CS231n course. [Implementing SGD] The overall procedure is as the following: Create a batch of randomly selected data for training. Use the loss function to find optimal inputs for weights. Repeat the above to minimize prediction error. In step 2, we will be applying the gradient descent method to a random bat.. 2022. 10. 22.
Loss Function and Stochastic Gradient Descent Date : 2022.09.23 *The contents of this book is heavily based on Stanford University’s CS231n course. [Data Modeling] The data modeling process can be separated into 2 major steps: Learning and Testing. In the learning process our goal is to establish a neural network with high precision. We can control a few variables that will affect the model. The first control variable is the Weight Variable.. 2022. 10. 20.
Perceptrons, Equations, and Gates Date : 2022.04.24 *The contents of this book is heavily based on Stanford University’s CS231n course. [퍼셉트론 Perceptron] 퍼셉트론은 딥러닝 신경망의 기원이 되는 개념이다. 퍼셉트론 : 인공뉴런. 다수의 신호를 입력으로 받아 하나의 신호를 출력한다. 여기서의 신호는 전류와 같이 흐름이 있는 것이다. 퍼셉트론 신호는 2 가지의 상태를 띌 수 있다. 0과 1, 혹은 안흐른다/흐른다로 구분된다. 퍼셉트론의 환경에는 대개 입력 신호 x1, x2, x3, … , xn, 그리고 출력 신호 y1, y2, y3, … , yn, 그리고 가중치 w1, w2, w3, … , wn의 변수들이 있다. 각각의 신호 (입력/출력)는 뉴런 혹.. 2022. 10. 8.
Getting Familiar with Numpy & Matplotlib Date : 2022.04.16 *The contents of this book is heavily based on Stanford University’s CS231n course. [Intro] 이번 학습일지 시리즈는 사이토 고키의 “Deep Learning from Scratch” 책을 기반으로 한다. Numpy, scipy, pandas, 등의 문법을 공부하고 있었지만 새로운 문법과 라이브러리 사용법만 공부하는 것에 있어 지루함을 느꼈다. 나한테 너무 어려울거라고 생각했지만 적절한 난이도에 쉽게 풀어쓴 책이라 공부하는 과정이 정말 재밌었다. 책의 구성은 기본적인 파이썬 문법, numpy와 pyplot의 사용법부터 시작해서, 퍼셉트론, 신경만, 손실함수, 오차역전파법, 매개변수 갱신 등을 커버한다. .. 2022. 10. 8.
728x90
반응형

티스토리툴바