인경신경망

<참고> http://matrix.skku.ac.kr/math4ai-intro/W13/

인공 신경망

신경망(neural network)은 신경계의 기본 단위인 뉴런을 모델화한 것이다. 하나의 인공 뉴런(노드, node)에서는 다수의 입력 신호 를 받아서 하나의 신호를 출력한다.

이는 실제 뉴런에서 전기신호를 내보내 정보를 전달하는 것과 비슷하다. 이때 뉴런의 돌기가 신호를 전달하는 역할을 하듯이 인공 뉴런에서는 가중치(weight) 가 그 역할을 한다.

각 입력신호에는 고유한 가중치가 부여되며 가중치가 클수록 해당 신호가 중요하다고 볼 수 있다.

BackPropagation DeepThinking

<출처> https://www.youtube.com/watch?v=qtINaHvngm8
  1. 가중치(W)의 변화로 loss에 얼만큼 영향을 끼치는가? <- dL/dW
  • optimization(Gradient Descent) - 손실을 최소화하는 가중치를 찾아가는 과정
    1. Numerical Gradient - 시작때 점검할때 사용
    2. Analytical Gradient - 실제 사용하는 방법
  1. Computational Graph
  • 보통 매우 복잡(한꺼번에 모두 계산하는 것은 말이 안되는 일)

    ex) Convolution Network ex) Neural Turing Machine

  1. Gradient

    Local Gradient Global Gradient

  2. 계산

  • 포인트에 들어가는 입력값 _ 포인트 미분값 _ 그전 local gradient(또는 global gradient)를 통해 들어가는 입력값의 gradient를 구할 수 있다.

2023

우분투 가상환경 세팅

최대 1 분 소요

[우분투] 파이썬 가상환경 만들고 사용하기 - venv 사용하여 가상환경 생성

맨 위로 이동 ↑

2022

2023년 토이 프로젝트 주제

최대 1 분 소요

1. 영유아 행동인식을 통한 발달평가 XXX - https://aihub.or.kr/aihubdata/data/view.do?currMenu=115&topMenu=100&aihubDataSe=realm&dataSetSn=631

딥러닝과 텐서플로

1 분 소요

https://www.itworld.co.kr/insight/109825 [ITWorld - 머신러닝 라이브러리, 텐서플로우의 이해] https://tensorflow.blog/%EC%BC%80%EB%9D%BC%EC%8A%A4-%EB%94%A5%EB%9F%AC%EB%8B...

인경신경망

최대 1 분 소요

http://matrix.skku.ac.kr/math4ai-intro/W13/

[git] 삭제된 폴더, 파일 반영하기

최대 1 분 소요

분명히 로컬에서 삭제한 파일인데 원격에 반영되지 않는 경우가 있다. git status로 했을 때 삭제 됐다고 뜨는데 add를 해도 안먹고 commit을 해도 반영이 안되는 것이다…

맨 위로 이동 ↑