밤톨의 작업 공간입니다.

순환신경망

순환신경망 (RNN)

<참고> https://www.youtube.com/watch?v=NHb6jNH2YTg [데이터로 세상보기-RNN(Recurrent Neural Network)]

순환 신경망이란?

  • 뉴런의 출력이 순환되는 신견망을 말하며, 반복적이고 순차적인 데이터 학습에 특화된 인공신경망의 한 종류
  • 은닉층의 출력이 다시 은닉층의 입력으로 사용된다는 특징을 가지고 있음
  • 은닉층의 노드들이 출력에서 다시 입력이 되면서 결과에 영향을 주는 구조
  • 시퀀스 길이에 관계없이 인품(input)과 아웃풀(output)을 받아 들일 수 있는 네트워크 구조이기 때문에 필요에 따라 다양하고 유연하게 구조를 만들 수 있다는 장점을 지님

활성함수로 비선형 함수를 쓰는 이유?

  • 선형 함수인 h(x) = cx를 활성함수로 사용한 3층 네트워크의 경우, y(x)=h(h(h(x)))가 됨
  • 이 계산은 y(x) = c * c * c * x처럼 세번의 곱셈을 수행하지만 실은 y(x) = ax와 똑같은 식(a = c^3)이라고 할 수 있음.

LSTM(Long Short Term Memory)

  • RNN은 관련 정보와 그 정보를 사용하는 지점 사이 거리가 멀 경우 역전파시 그래디언트가 점차 줄어 학습 능력이 크게 저하되는 vanishing gradient 문제가 발생
  • 이를 극복하기 위해 RNN의 히든 state에 cell-state를 추가한 LSTM이 개발됨

2023

우분투 가상환경 세팅

최대 1 분 소요

[우분투] 파이썬 가상환경 만들고 사용하기 - venv 사용하여 가상환경 생성

맨 위로 이동 ↑

2022

2023년 토이 프로젝트 주제

최대 1 분 소요

1. 영유아 행동인식을 통한 발달평가 XXX - https://aihub.or.kr/aihubdata/data/view.do?currMenu=115&topMenu=100&aihubDataSe=realm&dataSetSn=631

딥러닝과 텐서플로

1 분 소요

https://www.itworld.co.kr/insight/109825 [ITWorld - 머신러닝 라이브러리, 텐서플로우의 이해] https://tensorflow.blog/%EC%BC%80%EB%9D%BC%EC%8A%A4-%EB%94%A5%EB%9F%AC%EB%8B...

인경신경망

최대 1 분 소요

http://matrix.skku.ac.kr/math4ai-intro/W13/

[git] 삭제된 폴더, 파일 반영하기

최대 1 분 소요

분명히 로컬에서 삭제한 파일인데 원격에 반영되지 않는 경우가 있다. git status로 했을 때 삭제 됐다고 뜨는데 add를 해도 안먹고 commit을 해도 반영이 안되는 것이다…

맨 위로 이동 ↑