logistic function과 함께 sigmoid의 대표적인 함수가 바로 $\text{tanh}$임. 값이 $[-1,1]$의 range를 가지며, logistic에 비해 기울기가 보다 급격하기 때문에 좀 더 빠른 수렴속도를 보임. 하지만, sigmoid의 일종이기 때문에 gradient vanishing에 자유롭지 못함. logistic보단 그래도 양호. 양 끝단에 갈 경우, 거의 기울기가 0임 RNN의 activation function으로 많이 이용된다. Exploding gradient가 쉽게 발생하는 RNN에서는 ReLU가 적합하지 않음. ReLU는 positive영역에서 기울기가 1로 계속해서 고정되면서, 결과값이 항상 0이상의 값으로 나오기 때문에 , 지나치게 gradient가 커지는 ex..

mkdocs 를 build할 때, 특정 파일을 build 시 build된 파일들이 놓이는 특정 디렉토리에 특정 파일들을 카피해야하는 경우가 있을 수 있는데, 이를 build하고 gh-deploy 로 수행할 경우 매번 카피해주기가 매우 귀찮다. 이 문서는 build등의 event가 발생할 경우 자동으로 특정 파일을 카피하는 처리를 수행하도록 하는 방법으로 mkdocs 1.4버전 부터 지원하는 hooks를 사용한다. 단, mkdocs 1.4 이전은 별도의 plug-in을 이용해야 한다. 이 경우는 다음 글을 참고할 곳. 2023.04.07 - [Computer/ETC] - [mkdocs] mkdocs build 등에서 특정 파일 카피 설정. [mkdocs] mkdocs build 등에서 특정 파일 카피 설정..

왜 필요한가? Windows/DOS 의 경우 개행을 CRLF(Carriage return + Line feed)로 지정함. Linux/Unix 의 경우 개행을 LF로 사용. git등으로 윈도우에서 편집한 소스코드에 문제가 생기는 경우 발생. ^M (carriage return) 이 모든 라인 뒤에 붙게됨 (vi에서 입력하려면 ctrl+v+m or ctrl+q+m) 임 방법 이를 제거하려면 vi에서 해당 파일을 열고 명령어모드에서 다음을 입력 :%s/^M//g ^M 은 ctrl+v+m 으로 입력해야 함. Note MobaXterm의 경우, ctrl+ alt + m / ctrl + m 이 화면 hiding용 hot key로 등록되어 있음. MobaXterm에서 vim으로, 위의 개행 처리를 하려면, 해당 h..

이전 windows에 익숙해서인지 몰라도... 프로그램 아이콘을 클릭하거나 검색 창에서 찾아서 수행하기보다는 window키+r을 통해 cmd를 직접 입력하는 것을 더 선호하다보니 notion이나 windows terminal 등도 Windows키 + R 로 실행하는 습관이 있다. 거두절미하고... 검색이 아닌 해당 방법으로 Notion을 수행하려면 Windows의 사용자 home directory에 Notion의 바로가기를 만들어주면 된다. 사용자 계정이 dsain 이라면 "C:\Users\dsain" 밑에 notion.exe에 대한 바로가기 를 만들면 windows키 + R 에서 수행이 가능함. 위의 그림은 계정명이 dsain인 경우의 사용자 home 디렉토리에 Notion의 바로가기 있는 것을 보여줌..

이 페이지는 Recursive subdivision의 동작을 간단한 binary image를 대상으로 보여준다. 사용한 image는 The Secret Life of Programs 의 5장에 나오는 Figure 5-3: A crude simley face를 사용하면서 단지 좌표를 일반적인 image에서 사용하는대로 top-left pixel을 0,0으로 처리했다. 최종으로 나오는 Tree의 leaf node의 갯수는 40개로 원래의 64개보다 줄어들며, 일종의 압축된 representation을 형성한다. Pseudo code 및 동작 이 Recursive subdivision 예제의 Pseudo code (Recursive Functon이 사용됨)는 다음과 같다. function subdivide(x..

StackStack은 자료구조의 하나로서 FILO (First-In-Last-Out, LIFO 와 같은 의미.)로 동작함.많은 경우 접시 쌓기를 예로 사용하여 First-In-Last-Out (FILO), Last-In-First-Out (LIFO)를 설명한다.Stack에 저장되는 데이터 단위를 element(요소)라고 하며,새로운 element가 Stack에 추가되는 것을 Push (데이터 삽입)라고 부르고,현재 stack에서 element를 빼내는 동작을 Pop (데이터 삭제)이라고 부름.Stack을 class로 구현시 push와 pop은 method들로 구현됨. 참고로, Python에서의 list를 stack처럼 사용한다면, `append`를 push로 사용하고, pop은 l..