[ML] Newton-Raphson Method
·
Computer/ETC
1. Newton-Raphson Method : $f(x)=0$을 만족하는 root(근)인 $\hat{x}$를 찾는 방법 중 하나 : root-finding algorithm 위의 그림에서 보이듯이1st order derivative(1차 도함수)를 이용하여현재의 $x_t$로부터 $x_{t+1}$을 구해낸다.이를 수식으로 표현하면 다음과 같다.$$\begin{aligned}f^\prime(x_t)&=\dfrac{f(x_{t+1})-f(x_t)}{x_{t+1}-x_t}\\x_{t+1}-x_t&=\dfrac{f(x_{t+1})-f(x_t)}{f^\prime(x_t)}\\\quad\\x_{t+1}&=x_t+\dfrac{f(x_{t+1})-f(x_t)}{f^\prime(x_t)}\\&=x_t+\dfrac{0-..
[ML] Logit에서 Logistic Function.
·
Computer
Logistic FunctionLogistic function은일종의 연속변수에 해당하는 "raw score"(정확히는 logit score)을 probability로 바꾸어주는 함수임: output이 0에서 1사이의 real number.미분가능!더보기Binary classification에서 True일 경우의 logit score가 0이상일 경우, True일 확률이 0.5이상에 해당한다.즉,  logit score 의 값이 양수로 클수록 대응하는 확률이 0.5보다 커지며, 음수로 커질수록 대응하는 확률이 0.5 이하록 작아짐.다음이 바로 logistic function임. $$\text{logistic}(t)=\sigma(t)=\frac{1}{1+e^{-t}}$$Sigmoid functions 중에서..
[ML] From softmax to logistic function.
·
Computer/ETC
Softmax function은 Logistic function의 generic form 즉 일반형이라고 할 수 있음. 달리 말하면, Logistic function은 Softmax function에서 class의 수가 2인 특별한 경우에 해당함. 우선 softmax function은 다음과 같음. $$\sigma(c_i)=\frac{e^{c_i}}{\sum^N_{i=0}e^{c_i}}$$ where $N$ : # of classes - 1. $c_i$ : $i$-th categorical variable. i번째 class에 속할 가능성을 나타내는 logit score. 참고로 logit score는 특정 입력이 각 class에 속할 probability에 대응하는 "raw score"로 값이 클수록 ..
[linux] 명령어 : linux 배포판 및 버전 등을 확인하기
·
Computer/ETC
Linux 배포판 및 버전 등 확인하기 cat /etc/*release* 출력은 다음과 같음. 더보기 DISTRIB_ID=LinuxMint DISTRIB_RELEASE=19.2 DISTRIB_CODENAME=tina DISTRIB_DESCRIPTION="Linux Mint 19.2 Tina" NAME="Linux Mint" VERSION="19.2 (Tina)" ID=linuxmint ID_LIKE=ubuntu PRETTY_NAME="Linux Mint 19.2" VERSION_ID="19.2" HOME_URL="https://www.linuxmint.com/" SUPPORT_URL="https://forums.linuxmint.com/" BUG_REPORT_URL="http://linuxmint-tro..
HWiNFO : PC의 HW 사양 정보 확인 SW
·
Computer/ETC
Windows OS에서 PC의 HW구성 상태를 확인해보기 가장 좋은 SW임. 여러 컴퓨터를 사용하는 경우, HW구성을 외우고 있기는 불가능한터라...참고로 Portable 형태도 있으므로 굳이 OS에 설치하지 않고 확인만 한다면 Portable을 권장함. https://www.hwinfo.com/download/ Free Download HWiNFO Sofware | Installer & Portable for Windows, DOSStart to analyze your hardware right now! HWiNFO has available as an Installer and Portable version for Windows (32/64-bit) and Portable version for DOS.w..
[Linux] ps 명령어
·
Computer/ETC
linux에서 현재 동작하고 있는 process들에 대한 정보(목록 및 상태)를 보여줌. ps aux BSD 형식으로 현재 동작하고 있는 모든 프로세스에 대한 아래의 정보를 출력함. a : BSD 계열 옵션으로 터미널에 연관된 프로세스를 출력. x옵션과 함께 모든 프로세스 출력할 때 사용됨. u : 특정 사용자의 프로세스를 확인할 때 사용되는 BSD계열 옵션. 사용자를 명시적으로 지정하지 않은 경우 현재 사용자임. x : 현재 터미널이 없는 프로세스들을 출력. a옵션과 함께 모든 프로세스를 출력할 때 사용됨. ps aux USER PID %CPU %MEM VSZ RSS TTY STAT START TIME COMMAND root 1 0.1 0.0 167272 11164 ? Ss 05:34 0:02 /sbi..