ConvolutionConvolution은입력에 kernel (=impulse response)을 이용하여(LTI system의 zero-state) 출력 신호를 계산하는 연산임. LTI (Linear Time-Invariant) system에서는zero-state condition, 즉 initial state가 0인 경우system의 input-output 특성이 impulse response로 결정되며,출력은 입력과 impulser response의 convolution 으로 표현됨.$$y(t)=x(t)*h(t)$$$$y(t)=\int_{-\infty}^{\infty}x(\tau)h(t-\tau),d\tau$$$x(t)$: input$h(t)$: impulse response = convolutio..

참고: Swish 란Swish와 SwiGLU는 서로 다른 개념임. Swish는 하나의 activation function임:$$\operatorname{Swish}(x)=x\sigma(x)$$여기서 $\sigma(x)$는 sigmoid 함수임.즉, 입력 $x$에 sigmoid를 곱하여 입력의 크기를 조절하는 형태의 activation function임.https://dsaint31.me/mkdocs_site/ML/ch09/act_silu/ BMEactivation function deep learning gelu glu mish relu silu swish Sigmoid Linear Unit (SiLU) : from GELU to MiSH SiLU 는 Sigmoid Linear Unit 의 약자로 ELU..

Central Difference에서 사용하는 finite difference step size $\Delta x$는floating-point precision을 고려한 machine epsilon을 기반하여 선택됨.흔히 아래 표의 값들을 초기값으로 설정한 후 결과를 확인하면서 조정할 수 있음.PrecisionMachine epsilon $\epsilon$$\epsilon^{1/3}$$\Delta x$ 초기값float16$9.77\times10^{-4}$$9.9\times10^{-2}$$1\times10^{-1}$float32$1.19\times10^{-7}$$4.9\times10^{-3}$$5\times10^{-3}$float64$2.22\times10^{-16}$$6.0\times10^{-6}$$1\..

δ-ray (delta ray) 의 정의고속 charged particle (보통 electron)이 물질을 통과하면서 원자의 electron에 충분한 energy를 전달하여 튀어나오게 만든 energetic secondary electron을 가리킴.생성 원인: ionization by charged particle collision정체: photon이 아니라 electron다른 이름: knock-on electronenergy가 충분히 크면 주변 물질에서 다시 additional ionization/excitation을 일으킬 수 있음.즉, 다음이 성립:fast charged particle => atomic electron과 충돌 => energetic secondary electron = δ-ra..

참고로 이 문서는 “Numerator Layout을 사용한다”2022.05.08 - [.../Math] - [Math] Matrix Calculus : Numerator Layout [Math] Matrix Calculus : Numerator Layout원본 : [Matrix Calculus](https://souryadey.github.io/teaching/material/Matrix_Calculus.pdf)가급적 원본을 꼭 보길 권함. 1. NotationScalar는 lower case letter로 표기: $x$Vector는 lower case bold letter로 표기: $\textbf{x}=\langle x_1, xdsaint31.tistory.com 이 문서는최소제곱 손실함수(least-..

1. Electron Energy State1-1. Shell, Subshell, OrbitalAtom 내부의 electron은임의의 energy를 연속적으로 가지는 것이 아니라quantized energy state에 존재함.전자 상태를 기술할 때 Shell, Subshell, Orbital을 계층적으로 구분함.Shellprincipal quantum number로 구분되는 가장 큰 단위.K, L, M, N shell 또는 1, 2, 3, 4 등의 principal quantum number로 나타냄.하나의 shell은 여러 subshell을 포함할 수 있음.Subshell하나의 shell을 orbital angular momentum에 따라 구분한 것.s, p, d, f 등으로 나타냄.예를 들어 두 ..