Yu-ni Yu-ni

https://yjs-program.tistory.com/199

Q. 어텐션으로 값이 변경된 임베딩 벡터들이 어떻게 MLP를 거치면 문자로 나오게 되나? Q. 포지셔널 인코딩에서 더해주는 위치값들이 어떻게 연산할 때 위치정보로 사용되는지? 인코더 1. tokenization : 인풋으로 들어온 단어들을 특정 값의 token으로 바꿔준다. 2. word embedding (MLP) --> word2vec 1) token을 각 단어들과의 유사성을 표현할 수 있는 벡터차원으로 임베딩한다 2) 이 때 사용되는 알고리즘은 word2vec 이며(아마도?, 여러 알고리즘이 있다) 3) 이 임베딩 벡터들은 이후에 mlp를 통과하여 차원이 query, key, value로 변경된다. 3. positional encoding 1) sin,cos으로 0~1의 제한된 값을 생성하고, 이 ..

double generateGaussian(float mean, float sigma) { double v1, v2, s; do { v1 = 2 * ((double)rand() / RAND_MAX) - 1; // -1.0 ~ 1.0 까지의 값 v2 = 2 * ((double)rand() / RAND_MAX) - 1; // -1.0 ~ 1.0 까지의 값 s = v1 * v1 + v2 * v2; } while (s >= 1 || s == 0); s = sqrt((-2 * log(s)) / s); double value = v1* s; return value*sigma + mean ; } 참조 : http://mwultong.blogspot.com/2006/11/c-vc-gaussian-random-numbe..

https://gaussian37.github.io/ad-ose-lkf_basic/ 선형 칼만 필터의 원리 이해 gaussian37's blog gaussian37.github.io

https://gaussian37.github.io/math-pb-product_convolution_gaussian_pdf/ 가우시안 PDF의 곱과 Convoltuion 연산 gaussian37's blog gaussian37.github.io https://math.stackexchange.com/questions/1246358/the-product-of-multiple-univariate-gaussians The product of multiple univariate Gaussians What is the final result of $$I=\mathcal{N}_{x}(\mu_1,v_1)\,\mathcal{N}_{x}(\mu_2,v_2)\ldots\,\mathcal{N}_{x}(\mu_n,v_n)=..

윈도우용 패키지매니저 Chocolatey 설치 윈도우에서 PowerShell을 관리자 권한으로 실행하여 아래 커맨드를 따라서 입력해주세요. 먼저 Get-ExecutionPolicy를 실행해서 이 값이 Restricted가 아닌 것을 확인해주세요. $ Get-ExecutionPolicy 만약 Restricted라면 AllSigned나 Bypass로 설정해줍니다. # ExcutionPolicy를 AllSigned로 설정 $ Set-ExecutionPolicy AllSigned # ExcutionPolicy를 Bypass로 설정 $ Set-ExecutionPolicy Bypass -Scope Process 다음으로 Chocolatey 공식 설치 스크립트를 실행합니다. 아래 스크립트를 복사해서 실행해주세요. $..

1. 라이브러리 링크 에러(순서에 따른 링크 문제) 일단 nm(1) 등을 써서 undefined symbol이라고 나온 symbol이 지정한 라이브러리에 포함되어 있는지 확인하기 바랍니다. (http://kldp.org/node/68410/ 참고) 그리고 라이브러리를 지정한 순서가 제대로 되어 있는지 확인 바랍니다. gcc는 써 준 순서대로 라이브러리 또는 오브젝트 파일을 링크합니다. 예를 들어 b.o가 라이브러리 util에 있는 함수를 쓴다고 할 때, 다음과 같이 하면 undefined symbol 에러가 납니다: $ gcc a.c -lutil b.o 다음과 같이 해야 합니다: $ gcc -a.c b.o -lutil 마찬가지로 util 라이브러리가 snippet 라이브러리에 있는 함수를 쓴다면 반드시 ..

https://jhnyang.tistory.com/293