알맹로그

data augmentation 입력 이미지를 알고리즘을 동원해서 인위적으로 확장. 회전시키거나 이동 등 미세한 변화로 데이터 개수 늘림 / crop이나 flip 할수도 있음 VGG 기본적인 CNN의 층을 16층이나 19층으로 심화 (VGG16 / VGG19) 3x3의 작은 필터를 사용하는 합성곱계층을 연속으로 거침 합성곱 계층을 2~4회 연속으로 풀링계층을 두어서 크기를 반씩 줄이고 마지막에는 affine계층을 통과해서 결과 출력 GoogLeNet 가로 세로 층이 모두 깊음 1x1 크기의 필터를 쓰는 합성곱 계층을 많이 씀, 1x1 합성곱 연산은 채널 쪽으로 크기를 줄이는 거라서 매개변수를 없애고 빠른 처리에 기여 가로 방향에 폭이 있는 이 구조를 인셉션 구조라고 부름 크기가 다른 필터랑 풀링을 여러개..

www.youtube.com/watch?v=tXsQJhoauxc

21년 2월 17일에 우리과 21학번들과... 과정모를 했습니다. 내가 만들었으니까 내맘대로 블로그에 올립니다. 육성회비 가고 싶네요 ㅎㅎ

## CNN (Conv, Pooling 추가) ## 합성곱연산 ## 패딩 연산 수행 전에 입력데이터 주변 픽셀을 특정값(0, 1등)으로 채우는 것 폭 1짜리 패딩: 데이터 사방 1픽셀을 특정 값으로 채움 ## 스트라이드 필터 적용하는 간격 > 위 사진은 스트라이드 2 ## 출력크기 계산 ## 3차원 데이터 합성곱 ## 배치처리 → CNN 계층 사이를 흐르는 데이터는 4차원! ## 풀링 계층 : 가로 세로 방향이 공간을 줄이는 연산 - 윈도우에 따라 스트라이드 값이 변함 > 윈도우 2x2이면 스트라이드 2 , 윈도우 4x4이면 스트라이드 4 - 학습해야 할 매개변수 x > 대상 영역에서 최대값이나 평균을 취하는 처리라서 - 채널 수 변하지 않음 > 각 채널마다 독립적으로 계산 - 입력의 변화에 영향을 적게..

SGD 비등방성 함수(방향에 따라 성질(기울기)가 달라지는 함수)에서 탐색 경로가 비효율적 모멘텀 Momentum 속도 v, av는 물체가 아무런 힘을 받지 않을 때 하강시키는 역할 AdaGrad 동그라미: 행렬의 원소별 곱셈 1/h로 학습률 조정 > 학습률 감소가 매개변수의 원소마다 다르게 적용 개별 매개변수에 적응적으로 학습률을 조정하면서 학습 진행 Adam (Momentum + AdaGrad) ## 가중치 초깃값에 따른 은닉층 활성화값(활성화함수 출력값)의 변화 # sigmoid 각 층의 값이 0, 1에 치우쳐져 있고 역전파의 기울기 값이 점점 줄어들다가 사라짐 > 기울기 소실 다수의 뉴런이 거의 같은 값을 출력하고 있어서 뉴런을 여러개 만든 의미가 없음 > 표현력 제한 Xavier 초깃값의 표준편..

public.tableau.com/profile/.34638457#!/ Tableau Public public.tableau.com 블로그에 올리려고 프로필 사진 추가했는데... 안뜨네요.. ㅠㅠㅠ 보아즈에 과제로 내는.. 아직은 별볼일 없지만 열심히 하고 있는 대시보드를 제 퍼블릭 계정에도 올리기 시작했습니다. ㅎㅎ 지금은 2개밖에 없지만 점점 쌓일거예요! 구경하세용~

정보이론??? 데이터를 정량화하기 위한 응용수학의 분야 중 하나 정보량??? 어떤 정보를 얻었을 때 놀라는 정도 ex. 교수님이 수업을 마칠 때 하는 말 중 정보량이 가장 높은 건 C A. 다음 시간에 봅시다~ B. 다음 수업은 다른 교수님이 할 예정입니다 C. 모든 학생은 A 를 받을 것이고, 이 수업은 더이상 진행하지 않습니다. 일어날 확률이 적고 이야기를 듣거나 해당 정보를 얻었을 때 얼마나 놀라는지를 따짐 정보량이 높을수록 해당 정보의 중요도가 높아짐 엔트로피??? 정보량의 평균으로, 분자의 무질서를 측정 엔트로피는 불순도가 낮아지면 같이 낮아져서 0이랑 가까워진다. ex. A클래스에 B클래스가 반이나 섞여 있으면 정보량이 높다고 볼 수 있음. A클래스에는 당연히 A만 잔뜩 있을거라고 생각했는데 ..

ChoiRhee/Everytime_timetableContribute to ChoiRhee/Everytime_timetable development by creating an account on GitHub.github.com 시각화 과제를 위해.... 주제를 생각하다가 이제 곧 수강신청이니까 강의목록을 함 해봐야겠다!! 싶었습니다. 에브리타임에 들어갔습니다. 전 당연히 로그인이 되어 있으니 그냥 시간표 보는 링크만 띡 올려놓고 강의 정보만 긁어오면 그만이라는 생각을 했습니다.. 근데 그게 아니었어요.제 힘들었던 하루를 잊지 않기 위해 글로 남깁니다... plan 11. 강의 목록 열기2. 구분: 심교로 바꾸기3. 강의 긁어오기 는 실패했씁니다. 로그인을 해야했고, 로그인을 하니 광고가 떴습니다.. 그래..

오차 제곱합 sigmoid ReLU 0이하 → 0 o.w. → x softmax 교차 엔트로피 오차 매개변수: 자동 하이퍼파라미터: 수동 확률적경사하강법 SGD: 무작위로 데이터 뽑아서 "확률적"

어차피 0~1사이 확률값이면 그냥 해당 값을 전체합으로 나누면 되는데 왜 굳이 e를 쓰는지 궁금했습니다.. 1. 미분 편하게 하려고 2. 지수승을 하니까 값이 크고 작은게 한눈에 보여서 생각보다 별거 없네여 lv99.tistory.com/7