티스토리

열심히 살려고 노력중

검색하기

블로그 홈

열심히 살려고 노력중

ho1guma.tistory.com/m

수만이 님의 블로그입니다.

구독자: 1

방명록 방문하기

주요 글 목록

[CS231n 2016] 13강 Segmentation and Attention Segmentation Semantic Segmentation - 모든 pixel에 label을 할당하는 것 (one label per pixel) - instance를 구분하지 않음 - class의 수는 보통 정해져 있음 Instance Segmentation - instance를 detect하고, 각각의 pixel에 label을 부여하여 instance를 구분함. - "simultaneous detection and segmentation" (SDS)라고 불리기도 함. Semantic Segmenation 이미지 input -> 특정 patch를 추출 -> cnn에 돌림 -> 가운데 픽셀이 분류됨 => 이 과정들을 모든 pixel에 반복함 하지만, 이 방법은 비용이 너무 많이 드는 문제가 있음. pa.. 공감수 0 댓글수 0 2022. 7. 26.
[Linear Algebra, Gilbert Strang][Linear Algebra, Gilbert Strang]LECTURE 13: QUIZ 1 REVIEW https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/resources/lecture-14-orthogonal-vectors-and-subspaces/ Lecture 14: Orthogonal vectors and subspaces | Linear Algebra | Mathematics | MIT OpenCourseWare Vectors are easier to understand when they’re described in terms of orthogonal bases. In addition, the Four Fundamental Subspaces are orthogonal to each other in pairs. If A is a rectan.. 공감수 0 댓글수 0 2022. 7. 21.
[CS231n 2016] 11강 CNNs in Practice Data Augmentation 원본의 이미지를 변형하는 과정이 추가되는 방법 - label은 변화 없이 pixel이 변화하게 됨. - 변형된 data를 훈련 하게 됨 - 매우 폭넓게 사용되고 있음 1. Horizontal flips 이미지를 좌우반전 시켜 변형해주는 방법 - mirror 이미지 2. Random crops / scales 이미지를 랜덤으로 작은 부분으로 잘라내어 사용하는 방법 이미지 전체가 아니라 부분에 대한 학습이 이뤄지기 때문에 test 시에도 이미지 전체가 아닌 crop을 이용해 test를 진행하게 된다. 3. Color jitter 단순한 방법 : random으로 jitter 복잡한 방법 : 1) training set의 [R, G, B]에 PCA를 적용한다. 2) 주성분 방향의.. 공감수 0 댓글수 0 2022. 7. 21.
[Linear Algebra, Gilbert Strang]LECTURE 13: QUIZ 1 REVIEW https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/resources/lecture-13-quiz-1-review/ Lecture 13: Quiz 1 review | Linear Algebra | Mathematics | MIT OpenCourseWare By approaching what we’ve learned from new directions, the questions in this exam review session test the depth of your understanding. This unit reached the key ideas of subspaces—a higher level of linear algebra. These vid.. 공감수 0 댓글수 0 2022. 7. 19.
[Linear Algebra, Gilbert Strang]LECTURE 12: GRAPHS, NETWORKS, INCIDENCE MATRICES https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/resources/lecture-12-graphs-networks-incidence-matrices/ Lecture 12: Graphs, networks, incidence matrices | Linear Algebra | Mathematics | MIT OpenCourseWare This session explores the linear algebra of electrical networks and the Internet, and sheds light on important results in graph theory. These video lectures of Professor Gilbert S.. 공감수 0 댓글수 0 2022. 7. 19.
[CS231n 2016] 10강 Recurrent Neural Networks Recurrent Neural Network one to one : 일반적인 Neural Networks으로 고정된 사이즈의 input이 들어간다.(ex 이미지..) output에서도 마찬가지로 고정된 사이즈의 score를 반환한다. one to many : 이미지를 input으로 받아 이미지를 설명하는 단어들의 sequence를 반환한다. image -> sequence of words e.g. Image Captioning many to one : 단어들로 구성된 sequence를 통해 하나의 class로 반환한다. sequence of words -> sentiment e.g.Sentiment Classification many to many : 한국어 문장을 영어 문장으로 번역 seq of wor.. 공감수 0 댓글수 0 2022. 7. 18.
[Linear Algebra, Gilbert Strang]LECTURE 11: MATRIX SPACES; RANK 1; SMALL WORLD GRAPHS https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/resources/lecture-11-matrix-spaces-rank-1-small-world-graphs/ Lecture 11: Matrix spaces; rank 1; small world graphs | Linear Algebra | Mathematics | MIT OpenCourseWare As we learned last session, vectors don’t have to be lists of numbers. In this session we explore important new vector spaces while practicing the skills we learned in t.. 공감수 0 댓글수 0 2022. 7. 15.
[Linear Algebra, Gilbert Strang]LECTURE 10: THE FOUR FUNDAMENTAL SUBSPACES https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/resources/lecture-10-the-four-fundamental-subspaces/ Lecture 10: The four fundamental subspaces | Linear Algebra | Mathematics | MIT OpenCourseWare For some vectors b the equation Ax = b has solutions and for others it does not. Some vectors x are solutions to the equation Ax = 0 and some are not. To understand these equations we study.. 공감수 0 댓글수 0 2022. 7. 15.
[CS231n 2016] 9강 Understanding and Visualizing Convolutional Neural Networks 1. Visualize patches that maximally activate neurons 각 행은 pool5에서 추출한 임의의 neuron이 가장 activate 시키는 부분을 보여준다. 2. Visualize the filters/kernels(raw weights) 이미지에 직접 작용하는 필터는 conv1에 있는 필터이므로, 이것만 해석 가능하다. 다음의 layer 들의 weight들은 시각화할 수 있지만 low image에 대한 것이 아닌 layer1의 activation에 대한 시각화이기 때문에 큰 의미가 있지는 않다. 3. Visualize the representation classify 하기 직전의 fc7 layer에서 추출한 representation으로 시각화하는 방법이 있다. 대표.. 공감수 0 댓글수 0 2022. 7. 15.
[Linear Algebra, Gilbert Strang]LECTURE 9: INDEPENDENCE, BASIS, AND DIMENSION https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/resources/lecture-9-independence-basis-and-dimension/ Lecture 9: Independence, basis, and dimension | Linear Algebra | Mathematics | MIT OpenCourseWare What does it mean for vectors to be independent? How does the idea of independence help us describe subspaces like the nullspace? A basis is a set of vectors, as few as possible, whose .. 공감수 0 댓글수 0 2022. 7. 14.
[CS231n 2016] 8강 Spatial Localization and Detection 컴퓨터 비전의 주요 TASK Classification + Localization Classification Input : image => Output : class label 평가지표 : Accuracy Localization Input : image => Output : box in the image 평가지표 : Intersection over Union Idea #1 : Localization as Regression Step 1 : Train (or download) a classification model (AlexNet, VGG, GoogLeNet) Step 2 : Attach new fully-connected “regression head” to the network Step 3 : Tra.. 공감수 0 댓글수 0 2022. 7. 14.
[Linear Algebra, Gilbert Strang]LECTURE 8: SOLVING AX = B: ROW REDUCED FORM R https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/resources/lecture-8-solving-ax-b-row-reduced-form-r/ Lecture 8: Solving Ax = b: row reduced form R | Linear Algebra | Mathematics | MIT OpenCourseWare When does Ax = b have solutions x, and how can we describe those solutions? We describe all solutions to Ax = b based on the free variables and special solutions encoded in the reduced f.. 공감수 0 댓글수 0 2022. 7. 12.
[Linear Algebra, Gilbert Strang]LECTURE 7: SOLVING AX = 0: PIVOT VARIABLES, SPECIAL SOLUTIONS https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/resources/lecture-7-solving-ax-0-pivot-variables-special-solutions/ Lecture 7: Solving Ax = 0: pivot variables, special solutions | Linear Algebra | Mathematics | MIT OpenCourseWare We apply the method of elimination to all matrices, invertible or not. Counting the pivots gives us the rank of the matrix. Further simplifying the matrix .. 공감수 0 댓글수 0 2022. 7. 12.
[CS231n 2016] 7강 Convolutional Neural Network Convolution Layer 이미지에 필터를 convolve, 이미지에 공간적으로 슬라이딩하여 dot product 연산을 수행하는 것 한 로케이션 당 75번의 연산으로 한 숫자를 만들어 낸다. 첫번째 필터는 이미지의 weight를 시각화한것, 뒤의 것들은 앞단의 filter에 기반해서 시각화한 것. hierarchy 구조로 복잡한 이미지를 인식하게 됨. 필터와 signal(image), 2개의 signal이 convolution 작용을 하기 때문에 convolutional layer라고 불린다. output size의 일반화 패딩을 사용하여 size를 보존할 수 있다. 이미지의 사이즈가 계속 줄어들면 volume 자체가 shrink해버린다. 너무 빠른 shrinking은 좋지 않다... Ex 1) .. 공감수 0 댓글수 0 2022. 7. 11.
[CS231n 2016] 6강 Training NN part 2 TODO - parameter update schemes - Learning rate schedules - Dropout - Gradient checking - Model ensembles Parameter update Stochastic Gradient Descent(sgd) 현재는 단순한 gradient descent 방법을 사용하고 있지만, 앞으로 복잡한 방법에 대해 설명할 예정 단순한 Stochastic Gradient Descent(sgd)는 느리다. sgd => mini-batch(일부 데이터의 모음)로 loss function을 계산 왜 이렇게 sgd는 느릴까?? 수직으로는 경사가 가파르고 수평으로 완만한 loss function을 생각해보자. Q: What is the trajectory .. 공감수 0 댓글수 0 2022. 7. 5.
[Linear Algebra, Gilbert Strang]LECTURE 6: COLUMN SPACE AND NULLSPACE https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/resources/lecture-6-column-space-and-nullspace/ Lecture 6: Column space and nullspace | Linear Algebra | Mathematics | MIT OpenCourseWare This lecture discusses column space and nullspace. The column space of a matrix A tells us when the equation Ax = b will have a solution x. The nullspace of A tells us which values of x solve the equ.. 공감수 0 댓글수 0 2022. 7. 4.
[CS231n 2016] 5강 Training NN part 1 mini-batch SGD loop: 1. Sample a batch of data 2. Forward prop it through the graph, get loss 3. Backprop to calculate the gradients 4. Update the parameters using the gradient Training Neural Networks (a bit of history) - 1957, Mark 1 Perceptron -> back prop 불가 - 1960, perceptron의 stacking, Adaline/Madaline 1960~1980 신경망의 1번째 암흑기.. - 1986, Rumelhart et al, First time back-propagation became pop.. 공감수 0 댓글수 0 2022. 7. 4.
[Linear Algebra, Gilbert Strang]LECTURE 5: TRANSPOSES, PERMUTATIONS, SPACES R^N https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/resources/lecture-5-transposes-permutations-spaces-r-n/ Lecture 5: Transposes, permutations, spaces R^n | Linear Algebra | Mathematics | MIT OpenCourseWare To account for row exchanges in Gaussian elimination, we include a permutation matrix P in the factorization PA = LU. Then we learn about vector spaces and subspaces; these are cent.. 공감수 0 댓글수 0 2022. 7. 1.
[Linear Algebra, Gilbert Strang]LECTURE 4: FACTORIZATION INTO A = LU https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/resources/lecture-4-factorization-into-a-lu/ Lecture 4: Factorization into A = LU | Linear Algebra | Mathematics | MIT OpenCourseWare This session explains inverses, transposes and permutation matrices. We also learn how elimination leads to a useful factorization A = LU and how hard a computer will work to invert a very large matrix. .. 공감수 0 댓글수 0 2022. 7. 1.
[CS231n 2016] 4강 Backpropagation and NN part 1 지난 강의 복습 즉, optimization은 loss를 최소화하는 W를 찾아가는 과정이다. (Parameter update) Computational Graph Backpropagation - Forward Pass Input에 대한 Gradient를 구하면(Output에 얼마정도의 영향을 미치는지) f에 대한 gradient를 구해준다. Forward pass를 하는 과정에서 local gradient를 구할 수 있다. Backward pass를 하는 과정에서 global gradient를 구할 수 있다. => 결국 local gradient와 global gradient를 곱해 gradient를 구할 수 있다. 다른 예제로 다시 확인 gradient 계산 - sigmoid function 복잡한 계.. 공감수 0 댓글수 0 2022. 7. 1.
[Linear Algebra, Gilbert Strang]LECTURE 3: MULTIPLICATION AND INVERSE MATRICES https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/resources/lecture-3-multiplication-and-inverse-matrices/ Lecture 3: Multiplication and inverse matrices | Linear Algebra | Mathematics | MIT OpenCourseWare This lecture looks at matrix multiplication from five different points of view. We then learn how to find the inverse of a matrix using elimination, and why the Gauss-Jordan method .. 공감수 0 댓글수 0 2022. 6. 30.
[Linear Algebra, Gilbert Strang]LECTURE 2: ELIMINATION WITH MATRICES https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/resources/lecture-2-elimination-with-matrices/ Lecture 2: Elimination with matrices | Linear Algebra | Mathematics | MIT OpenCourseWare This session introduces the method of elimination, an essential tool for working with matrices. The method follows a simple algorithm. To help make sense of material presented later, we describe this a.. 공감수 0 댓글수 0 2022. 6. 30.
[CS231n 2016] 3강 Loss fn, optimization TODO 1. 훈련 데이터의 score에 대해 불만족하는 정도를 정량화하는 loss function을 정의한다. 2. loss function을 최소화하는 파라미터들을 효율적으로 찾는 과정 (optimization) - Loss Function 1. SVM을 활용한 Hinge loss 고양이에 대한 Hinge loss 값을 구해보면 max(0, 5.1-3.2+1) + max(0, -1.7-3.2+1) = 2.9+0 = 2.9 가 된다. 이제 loss값들을 더해 총클래스의 수로 나눠주면 (2.9+0+10.9)/3 = 4.6을 도출해낼 수 있다. Q: what if the sum was instead over all classes? (including j = y_i) 고양이 클래스를 예시로 들면 max(0,.. 공감수 0 댓글수 0 2022. 6. 30.
[Linear Algebra, Gilbert Strang]LECTURE 1: THE GEOMETRY OF LINEAR EQUATIONS https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/resources/lecture-1-the-geometry-of-linear-equations/ Lecture 1: The geometry of linear equations | Linear Algebra | Mathematics | MIT OpenCourseWare A major application of linear algebra is to solving systems of linear equations. This lecture presents three ways of thinking about these systems. The “row method” focuses on the individu.. 공감수 0 댓글수 0 2022. 6. 28.
[CS231n 2016] 2강 Image classification pipeline - Image Classificaiton Image Classification은 컴퓨터 비전의 핵심 task이다. 이는 이미지를 input으로 하여 lable의 집합에서 어떤 하나의 레이블을 반환해준다. 이것이 가능하다면 Detection, Segmentation, Image captioning이 수월하게 가능해진다. - The problem : Semantic gap 이미지는 [0,255] 사이의 숫자들로 이루어진 3D array로 표현되어진다. e.g 300(height)X100(width)X3(channel) - The problem Viewpoint Variation : 보는 시각(카메라 위치)에 따라 이미지가 달리 보일 수 있다. Illumination : 조명에 따라 이미지가 달리 보일 수 있.. 공감수 0 댓글수 0 2022. 6. 28.
[프로그래머스]코딩테스트 연습/2020 KAKAO BLIND RECRUITMENT/괄호 변환(python3) 1. 입력이 빈 문자열인 경우, 빈 문자열을 반환합니다. 2. 문자열 w를 두 "균형잡힌 괄호 문자열" u, v로 분리합니다. 단, u는 "균형잡힌 괄호 문자열"로 더 이상 분리할 수 없어야 하며, v는 빈 문자열이 될 수 있습니다. 3. 문자열 u가 "올바른 괄호 문자열" 이라면 문자열 v에 대해 1단계부터 다시 수행합니다. 3-1. 수행한 결과 문자열을 u에 이어 붙인 후 반환합니다. 4. 문자열 u가 "올바른 괄호 문자열"이 아니라면 아래 과정을 수행합니다. 4-1. 빈 문자열에 첫 번째 문자로 '('를 붙입니다. 4-2. 문자열 v에 대해 1단계부터 재귀적으로 수행한 결과 문자열을 이어 붙입니다. 4-3. ')'를 다시 붙입니다. 4-4. u의 첫 번째와 마지막 문자를 제거하고, 나머지 문자열의 .. 공감수 0 댓글수 0 2022. 1. 20.
[프로그래머스]코딩테스트 연습/2021 Dev-Matching: 웹 백엔드 개발자(상반기)/로또의 최고 순위와 최저 순위(python3) 공감수 0 댓글수 0 2022. 1. 19.
[프로그래머스]코딩테스트 연습/2017 팁스타운/짝지어 제거하기(python3) 공감수 0 댓글수 0 2022. 1. 19.
[프로그래머스]코딩테스트 연습/깊이/너비 우선 탐색(DFS/BFS)/타겟 넘버(python3) 공감수 0 댓글수 0 2022. 1. 17.
[프로그래머스]코딩테스트연습/힙(Heap)/더 맵게(python3) 공감수 0 댓글수 0 2022. 1. 14.

문의안내

티스토리
로그인
고객센터

티스토리는 카카오에서 사랑을 담아 만듭니다.