지니 코딩일기

CNN의 Visualizing & Understanding에 대한 강의 내용을 정리해보자. 목차 1. What's going on inside Convolutional Networks? 2. Which pixels matter 3. Deep dream What's going on inside Convolutional Networks? CNN 안에서는 어떤 작업이 이루어질까? First layer, Intermediate layer, Last layer 각각에서의 feature를 시각화한 것을 살펴보자. 첫 단계 - First layer 첫 번째 network의 첫 번째 layer의 output을 visualize한 것 첫 번째 layer에서 하는 것은 convolution1, activation1 ⇒ 할..

합성곱 신경망(CNN)의 종류에 대해 알아보자.이론과 하드웨어가 발전됨에 따라 CNN의 방식도 달라져왔다.   목차   LeNet-5- Layer 수 : 5개- 손글씨 숫자를 인식하기 위해 나온 것- 흑백 이미지에 훈련되었기 때문에 32x32x1인 채널 1개짜리임- 유효합성곱(valid convolution)을 사용했기 때문에 layer 적용될 때마다 높이와 너비가 감소함- 400(5x5x16)개의 노드를 120개의 뉴런에 각각 연결해서 완전연결층(fully connected layer) 만들었음- 적용 내용더보기Filter size : 5x5stride : 1Pooling : 2x2 average pooling (stride=2)Activation function:대부분의 unit이 sigmoid를 사..

합성곱 신경망은(Convolutional Neural Network)은 이미지 처리에 탁월한 성능을 보이는 신경망이다. 합성곱 신경망은 크게 합성곱층과(Convolution layer)와 풀링층(Pooling layer)으로 구성된다. 이에 대해 자세히 알아보자. 간단 정리 등장 배경 : 이미지의 공간적인 구조 정보를 보존하면서 학습할 수 있는 방법이 필요해졌고, 이를 위해 합성곱 신경망을 사용한다. 역할 : 합성곱층은 합성곱 연산을 통해서 이미지의 특징을 추출하는 역할을 한다. (Feature map 생성) 효과 : 훨씬 적은 수의 가중치를 사용하며 공간적 구조 정보를 보존한다는 특징이 있습니다. 목차 1. 합성곱 신경망 (CNN) 1-1. 등장 배경 1-2. 채널 (Channel) 1-3. 합성곱 연..

일상 속 풀고자하는 많은 문제 중에서는 두 개의 선택지 중에서 정답을 고르는 문제가 많습니다. 예를 들어 시험을 봤는데 이 시험 점수가 합격인지 불합격인지가 궁금할 수도 있고, 어떤 메일을 받았을 때 이게 정상 메일인지 스팸 메일인지를 분류하는 문제도 그렇습니다. 이렇게 둘 중 하나를 결정하는 문제를 이진 분류(Binary Classification)라고 합니다. 그리고 이런 문제를 풀기 위한 대표적인 알고리즘으로 로지스틱 회귀(Logistic Regression)가 있습니다. 목차 1. 이진분류 (Binary Classification) 2. 시그모이드 함수 (Sigmoid) 3. 비용함수 (Cost function) 이진분류 (Binary Classification) 둘 중 하나의 선택지 중에서 정답..

인공지능 (Artificial Intelligence, AI)은 인간과 유사한 지능을 갖는 컴퓨터 시스템을 의미하는 것으로, 데이터를 분석하고 패턴을 학습하여 추론, 결정, 문제 해결 등을 수행할 수 있다. 이러한 인공지능은 머신러닝, 딥러닝 등의 기술을 사용하여 구현된다. 머신러닝(Machine Learning, 기계 학습)은 인공지능의 하위 분야로, 컴퓨터가 데이터로부터 스스로 학습하고 패턴을 파악하는 알고리즘을 의미한다. 데이터와 알고리즘을 사용하여 인간이 학습하는 방식을 모방하고 점차 정확도를 향상하는 데 중점을 둔다. 컴퓨터 시스템이 스스로 지속적인 조정과 향상을 수행하도록 하므로, 데이터가 많을수록 더 정확한 결과를 얻을 수 있다. 딥 러닝(Deep Learning)은 머신러닝의 하위 분야로,..

DFS와 BFS에 대해 알아보자 DFS와 BFS는 그래프를 탐색하는 알고리즘이므로, 그래프에 대해 먼저 알아야 한다. 그래프 노드 (Node)와 간선(Edge)으로 표현됨 - 노드는 정점 (Vertex)이라고도 함 그래프 탐색이란 하나의 노드를 시작으로 다수의 노드를 방문하는 것을 말함 두 노드가 간선으로 연결되어 있다면 ➡️ '두 노드는 인접하다' 표현 방법 인접 행렬 : 2차원 배열로 그래프의 연결 관계를 표현하는 방식 인접 리스트 : 리스트로 그래프의 연결 관계를 표현하는 방식 # 인접 행렬 방식 예제 INF = 999999999 # 무한의 비용 선언 # 2차원 리스트를 이용해 인접 행렬 표현 graph = [[0, 7, 5]. [7, 0, INF], [5, INF, 0] ] # 인접 리스트 방식 ..

DFS, BFS는 알고리즘 문제의 핵심으로, 탐색 문제를 풀기 위해 필수적이다. 이에 대해 알아보기 전에, 우선 필요한 기본 지식을 정리해보자 탐색 (search) : 많은 양의 데이터 중에서 원하는 데이터를 찾는 과정 대표적인 탐색 알고리즘 = DFS, BFS DFS와 BFS를 제대로 이해하려면 기본 자료구조인 스택과 큐에 대한 이해가 전제되어야 한다. 자료구조 (Data Structure) 데이터를 표현하고 관리하고 처리하기 위한 구조 훨씬 다양한 종류가 있지만, 우선 이번에는 큐와 스택에 대해 정리해보자 스택과 큐는 삽입(Push), 삭제(Pop)이라는 핵심적인 함수로 구성되고, 오버플로와 언더플로를 주의해야 함 오버플로 (Overflow) : 수용할 수 있는 데이터의 크기가 이미 가득 찬 상태에서..

제대로 된 알고리즘을 구현하기 위해서는 복잡도를 고려해야 한다. 복잡도에 대해 알아보자. 복잡도 복잡도(complexity) : 알고리즘의 성능을 나타내는 척도 - 시간 복잡도 : 특정한 크기의 입력에 대하여 알고리즘이 얼마나 오래 걸리는지 -> 필요한 연산의 횟수 - 공간 복잡도 : 특정한 크기의 입력에 대하여 알고리즘이 얼마나 많은 메모리를 차지하는지 -> 필요한 메모리의 양 => 동일한 기능을 수행한다면, 일반적으로 복잡도가 낮을수록 좋은 알고리즘 시간 복잡도 - 시간제한 내에 구현하여야 함 (보통 1~5초 제한) - Big-O 표기법 사용 (가장 빠르게 증가하는 항만을 고려하는 표기) - 최악인 경우의 시간복잡도를 우선 고려하여야 함 - 보통의 경우 상수항을 무시하지만, 항상 절대적인 것은 아님 ..