ChaeVI’s Lab

안녕하세요, 이번에 포스팅할 논문은 Segmentation의 근본인 U-Net Model의 논문입니다. Segmentaion은 다양한 분야에서 적용될 수 있지만, 특히 의료, 헬스케어 분야에서 중요한 기법 중 하나입니다. U-Net : Convolutional Networks for Biomedical Image Segmentation 논문 제목은 U-Net : 바이오 메디컬 이미지 분할을 위한 Convolutional Networks 입니다. 목차 Abstract 총 2번 우승 2. Network Architecture Unet의 Network Architecture를 읽고 이해한 것을 토대로 정리해 보겠습니다. Contracting path (downsampling) 3×3 conv (padding ..

목차 1. 엔트로피의 정의 2. 엔트로피가 왜 중요한가? 2-1. Entropy measures the uncertainty. 2-2. The reduction of entropies measures the amount of information. 2-3. Entropy is the fundamental limit for the compression of information. 2-4. Entropy measures how far two probability distributions are to each other. This plays a key role in Machine Learning 3. 내용 정리 전 장 손실함수(loss function)에서 다뤘던 내용 중, 손실함수 중 MSE , CEE는 둘..

목차 1. Rule-based vs Data-driven 2. 손실 함수(Loss function) 2-1. one hot encoding 2-2. 평균제곱오차(MSE) 2-3. 교차엔트로피오차(CEE) 3. Python으로 MSE, CEE 구현 1. Rule-based vs Data-driven Rule-based approach란, 컴퓨터 언어로 전환 시 규칙을 정해서 진행한다는 것인데요, 예를 들어보겠습니다. 위 사진에 고양이 사진 과 3개의 rule이 젹혀있습니다. 귀가 뾰족한가?, 수염이 있는가?, 코가 뭉툭한가? 이런 식으로 rule을 정해놓고 컴퓨터가 판단하게 하는 것입니다. 아무 고양이 사진을 컴퓨터로 입력했을 때, 귀가 뾰족하고, 수염이 있고, 코가 뭉툭하고.,,, 등등 이런 규칙들을 다..

목차 1. MNIST란? 2. 분류의 어려움 3. Python으로 MNIST 구현 안녕하세요, 이번 포스팅은 전 포스팅에서 다뤘던 인공신경망 (3층 신경망)을 베이스로 해서 여러 가지 손글씨로 쓴 숫자 데이터들의 패턴을 분류할 수 있는 훈련 알고리즘을 가져왔습니다. 바로 MNIST라고 하는데요. 1. MNIST란? 이 프로젝트에는 미국의 인구조사국과 고등학생들이 참여를 했고, 굉장히 다양하고 많은 양의 글씨체 데이터들을 가지고 진행했습니다. 위 그림을 보시면 같은 2라고 해도, 2를 한 번에 쓴 글씨도 있고, 한번 우회해서 그린 2도 존재하죠. 총 데이터 셋은 70,000장이고, 그중 training set : 60,000 / test set : 10,000으로 되어있습니다. validation set도..

목차 1. 3층 신경망 1-1. 입력층에서 1층으로의 신호전달 1-2. 1층에서 2층으로의 신호전달 1-3. 2층에서 출력층으로의 신호전달 2. Softmax 함수 2-1. 확률 벡터 2-2. softmax 변환 3 Python으로 신경망 구현 1. 3층 신경망 3층 신경망은 " 퍼셉트론 + 활성화 함수 + soft max "라고 할 수 있습니다. 아래 사진은 3층 신경망 구조를 나타낸 사진입니다. 입력값이 은닉층 2개를 지나 출력값으로 나오는 구조입니다. 각 n층에서 n+1층으로 가는 구조를 보겠습니다. 1) 입력층에서 1층으로의 신호전달 컴퓨터는 숫자가 1부터가 아니라 0부터 시작을 합니다. 그렇기 때문에 신경망 또한 입력층(0층)에서 시작합니다. 사전에 배웠던 방식으로, 입력값에 가중치를 곱하고 편..

목차 1. 퍼셉트론의 식 달리 보기 2. Activation Function(활성화 함수) 2-1. Heaviside 함수 2-2. Sigmoid 함수 2-3. Relu 함수 3. Python으로 활성화 함수 구현 1. 퍼셉트론의 식 달리 보기 딥러닝 제 1장 퍼셉트론에 이어, 제 2장 활성화 함수 입니다. 전에 다뤘던 퍼셉트론 식을 조금 바꾸도록 하겠습니다. 식을 바꾸는게 아니고, 함수를 볼 때 좀 다른 관점으로 보겠다는 겁니다. 전에 다뤘던 퍼셉트론의 식은 w1 * x1 + w2 * x2 >= 𝜽 로 사용했었죠. 이제 임계치 𝜽를 편향(bias)의 'b'로 써서 a라는 다항식을 만들겁니다. a = w1x1 + w2xw + b 이 다항식이 h(x)라는 함수를 통해서 결과가 0이냐 1이냐로 나오는 것이죠..

목차 1. 퍼셉트론(Perceptron)이란? 2. 뉴런의 구조 3. 게이트 3-1. AND 게이트 3-2. NADN 게이트 3-3. OR 게이트 3-4. XOR 게이트 3-5. 기하학적 게이트 4. 퍼셉트론의 종류 4-1. 단층 퍼셉트론 4-2. 다층 퍼셉트론 4-3. XOR 게이트 한계 극복 5. Python으로 게이트 구현 1. 퍼셉트론(Perceptron)이란? 퍼셉트론(Perceptron)이란 인공신경망(Artificial Neural Network, ANN)의 구성요소(unit)로서 다수의 값을 입력받아 하나의 값으로 출력하는 알고리즘입니다. Perceptron = Perception + Neuron 이며 인공 뉴런이라고도 합니다. 생물학에서 다루는 신경계(Neural Network)의 기본 ..

이전 글에서 포스팅 했던 A Neural Algorithm of Artistic Style 논문을 토대로 작업환경은 Colab을, Pytorch 오픈소스를 사용해 이미지 합성을 해보겠습니다. 논문을 먼저 보시고 싶은 분들은 아래 포스팅을 눌러주시면 됩니다. [논문 이해하기] A Neural Algorithm of Artistic Style by Leon A. Gatys, Alexander S. Ecker, Matthias Bethge 안녕하세요, 요즘에 딥러닝의 CNN(Convolution Neural Network)을 공부하면서 관심을 가지게 된 흥미로운 주제가 생겼습니다. 바로 제목에서 볼 수 있듯이 'Neural Style Transfer' 입니다. Style transfer은 content wes..

안녕하세요, 오늘은 딥러닝의 Transfer Learning(전이 학습)에 대해 포스팅하려고 합니다. 이 전이 학습의 결론은 '사전 학습된 가중치를 가지고 미세조정을 통해 원하는 output를 만든다.' 입니다. 1. Transfer Learning 이란 2. Pre-trained Model 3. Fine Tuning (3가지) 4. 마지막 간단 정리 Transfer Learning (전이 학습) 전이 학습이란 Pretrained model's Weight + Fine Tuning ===> Output 이라고 말하고 싶습니다. 전이 학습은 높은 정확도를 비교적 짧은 시간 내에 달성할 수 있기 때문에, Computer Vision(CV) 분야에서 유명한 방법론 중 하나라고 합니다. CV에서 말하는 전이 학..

안녕하세요, 요즘에 딥러닝의 CNN(Convolution Neural Network)을 공부하면서 관심을 가지게 된 흥미로운 주제가 생겼습니다. 바로 제목에서 볼 수 있듯이 'Neural Style Transfer' 입니다. Style transfer은 content 이미지와 style 이미지로 content + style 합성된 이미지를 도출하는 것을 말합니다. 이에 대해 알고리즘부터 제대로 알고 코드에 적용시켜야겠다 생각이 들어 Style Transfer의 시발점이라는 논문을 가져왔습니다. CNN(Convolutional Neural Network)는 Feed-Forward 방식을 이용해 시각적 정보를 계층적으로 처리하는 작은 계산 단위의 레이어로 구성됩니다. CNN이 객체 인식에 대해 train 되..