$$config title: KoreaTech - TesnorFlow로 배우는 Deep Learning Vision keywords: - python - TensorFlow $$ 강사 : ATG Lab 문성훈 이메일 : moon9342@gmail.com kdt 수업장소 : 멀티캠퍼스 [강사 드라이브](https://drive.google.com/drive/folders/1hMdwOQ7wxrloS-xkr3d4lsQKWepMNtq7) # OT ## TensorFlow 1. 텐서플로우는 1.~~ 버전이랑 2.~~ 버전이 상호 호환성이 없음 2. 1.~~ 버전은 이해하긴 좋은데 구현이 어려움 3. 2.~~ 버전은 반대 이해하긴 어려운데 구현이 쉬움 수업은 2.~~ 버전 실습은 텐서플로우 2.8 YOLO 버전 4 # 1일차 ## 환경설정 1. 구글 드라이브로 이동 2. 폴더 만들기 3. 새로 만들기 - 더보기 - (Google Colaboratory) 4. 없으면 연결할 앱 더보기에서 검색하고 설치 5. 왼쪽의 파일 클릭 6. 구글 드라이브 누르면 구글 드라이브 마운트 가능 7. 위쪽의 런타임 클릭 8. 런타임 유형 변경 클릭 9. GPU 선택 후 저장 디펜던시때문에 가장 최신을 써도 좋은 성능을 내는게 아님 목적에 맞춰서 잘 사용해야함 ## 머신러닝이란 최종목표, 즉 지향점은 A.I A.I에는 두가지가 있음 1. Strong A.I - 사람이랑 구별할 수 없는 A.I(현재는 어떻게 만드는지도 모름) 2. Weak A.I - Strong A.I를 만들기 너무 힘드니까 특정 영역(분야)에서 사람처럼 행동하는 A.I를 먼저 만들어보자 해서 나온 A.I 머신러닝이란 Weak A.I를 만들기 위한 방법 중 하나 머신러닝의 특징 - 데이터를 기반으로 학습함 ## 머신러닝과 일반적인 프로그래밍의 차이점 ### 일반적인 프로그래밍 data가 로직으로 들어가게 되면 그것에 대한 해답이 나옴 그걸 Explicit programming(Rule based programming)이라고 함 이게 지금까지 하던 프로그래밍 ### 머신러닝 data와 해답이 학습(learning)에 같이 들어감 우리가 알아내고 싶은것은 data와 해답의 규칙성 그것을 찾아내는게 머신러닝 일반적인 프로그래밍과 결이 다름 들어가는 데이터의 형태도 다르고 처리되는 학습이라 불리는것도 원래의 logic과 다름 뽑아내는 규칙성은 함수(수학 식)으로 나옴 규칙성을 가지고있는 프로그래밍적 단위를 model(수학 식)이라고 함 ## Machine Learning의 분류 머신러닝은 크게 보면 4가지정도의 분류로 나뉘어짐 1. 지도학습(일반적으로 발생하는 90%이상의 문제) 2. 비지도학습 3. 준지도학습 4. 강화학습 강화학습과 나머지 3개는 궤를 달리함 1, 2, 3은 들어가는 데이터의 형태에 따라 결정됨 ### 지도학습 지도학습의 예시 입력으로 이미지와 정답(ex 이게 오리임, 이건 오리가 아님)이 들어감 학습의 과정을 거치면 모델이라는게 만들어짐 모델이 만들어지면 예측이 가능함 지도학습을 하려면 데이터 셋[ex 데이터, 라벨(이 데이터가 뭔지)등]이 필요함 예시 - 이미지와 라벨(이게 오리임, 이건 오리가 아님)을 학습해서 나온 모델로 들어오는 이미지가 오리인지 아닌지 판단 ### 비지도학습 지도학습에서 라벨이 없음 클러스터링(같은 특징을 가진것을 묶음)을 함 새로운 데이터가 어디 분류인지를 잡아줄 수 있음 예시 - 뉴스를 보고 이건 경제 뉴스임, 정치 뉴스임 이런식으로 분류할 때 ### 준지도학습 지도학습에서 라벨이 있는것과 없는것이 같이 들어와서 학습하는것 ### 강화학습 현 시점에서 가장 좋은 솔루션을 찾아내는 것 정책을 수립해서 가장 좋은 솔루션을 찾아내는것 금융쪽에 강점을 가짐 ex) 주식, 코인 등등 ## Machine Learning 알고리즘 ### 지도학습에서 사용하는 알고리즘 1. 회귀(Regression) - 평균으로의 회귀 2. SVM 3. Decision Tree(Random Forest) 4. Naive Bayes 5. KNN 6. Neural Network(ANN) -> 계량된 버전이 Deep Learning 회귀가 확장돼서 Neural Network쪽으로 감 데이터의 특성에 따라서 각각 다른 알고리즘이 사용되기때문에 알고리즘이 많음 ### 지도학습의 모델이 뽑아내는 결과값의 형태 두가지 다 지도학습으로 만들 수 있음 1. 연속적인 숫자값(Regression) - 위의 평균으로의 회귀(Regression) 다른것 - ex) 1시간 공부하면 5점, 2시간 공부하면 10점, 8시간 공부하면 70일때 7시간 공부하면 몇점? 의 결과 n점 처럼 어떤 숫자로 나오는것 - 연속적인 숫자값 뽑을때 선형회귀 - logistic regression 2. 분류값(분류를 나누기 위한 확률값) - Classification - 이미지를 학습시킬때 얘는 오리이다, 얘는 호랑이다 하는 데이터를 넣으면 얘는 토끼다 하고 나오는 분류 - Multinomial Logistic Regression logistic Regression을 여러개 합쳐놓은 것 ### Deep Leaing 알고리즘의 종류 - DNN - CNN - GAN ### 비지도학습에서 사용하는 알고리즘 1. K-means 2. DBSCAN ### 딥러닝과 머신러닝의 차이 초급과 고급의 차이는 아님 정형데이터는 머신러닝으로도 충분히 학습 가능함 더 빠르고 적은 리소스로 충분히 학습됨 비정형데이터를 학습할때 딥러닝을 사용함 ## 회귀(Regression) ### 회귀란? 평균을 내는 기법 -> 어떤 데이터에 대해(ex 아파트 가격) 그 데이터에 영향을 주는 조건(ex 평수, 지역, 학군, 연식등)들의 영향력을 이용해서 조건부 평균을 구한다 표로 다 적으면 너무 힘드니까 아파트 가격 = 3000 x (평수) + 2000 x (화장실 개수) + 5000 x (역세권 여부) - 1000 x (연식) + ... 처럼 내가 가진 조건들을 이용해서 수식으로 만들어보자 이런 수식이 머신러닝 모델이 됨 여러가지 특성에 따라서 Regression은 실제 많은 종류가 있음 하지만 우리가 머신러닝에서 통계쪽의 Regression으로부터 가져온 회귀모델은 Classical Linear Regression Model임 선형회귀 일반 식 y^=β0 + β1 * x1 + β2 * x2 + ... β값이 회귀계수 x값이 변수 위의 식에서는 y^=β0 + β1 * 평수 + β2 * 화장실 개수 + ... 이런식으로 조건부 평균을 구한 것 여기에서 생기는 문제 : 3000, 2000, 5000, -1000등 이 조건들의 값을 어떻게 구하나? 이걸 회귀계수라고 부름 이 회귀계수를 구하는게 실제 문제 ### 회귀 과정 예시 | x | y | | -- | -- | | 1 | 1 | | 2 | 2 | | 3 | 3 | $$chart ,data, x=1,1 x=2,2 x=3,3 type: column title: 분석 데이터 x.title: x y.title: t y.min: 0 y.max: 5 $$ 이런 데이터가 있을때 y^ = β0 + β1 * x1 -> y^ = ax + b 머신러닝에서는 y^ = wx + b이라고 씀 w = weight b = bias 일반식을 알아냈고, 우리가 구해야하는건 w와 b값 w값과 b값을 맞춰 가는걸 러닝이라 부름 한번에 안구해짐 우리가 원하는건 학습 데이터(training data set)에 가장 적합한 w, b를 구하기! y^ = wx + b w와 b를 구하기 위해 로스함수(loss function)를 정의를 하게됨 -> 평균제곱오차[MSE(Mean Squared Error)]를 이용함 오차 -> [y^ - t] 오차가 크면 클수록 loss값이 더 커짐 t가 입력 학습값(정답)임 로스는 w에 대한 이차함수(포물선 형태가 됨) -> loss를 최소로 만드는 w를 찾는 알고리즘 ex) 경사 하강법이 있음 옵티마이저라고 함 경사 하강법 : w 임의로 찍고 기울기를 0에 가깝게 w값을 이동함 ### 선형 회귀 예제 퀴즈 예제 이따 올림 ### logistic regression 예제 영어시험 ### Logistic Regression -> Binary Classification(이항분류) 예제 linear regression으로 안풀려서 왜 안풀릴까? 생각을 해봄 결론 : Model의 형태를 직선에서 곡선으로 바꿔야한다 sigmoid라는 함수 y = 1 / (1+e^-x) y^ = 1 / (1+e^-(wx+b))의 형태로 바뀜 ### 정리 - Linear Regression y = wx + b loss함수 MSE - Logistic Regression y^ = 1 / (1+e^-(wx+b)) loss함수를 MSE로 쓰면 Local Minima같은 문제가 발생해서 식을 새로 정의함 그래서 loss함수를 cross entropy로 씀 ### 질문 1. 선형회귀 일반식으로 구해서 이런식이 됐는데 선형회귀 말고도 다른방법으로도 구할 수 있는가? - 답 : 다른것도 가능한데 어떤 입력에 어떤 방식이 좋은지 일반화가 좀 되어있음 2. (2w+b-2)^2 이 형태가 되면 b가 상수? w랑 b는 둘다 변하는데 변수아닌가? 상수라 생각만 하는건지 선형회귀 일반식이 y^=β0 + β1 * x1 + β2 * x2 + ... 인데 이 일반식에 지금 구하려는 데이터는 변수가 1개이므로 y^ = ax + b인데 y^ = wx + b로 표현 여기서 로스 함수로 MSE로 구하는데 그게 1/n시그마~~ 표현됨 wx+b - t (2w+b-2)^2 (2w1 + 2w2 + b - 2)^2 - 답 : w와 b에관한 2차식이 맞음 근데 그렇게 설명하면 그래프 그리기 어려우니까 그냥 w만 가지고 설명함 ### 케라스 모델에 독립변수(결과 제외) 개수만큼 input layer에 노드가 생김 w는 모델 내에 있음(입력 노드 개수에 맞춰서 알아서 설정됨, 신경 안써도됨) ### 연속적인 숫자값을 결과로 예측 -> Linear Regression | x(시간) | y(점수) | | -- | -- | | 10 | 95 | | 8 | 80 | | 5 | 68 | | 2 | 15 | | 1 | 5 | x, t로 구하는데 t는 target x가 x(시간) t가 y(점수) 7시간 공부하면 몇점일까? 같은 예측을 할때 ### 분류를 예측 - 2진분류(Binary Classification) -> Logistic Regression linear regression을 변형시킨게 logistic regression | x(시간) | y(점수) | | -- | -- | | 10 | PASS(1) | | 8 | PASS(1) | | 5 | FAIL(0) | | 2 | FAIL(0) | | 1 | FAIL(0) | 7시간 공부하면 합격할까? 합격여부가 확률로 결졍됨 ex 0.752(75.2%) logistic regression이 신경망의 기초가 됨 ### 분류를 예측 - 다항분류(Multinomical Classification) -> Logistic Regression을 여러개 결합 | x(시간) | y(점수) | | -- | -- | | 10 | A | | 8 | B | | 5 | D | | 2 | F | | 1 | F | n개중에 하나를 결과로 내보냄 (다항분류) # 2일차 ## Linear Regression Model -> 데이터를 가장 잘 표현하는 선[초평면(hyper plane)]을 찾는것 ## Logistic Regression Model -> 데이터를 가장 잘 표현하는 선[초평면(hyper plane)]을 찾고 기준선 기준으로 판단하는것 ## Multinomial Regression(다항 분류) | x1 (성적) | x2 (출석) | y (Grade) | | -- | -- | -- | | 10 | 5 | A | | 9 | 5 | A | | 5 | 1 | B | | 4 | 2 | B | | 1 | 3 | C | 접근 방법 A이냐 아니냐 logistic 하나 B냐 아니냐 logistic 하나 C냐 아니냐 logistic 하나 3개의 logistic으로 분류를 함 output layer의 노드개수는 class 개수와 일치해야됨 각각의 확률값으로는 구할 수 없어서 sigmoid에서 softmax로 수식을 변경함 class -> 분류 종류 위 예제에서는 3개의 class가 있음 출력 t를 인코딩 해줘야됨 ex) one-hot encoding ## 기억해야할 사항 1. learning rate 1. α(alpha)값이 너무 클때 : w값이 확 커져서 찾을수가 없음 -> over shooting 2. α(alpha)값이 너무 작을때 : 최적의 w에 도착할 수 없음 -> local minima (전역 최솟값은 global minima) 2. normalization (정규화) | x1 | x2 | y | | -- | -- | -- | | 1 | 9000 | A | | 2 | -5000 | A | | 3 | -3000 | B | | 4 | 8000 | C | | 5 | 7000 | C | 값의 scale이 너무 다르면 결과가 제대로 안나옴 ex) 아파트를 사러갔는데 딱 방의개수와 연수 두가지만 고려할거임 방의개수 (1 ~ 20) 연식(월) (1 ~ 240) 이렇게 되면 방개수에 영향을 별로 안받음 데이터의 의미와 중요도가 연식에 치중되어있음 정규화 종류 1. MinMax 2 Standardization 3. student t분포 3. Evaluation (평가) | size | price | | -- | -- | | 2104 | 400 | | 1600 | 330 | | 2400 | 369 | | 1416 | 232 | | 3000 | 540 | | 1985 | 300 | | 1534 | 315 | | 1427 | 199 | | 1380 | 212 | | 1494 | 243 | Model을 만들고 평가 데이터를 이용해서 평가 평가 데이터는 학습 데이터와 달라야됨 학습한 데이터를 그대로 평가에 이용하면 신뢰도가없음 근데 training data set도 부족한데 어떻게 구하냐? 학습 데이터를 분할해서 training data와 test data로 나눔 test data는 최종적으로 결과를 낼때만 사용하고 학습을 시킬때는 쓰면 안됨 그래서 내부적으로 테스트 해볼때는 training data를 training data와 validation data로 다시 분할해서 사용함 training data를 가지고 학습하고 validation data를 사용해서 내부 평가를 하며 수정해나감 이후 완료되면 마지막에 test data를 이용해서 결과를 냄 결과를 내는것까지 하고 predict로 예측해봄 그럼 data가 너무 적어지는데 어떻게 하나? 편향적으로 나눠지는 문제는? 각각의 해결방안이있음 데이터 증식 ## Image 학습 이미지는 기본적으로 3차원 x축 y축 색상 gray-scale 이미지를 흑백으로 바꾸는법 : 색상 값 평균을 R,G,B에 각각 넣어주면 됨 ex) 색상이 R -> 150, G -> 50, B -> 70일때 R -> 90, G -> 90, B -> 90, [0, 0] -> [150, 50, 70]에서 [0, 0] -> 90으로 변환 MNIST 이미지셋을 사용 문제점 : 2차원의 이미지를 학습하는게아니라 1차원으로 펴서 학습해서 유실이 발생함 그래서 나온 대안 CNN ## CNN Convolution 사진에 필터를 씌움 필터를 적용해서 이미지의 특징을 뽑아냄 필터를 거쳐 나온 이미지의 사이즈를 줄임 특징을 가진 사이즈가 줄어든 사진을 학습함 필터를 모델이 학습함 필터가 8개면 이미지가 8개가 나옴 Convolution을 하고 뒤에는 그대로 적용 epoch이 돌때마다 필터의 w값과 사진 인식의 w값이 증가해서 필터와 인식률이 점점 좋아짐 ## Vision 1. Classification(분류) 2. Object Detection(물체 탐지) - R(Resional)-CNN 크게 두가지정도 api가있음 TensorFlow Object Detection API YOLO 1. 영역찾기 2. 분류하기 3. Segmentation(객체 경계선 좌표값 따주는것) ## YOLO darknet을 사용하면 됨 ### Deep Learning 중간에 레이어가 추가됨 -> Hidden Layer Hidden Layer가 있으면 Deep Learning 없으면 Multinomial Logistic Regression Hidden Layer는 사용자가 원하는만큼 넣으면 됨 Hidden Layer의 node 개수도 사용자가 원하는만큼 하면 됨 Hidden Layer와 그것의 node 개수가 많을수록 연산량은 많아짐 대신 정확도는 높아짐 # 코랩을 쓰는 이유 연산량이 상당히 많음 그래서 당연히 GPU를 사용하야함 PC를 사용하면 GPU를 사용하지 않아서 굉장히 오래걸림 일반적으로 모든 사람이 좋은 GPU를 가지고있지 않기때문에 코랩에서 GPU를 사용 가능함