이번 Competition에 쓰인 데이터의 특징은 적은 데이터(3000개), 적은 클래스(4)입니다.
\n사실 이번 데이터에서 구분해야 하는 클래스는 4개밖에 안되기 때문에, 지금까지의 베이스라인 코드(CNN , Dropout, Batch Normalization)만으로도 충분한 성능을 뽑아낼 수 있지 않을까? 라는 생각이 들긴 듭니다.
\n그래서, 지금까지 과제에서 제출했던 베이스라인 코드와 과적합 해소 방안(Dropout, Batch Normalization)을 추가한 CNN 모델을 이용해 학습시켜보고 성능을 평가해보는 게 우선이라고 생각합니다.
\n단, Test data를 불러올 때 shuffle=False를 사용해야 합니다 !
# test data 불러오기\n\ntestd=test_gen.flow_from_directory('/kaggle/input/animal-classification/test',\n target_size = (299,299), # 이미지의 크기는 특정 size로 통일\n class_mode='sparse',\n shuffle=False, # shuffle=False 필수\n batch_size=1) # 필수는 아닐 듯\nsample submission csv에 저희 모델로 예측(model_first.predict_generator(testd))한 라벨을 탑재할 때에는 데이터 폴더에서 불러오는 이미지 순서 그대로 넣어야 합니다. 그렇기 때문에 이미지 데이터를 불러올 때에 순서가 섞이지 않게 Shuffle을 꺼주어야 한다고 생각합니다.
(Default 값으로 Shuffle=False로 들어갈 줄 알았는데 찾아보니 Shuffle=True가 Default라고 합니다.)
\n아무튼, 과제에 사용했던 기본적인 CNN 구조와 (Data Augmentation, Dropout, Batch Normalization, …) 등 과적합 해소 기법들만으로도 저희 모델은 4개의 Class를 잘 구분할 수도 있습니다.
\n그렇다면 굳이 복잡한 모델을 끌고와서 학습시키는 것은 시간 낭비겠지요.
다만 데이터가 너무 적어서 성능이 잘 안 나올 수도 있습니다.
\n이럴 때, 성능을 더욱 올리기 위해 일반적으로 사용하는 대표적인 방법은 아래와 같습니다.
\n모델 구조 변경
\n데이터 증강(Data Augmentation)
\n전이 학습(Transfer Learning)
\n여기서는 모델 구조보다는 데이터 증강과 전이학습에 대해서 간략히 다루도록 하겠습니다.
\n데이터 증강은 슬라이드에 나와있었던 것처럼
\nfrom tensorflow.keras.preprocessing.image import ImageDataGenerator\n\nigen=ImageDataGenerator(rescale=1/255, validation_split=0.2, \n width_shift_range=0.2, height_shift_range=0.2, \n zoom_range=0.2, \n horizontal_flip=True, vertical_flip=True,\n shear_range=0.2,brightness_range=(0.2,1.3))\n이미지를 불러올 때 위와 같은 shift, zoom, flip, shear, brightness에 대한 인자를 넣어주면 됩니다.
\n그러면, 자동적으로 매 epoch마다 새롭게 변한 이미지를 추출해 학습하기 때문에 더욱 많은 데이터로 학습하는 효과를 얻을 수 있습니다.
\n
이미지 분야든, 자연어 처리 분야든 대용량의 데이터에 미리 학습시켜 놓은 초대형 모델(pre-trained model)을 이용해 저희들이 원하는 task에 전이학습(transfer learning)을 적용시키는 것이 성능 보장을 위한 가장 확실한 방법입니다.
\n본래 저희가 예측할 데이터에 대해
\n(1) pre-trained 모델에 쓰인 데이터와 우리 데이터의 특징이 비슷한지
\n(2) 우리 data의 size가 어떤지
에 따라 학습 전략을 나누기는 해야 합니다..만은
\n어차피 저희가 사용할 데이터는 동물이기 때문에 (1)은 신경쓸 필요가 없습니다.
즉, 적은 데이터를 사용하는 저희 모델에만 조심스럽게 전이학습 시키면 됩니다.
\n이에 대해서는 아래의 tutorial code를 참고해 거의 유사하게 따라하면 됩니다.
\n영어(추천)
\nhttps://keras.io/guides/transfer_learning/
한글(참고용)
\nhttps://www.tensorflow.org/tutorials/images/transfer_learning?hl=ko
그렇기 때문에 이미지의 크기는 정사각형 크기의 이미지로 통합해주어야 합니다.
여기에는 다양한 방법(이미지의 크기를 모두 불러와 평균 크기의 사이즈로 모두 바꾼다든지…)이 있겠지만, 저희가 배웠던 method flow_from_directory 의 target_size 인수를 이용하면 이미지의 크기를 모두 통일할 수 있습니다.
traind=igen.flow_from_directory(trainp, target_size = (150,150), #여기\n batch_size = bs,class_mode = 'sparse' , subset='training')\n저희 데이터의 이미지 크기는 대략 300~400 정도 되는 걸로 기억하기 때문에 위처럼 target_size를 (150, 150)로 통일해도 문제는 없습니다(저희 이미지가 30 x 30인데 150 x 150로 키우는 건 문제가 많겠죠).
\n위에서 굳이 (150,150)를 예시로 든 이유는 위에 첨부한 keras guide의 예시(아래)가 pre-trained 모델인 Xception을 불러올 때 input_shape를 (150,150,3)으로 불러왔기 때문입니다.
\nbase_model = keras.applications.Xception(\n weights='imagenet', # Load weights pre-trained on ImageNet.\n input_shape=(150, 150, 3), # 여기\n include_top=False) # Do not include the ImageNet classifier at the top.\n당연히 저희가 이미지 전처리할 때 통일할 target_size와 저희가 사용할 pre-trained model의 input_shape는 통일시켜주어야 합니다.
\n다만 저희 이미지는 300~400인데 이미지 사이즈를 150으로 줄인다면 성능이 안 좋아질 수도 있기 때문에, 각 모델이 허용하는 최대 크기의 이미지로 통일하는 게 좋습니다(위의 예시에서 Xception을 불러올 때 input shape를 (150,150,3)으로 했으나, 원래 default는 (299,299,3)까지 지원합니다).
\n위의 예시에서는 pre-trained model로 Xception을 사용했습니다만, 더 좋은 모델이 있을 수 있겠죠?
\nhttps://keras.io/api/applications/
\n위의 링크를 참고해 분류 성능이 좋고, 가벼운 모델을 잘 골라서 pre-trained 모델로 사용하면 됩니다.
\n# DataGenerator를 새로 생성하되, 그냥 이미지의 scale만 조정해주어야 합니다.\ntest_gen=ImageDataGenerator(rescale=1/255)\n# (위에서 정의한 image generator)\ntraind=igen.flow_from_directory(trainp, target_size = (299,299),\n batch_size = bs,class_mode = 'sparse' , subset='training')\n\n# 원래 validation data에는 Augmentation이 적용되면 안 되지만, 크게 상관은 없으리라 생각하고\n# Data augmentation을 적용한 Generator에서 validation data도 가져옵니다.\nvald=igen.flow_from_directory(trainp, target_size = (299,299),\n batch_size = bs,class_mode = 'sparse' , subset='validation')\nshuffle=False를 사용해야 합니다 !# test data 불러오기\ntestd=test_gen.flow_from_directory('/kaggle/input/animal-classification/',target_size = (299,299)\n ,class_mode='sparse',\n shuffle=False, batch_size=1) # shuffle=False 필수일 것.\n이번 Competition에 쓰인 데이터의 특징은 적은 데이터(3000개), 적은 클래스(4)입니다.
\n사실 이번 데이터에서 구분해야 하는 클래스는 4개밖에 안되기 때문에, 지금까지의 베이스라인 코드(CNN , Dropout, Batch Normalization)만으로도 충분한 성능을 뽑아낼 수 있지 않을까? 라는 생각이 들긴 듭니다.
\n그래서, 지금까지 과제에서 제출했던 베이스라인 코드와 과적합 해소 방안(Dropout, Batch Normalization)을 추가한 CNN 모델을 이용해 학습시켜보고 성능을 평가해보는 게 우선이라고 생각합니다.
\n단, Test data를 불러올 때 shuffle=False를 사용해야 합니다 !
# test data 불러오기\n\ntestd=test_gen.flow_from_directory('/kaggle/input/animal-classification/test',\n target_size = (299,299), # 이미지의 크기는 특정 size로 통일\n class_mode='sparse',\n shuffle=False, # shuffle=False 필수\n batch_size=1) # 필수는 아닐 듯\nsample submission csv에 저희 모델로 예측(model_first.predict_generator(testd))한 라벨을 탑재할 때에는 데이터 폴더에서 불러오는 이미지 순서 그대로 넣어야 합니다. 그렇기 때문에 이미지 데이터를 불러올 때에 순서가 섞이지 않게 Shuffle을 꺼주어야 한다고 생각합니다.
(Default 값으로 Shuffle=False로 들어갈 줄 알았는데 찾아보니 Shuffle=True가 Default라고 합니다.)
\n아무튼, 과제에 사용했던 기본적인 CNN 구조와 (Data Augmentation, Dropout, Batch Normalization, …) 등 과적합 해소 기법들만으로도 저희 모델은 4개의 Class를 잘 구분할 수도 있습니다.
\n그렇다면 굳이 복잡한 모델을 끌고와서 학습시키는 것은 시간 낭비겠지요.
다만 데이터가 너무 적어서 성능이 잘 안 나올 수도 있습니다.
\n이럴 때, 성능을 더욱 올리기 위해 일반적으로 사용하는 대표적인 방법은 아래와 같습니다.
\n모델 구조 변경
\n데이터 증강(Data Augmentation)
\n전이 학습(Transfer Learning)
\n여기서는 모델 구조보다는 데이터 증강과 전이학습에 대해서 간략히 다루도록 하겠습니다.
\n데이터 증강은 슬라이드에 나와있었던 것처럼
\nfrom tensorflow.keras.preprocessing.image import ImageDataGenerator\n\nigen=ImageDataGenerator(rescale=1/255, validation_split=0.2, \n width_shift_range=0.2, height_shift_range=0.2, \n zoom_range=0.2, \n horizontal_flip=True, vertical_flip=True,\n shear_range=0.2,brightness_range=(0.2,1.3))\n이미지를 불러올 때 위와 같은 shift, zoom, flip, shear, brightness에 대한 인자를 넣어주면 됩니다.
\n그러면, 자동적으로 매 epoch마다 새롭게 변한 이미지를 추출해 학습하기 때문에 더욱 많은 데이터로 학습하는 효과를 얻을 수 있습니다.
\n
이미지 분야든, 자연어 처리 분야든 대용량의 데이터에 미리 학습시켜 놓은 초대형 모델(pre-trained model)을 이용해 저희들이 원하는 task에 전이학습(transfer learning)을 적용시키는 것이 성능 보장을 위한 가장 확실한 방법입니다.
\n본래 저희가 예측할 데이터에 대해
\n(1) pre-trained 모델에 쓰인 데이터와 우리 데이터의 특징이 비슷한지
\n(2) 우리 data의 size가 어떤지
에 따라 학습 전략을 나누기는 해야 합니다..만은
\n어차피 저희가 사용할 데이터는 동물이기 때문에 (1)은 신경쓸 필요가 없습니다.
즉, 적은 데이터를 사용하는 저희 모델에만 조심스럽게 전이학습 시키면 됩니다.
\n이에 대해서는 아래의 tutorial code를 참고해 거의 유사하게 따라하면 됩니다.
\n영어(추천)
\nhttps://keras.io/guides/transfer_learning/
한글(참고용)
\nhttps://www.tensorflow.org/tutorials/images/transfer_learning?hl=ko
그렇기 때문에 이미지의 크기는 정사각형 크기의 이미지로 통합해주어야 합니다.
여기에는 다양한 방법(이미지의 크기를 모두 불러와 평균 크기의 사이즈로 모두 바꾼다든지…)이 있겠지만, 저희가 배웠던 method flow_from_directory 의 target_size 인수를 이용하면 이미지의 크기를 모두 통일할 수 있습니다.
traind=igen.flow_from_directory(trainp, target_size = (150,150), #여기\n batch_size = bs,class_mode = 'sparse' , subset='training')\n저희 데이터의 이미지 크기는 대략 300~400 정도 되는 걸로 기억하기 때문에 위처럼 target_size를 (150, 150)로 통일해도 문제는 없습니다(저희 이미지가 30 x 30인데 150 x 150로 키우는 건 문제가 많겠죠).
\n위에서 굳이 (150,150)를 예시로 든 이유는 위에 첨부한 keras guide의 예시(아래)가 pre-trained 모델인 Xception을 불러올 때 input_shape를 (150,150,3)으로 불러왔기 때문입니다.
\nbase_model = keras.applications.Xception(\n weights='imagenet', # Load weights pre-trained on ImageNet.\n input_shape=(150, 150, 3), # 여기\n include_top=False) # Do not include the ImageNet classifier at the top.\n당연히 저희가 이미지 전처리할 때 통일할 target_size와 저희가 사용할 pre-trained model의 input_shape는 통일시켜주어야 합니다.
\n다만 저희 이미지는 300~400인데 이미지 사이즈를 150으로 줄인다면 성능이 안 좋아질 수도 있기 때문에, 각 모델이 허용하는 최대 크기의 이미지로 통일하는 게 좋습니다(위의 예시에서 Xception을 불러올 때 input shape를 (150,150,3)으로 했으나, 원래 default는 (299,299,3)까지 지원합니다).
\n위의 예시에서는 pre-trained model로 Xception을 사용했습니다만, 더 좋은 모델이 있을 수 있겠죠?
\nhttps://keras.io/api/applications/
\n위의 링크를 참고해 분류 성능이 좋고, 가벼운 모델을 잘 골라서 pre-trained 모델로 사용하면 됩니다.
\n# DataGenerator를 새로 생성하되, 그냥 이미지의 scale만 조정해주어야 합니다.\ntest_gen=ImageDataGenerator(rescale=1/255)\n# (위에서 정의한 image generator)\ntraind=igen.flow_from_directory(trainp, target_size = (299,299),\n batch_size = bs,class_mode = 'sparse' , subset='training')\n\n# 원래 validation data에는 Augmentation이 적용되면 안 되지만, 크게 상관은 없으리라 생각하고\n# Data augmentation을 적용한 Generator에서 validation data도 가져옵니다.\nvald=igen.flow_from_directory(trainp, target_size = (299,299),\n batch_size = bs,class_mode = 'sparse' , subset='validation')\nshuffle=False를 사용해야 합니다 !# test data 불러오기\ntestd=test_gen.flow_from_directory('/kaggle/input/animal-classification/',target_size = (299,299)\n ,class_mode='sparse',\n shuffle=False, batch_size=1) # shuffle=False 필수일 것.\n