![\"\"](\"https://www.googleapis.com/download/storage/v1/b/kaggle-user-content/o/inbox%2F1195275%2F59a24e76491beefcd24d45d0a6ba9e79%2Fr1.PNG?generation=1563350217168247&alt=media\")
kernel들을 살펴보니, cutout augmentation을 안하시는 것 같아서 테스트해봤습니다.
\n\n사용전:\n
사용후:\n![\"\"](\"https://www.googleapis.com/download/storage/v1/b/kaggle-user-content/o/inbox%2F1195275%2F752cbe18a9af61af77927534d728e004%2Fr2.png?generation=1563350237551527&alt=media\")
\n![\"\"](\"https://www.googleapis.com/download/storage/v1/b/kaggle-user-content/o/inbox%2F1195275%2F248ef839266e7725572e66e7fd140815%2Fr3.png?generation=1563350306887267&alt=media\")
cutout augmentation을 하면, training acc/loss와 validation acc/loss의 gap이 줄어드는 것을 보실 수 있습니다.
\n\nvalid set에 대해서 좀 더 잘 수렴하는 느낌입니다.
\n\nLB도 0.88841 에서 0.90004 로 소폭 상승하였습니다.
\n\n공개된 더 좋은 성능의 커널에 대해서도 테스트 해보려합니다.
\n\nhttps://www.kaggle.com/seriousran/cutout-augmentation-on-keras-efficientnet
", "messages": [ { "id": "577937", "postDate": "07/17/2019 07:58:34", "content": "kernel들을 살펴보니, cutout augmentation을 안하시는 것 같아서 테스트해봤습니다.
\n\n사용전:\n
사용후:\n\n
cutout augmentation을 하면, training acc/loss와 validation acc/loss의 gap이 줄어드는 것을 보실 수 있습니다.
\n\nvalid set에 대해서 좀 더 잘 수렴하는 느낌입니다.
\n\nLB도 0.88841 에서 0.90004 로 소폭 상승하였습니다.
\n\n공개된 더 좋은 성능의 커널에 대해서도 테스트 해보려합니다.
\n\nhttps://www.kaggle.com/seriousran/cutout-augmentation-on-keras-efficientnet
", "rawMarkdown": "kernel들을 살펴보니, cutout augmentation을 안하시는 것 같아서 테스트해봤습니다.\n\n사용전:\n\n\n사용후:\n\n\n\n\ncutout augmentation을 하면, training acc/loss와 validation acc/loss의 gap이 줄어드는 것을 보실 수 있습니다.\n\nvalid set에 대해서 좀 더 잘 수렴하는 느낌입니다.\n\nLB도 0.88841 에서 0.90004 로 소폭 상승하였습니다.\n\n공개된 더 좋은 성능의 커널에 대해서도 테스트 해보려합니다.\n\nhttps://www.kaggle.com/seriousran/cutout-augmentation-on-keras-efficientnet", "votes": null }, { "id": "578138", "postDate": "07/17/2019 11:35:41", "content": "좋은 정보 공유 감사드립니다. 저는 cutout 또는 random erasing을 쓰니 오히려 점수가 하락하더라고요. 그래도 실험해볼만한 augmentation인 것 같습니다.
", "rawMarkdown": "좋은 정보 공유 감사드립니다. 저는 cutout 또는 random erasing을 쓰니 오히려 점수가 하락하더라고요. 그래도 실험해볼만한 augmentation인 것 같습니다.", "votes": null }, { "id": "578174", "postDate": "07/17/2019 12:39:18", "content": "그렇군요... 높은 성능에서 오히려 떨어진다면, 현재 제가 사용한 상황에서는 학습이 더뎌져서 over-fitting을 막아준 정도의 역할만 한걸지도 모르겠습니다...
", "rawMarkdown": "그렇군요... 높은 성능에서 오히려 떨어진다면, 현재 제가 사용한 상황에서는 학습이 더뎌져서 over-fitting을 막아준 정도의 역할만 한걸지도 모르겠습니다...", "votes": null }, { "id": "578664", "postDate": "07/18/2019 02:14:39", "content": "소폭이 아닌데요? ^^ cutout parameter가 궁금하네요
", "rawMarkdown": "소폭이 아닌데요? ^^ cutout parameter가 궁금하네요", "votes": null }, { "id": "578723", "postDate": "07/18/2019 04:27:12", "content": "cutout 함수랑 파라미터는 위의 커널(혹은 아래의 커널)을 확인하시면 되구요! 좀 더 나은 성능으로 공개된 모델을 기준으로 다시 돌려보았는데, 괜찮은 성능이 나오네요!
\n\nhttps://www.kaggle.com/seriousran/keras-base-model-for-car-classification
", "rawMarkdown": "cutout 함수랑 파라미터는 위의 커널(혹은 아래의 커널)을 확인하시면 되구요! 좀 더 나은 성능으로 공개된 모델을 기준으로 다시 돌려보았는데, 괜찮은 성능이 나오네요!\n\nhttps://www.kaggle.com/seriousran/keras-base-model-for-car-classification", "votes": null }, { "id": "580438", "postDate": "07/20/2019 06:28:16", "content": "저도 resnet50으로 실험해보니 cutout을 적용시켰을 때 0.005~0.01정도 오르는걸 확인할수 있었습니다! 저는 hole은 한개, 크기는 20~40으로 랜덤하게 주었습니다. 좋은 정보 감사드려요
", "rawMarkdown": "저도 resnet50으로 실험해보니 cutout을 적용시켰을 때 0.005~0.01정도 오르는걸 확인할수 있었습니다! 저는 hole은 한개, 크기는 20~40으로 랜덤하게 주었습니다. 좋은 정보 감사드려요", "votes": null } ], "comments": [ { "id": 578138, "author_name": "harangdev", "author_url": "", "post_date": "07/17/2019 11:35:41", "content": "좋은 정보 공유 감사드립니다. 저는 cutout 또는 random erasing을 쓰니 오히려 점수가 하락하더라고요. 그래도 실험해볼만한 augmentation인 것 같습니다.
", "votes": null, "replies": [ { "id": 578174, "author_name": "seriousran", "author_url": "", "post_date": "07/17/2019 12:39:18", "content": "그렇군요... 높은 성능에서 오히려 떨어진다면, 현재 제가 사용한 상황에서는 학습이 더뎌져서 over-fitting을 막아준 정도의 역할만 한걸지도 모르겠습니다...
", "votes": null, "replies": [] } ] }, { "id": 578664, "author_name": "ildoonet", "author_url": "", "post_date": "07/18/2019 02:14:39", "content": "소폭이 아닌데요? ^^ cutout parameter가 궁금하네요
", "votes": null, "replies": [ { "id": 578723, "author_name": "seriousran", "author_url": "", "post_date": "07/18/2019 04:27:12", "content": "cutout 함수랑 파라미터는 위의 커널(혹은 아래의 커널)을 확인하시면 되구요! 좀 더 나은 성능으로 공개된 모델을 기준으로 다시 돌려보았는데, 괜찮은 성능이 나오네요!
\n\nhttps://www.kaggle.com/seriousran/keras-base-model-for-car-classification
", "votes": null, "replies": [] } ] }, { "id": 580438, "author_name": "telljoy", "author_url": "", "post_date": "07/20/2019 06:28:16", "content": "저도 resnet50으로 실험해보니 cutout을 적용시켰을 때 0.005~0.01정도 오르는걸 확인할수 있었습니다! 저는 hole은 한개, 크기는 20~40으로 랜덤하게 주었습니다. 좋은 정보 감사드려요
", "votes": null, "replies": [] } ], "raw_markdown_by_id": { "577937": "kernel들을 살펴보니, cutout augmentation을 안하시는 것 같아서 테스트해봤습니다.\n\n사용전:\n\n\n사용후:\n\n\n\n\ncutout augmentation을 하면, training acc/loss와 validation acc/loss의 gap이 줄어드는 것을 보실 수 있습니다.\n\nvalid set에 대해서 좀 더 잘 수렴하는 느낌입니다.\n\nLB도 0.88841 에서 0.90004 로 소폭 상승하였습니다.\n\n공개된 더 좋은 성능의 커널에 대해서도 테스트 해보려합니다.\n\nhttps://www.kaggle.com/seriousran/cutout-augmentation-on-keras-efficientnet", "578138": "좋은 정보 공유 감사드립니다. 저는 cutout 또는 random erasing을 쓰니 오히려 점수가 하락하더라고요. 그래도 실험해볼만한 augmentation인 것 같습니다.", "578174": "그렇군요... 높은 성능에서 오히려 떨어진다면, 현재 제가 사용한 상황에서는 학습이 더뎌져서 over-fitting을 막아준 정도의 역할만 한걸지도 모르겠습니다...", "578664": "소폭이 아닌데요? ^^ cutout parameter가 궁금하네요", "578723": "cutout 함수랑 파라미터는 위의 커널(혹은 아래의 커널)을 확인하시면 되구요! 좀 더 나은 성능으로 공개된 모델을 기준으로 다시 돌려보았는데, 괜찮은 성능이 나오네요!\n\nhttps://www.kaggle.com/seriousran/keras-base-model-for-car-classification", "580438": "저도 resnet50으로 실험해보니 cutout을 적용시켰을 때 0.005~0.01정도 오르는걸 확인할수 있었습니다! 저는 hole은 한개, 크기는 20~40으로 랜덤하게 주었습니다. 좋은 정보 감사드려요" }, "source": "meta" }