Public 1위 -> private 7위 solution 입니다.
\n\n기존에 말씀드린 LB 0.95 솔루션 그대로에 CutMix만 넣었습니다.
\n\nhttps://www.kaggle.com/c/2019-3rd-ml-month-with-kakr/discussion/97814#latest-598866
\n\n다만, 논문 그대로의 cutmix가 아니라 제가 약간 modify한 버전을 썼습니다 : https://github.com/ildoonet/cutmix\n- Cifar100, ImageNet에서도 논문보다 나은 성능을 보여줍니다.\n- 트레이닝 속도도 저자 코드보다 빠릅니다.\n- 개선사항은 레포를 참고하시면 됩니다.
\n\npublic LB 대비 private LB가 다소 낮은 것은 앙상블한 모델이 1개이고(ResNext 101) 단순한 TTA 만 적용하여 generalization이 조금 덜 되었다고 볼 수도 있을 것 같습니다. 혹은 public/private 사이에서 약간의 데이터 분포가 다른 상황에서 약간의 운이 없었던 것일 지도요.
\n\n저는 cutmix를 개선하는 쪽에 집중하여 실험을 하는 것이 목적이었습니다. 아마 위 깃헙을 통해서 cutmix 개선 버전을 지속적으로 공개할 것 같습니다.
\n\n다른 분들 솔루션도 재미있는 것 같고, 특히 1등분이 노력을 많이 하신 것 같습니다. 즐거운 대회였습니다. :)
", "messages": [ { "id": "601244", "postDate": "08/17/2019 09:06:54", "content": "Public 1위 -> private 7위 solution 입니다.
\n\n기존에 말씀드린 LB 0.95 솔루션 그대로에 CutMix만 넣었습니다.
\n\nhttps://www.kaggle.com/c/2019-3rd-ml-month-with-kakr/discussion/97814#latest-598866
\n\n다만, 논문 그대로의 cutmix가 아니라 제가 약간 modify한 버전을 썼습니다 : https://github.com/ildoonet/cutmix\n- Cifar100, ImageNet에서도 논문보다 나은 성능을 보여줍니다.\n- 트레이닝 속도도 저자 코드보다 빠릅니다.\n- 개선사항은 레포를 참고하시면 됩니다.
\n\npublic LB 대비 private LB가 다소 낮은 것은 앙상블한 모델이 1개이고(ResNext 101) 단순한 TTA 만 적용하여 generalization이 조금 덜 되었다고 볼 수도 있을 것 같습니다. 혹은 public/private 사이에서 약간의 데이터 분포가 다른 상황에서 약간의 운이 없었던 것일 지도요.
\n\n저는 cutmix를 개선하는 쪽에 집중하여 실험을 하는 것이 목적이었습니다. 아마 위 깃헙을 통해서 cutmix 개선 버전을 지속적으로 공개할 것 같습니다.
\n\n다른 분들 솔루션도 재미있는 것 같고, 특히 1등분이 노력을 많이 하신 것 같습니다. 즐거운 대회였습니다. :)
", "rawMarkdown": "Public 1위 -> private 7위 solution 입니다.\n\n기존에 말씀드린 LB 0.95 솔루션 그대로에 CutMix만 넣었습니다.\n\nhttps://www.kaggle.com/c/2019-3rd-ml-month-with-kakr/discussion/97814#latest-598866\n\n다만, 논문 그대로의 cutmix가 아니라 제가 약간 modify한 버전을 썼습니다 : https://github.com/ildoonet/cutmix\n- Cifar100, ImageNet에서도 논문보다 나은 성능을 보여줍니다.\n- 트레이닝 속도도 저자 코드보다 빠릅니다.\n- 개선사항은 레포를 참고하시면 됩니다.\n\npublic LB 대비 private LB가 다소 낮은 것은 앙상블한 모델이 1개이고(ResNext 101) 단순한 TTA 만 적용하여 generalization이 조금 덜 되었다고 볼 수도 있을 것 같습니다. 혹은 public/private 사이에서 약간의 데이터 분포가 다른 상황에서 약간의 운이 없었던 것일 지도요.\n\n저는 cutmix를 개선하는 쪽에 집중하여 실험을 하는 것이 목적이었습니다. 아마 위 깃헙을 통해서 cutmix 개선 버전을 지속적으로 공개할 것 같습니다.\n\n다른 분들 솔루션도 재미있는 것 같고, 특히 1등분이 노력을 많이 하신 것 같습니다. 즐거운 대회였습니다. :)", "votes": null }, { "id": "601693", "postDate": "08/18/2019 04:02:18", "content": "대회동안 공유해주신 자료들이 공부하는데 도움이 많이 됐습니다!\nCutMix 라는 augmentation 도 있군요.\n수고하셨습니다!
", "rawMarkdown": "대회동안 공유해주신 자료들이 공부하는데 도움이 많이 됐습니다!\nCutMix 라는 augmentation 도 있군요.\n수고하셨습니다!", "votes": null }, { "id": "601800", "postDate": "08/18/2019 06:50:22", "content": "좋은 코드 항상 감사합니다. 아마 앙상블 좀만 더 하셨어도 떨어지지 않으셨을것 같네요 :)
", "rawMarkdown": "좋은 코드 항상 감사합니다. 아마 앙상블 좀만 더 하셨어도 떨어지지 않으셨을것 같네요 :)", "votes": null }, { "id": "601904", "postDate": "08/18/2019 10:29:22", "content": "좋은 cutmix augmentation 코드 감사합니다!!ㅎㅎ ResNext로만 Public LB에서 이 score를 기록하시다니 대단하시네요...ㅠㅠ 항상 많이 배워갑니다!!
", "rawMarkdown": "좋은 cutmix augmentation 코드 감사합니다!!ㅎㅎ ResNext로만 Public LB에서 이 score를 기록하시다니 대단하시네요...ㅠㅠ 항상 많이 배워갑니다!!", "votes": null }, { "id": "602383", "postDate": "08/19/2019 02:57:50", "content": "좋은 코드 갑사합니다. 오늘은 CutMix 공부해야겠네요 수고하셨습니다.!
", "rawMarkdown": "좋은 코드 갑사합니다. 오늘은 CutMix 공부해야겠네요 수고하셨습니다.!", "votes": null } ], "comments": [ { "id": 601693, "author_name": "tmheo74", "author_url": "", "post_date": "08/18/2019 04:02:18", "content": "대회동안 공유해주신 자료들이 공부하는데 도움이 많이 됐습니다!\nCutMix 라는 augmentation 도 있군요.\n수고하셨습니다!
", "votes": null, "replies": [] }, { "id": 601800, "author_name": "yangsaewon", "author_url": "", "post_date": "08/18/2019 06:50:22", "content": "좋은 코드 항상 감사합니다. 아마 앙상블 좀만 더 하셨어도 떨어지지 않으셨을것 같네요 :)
", "votes": null, "replies": [] }, { "id": 601904, "author_name": "gocks8", "author_url": "", "post_date": "08/18/2019 10:29:22", "content": "좋은 cutmix augmentation 코드 감사합니다!!ㅎㅎ ResNext로만 Public LB에서 이 score를 기록하시다니 대단하시네요...ㅠㅠ 항상 많이 배워갑니다!!
", "votes": null, "replies": [] }, { "id": 602383, "author_name": "kimtaegwan", "author_url": "", "post_date": "08/19/2019 02:57:50", "content": "좋은 코드 갑사합니다. 오늘은 CutMix 공부해야겠네요 수고하셨습니다.!
", "votes": null, "replies": [] } ], "raw_markdown_by_id": { "601244": "Public 1위 -> private 7위 solution 입니다.\n\n기존에 말씀드린 LB 0.95 솔루션 그대로에 CutMix만 넣었습니다.\n\nhttps://www.kaggle.com/c/2019-3rd-ml-month-with-kakr/discussion/97814#latest-598866\n\n다만, 논문 그대로의 cutmix가 아니라 제가 약간 modify한 버전을 썼습니다 : https://github.com/ildoonet/cutmix\n- Cifar100, ImageNet에서도 논문보다 나은 성능을 보여줍니다.\n- 트레이닝 속도도 저자 코드보다 빠릅니다.\n- 개선사항은 레포를 참고하시면 됩니다.\n\npublic LB 대비 private LB가 다소 낮은 것은 앙상블한 모델이 1개이고(ResNext 101) 단순한 TTA 만 적용하여 generalization이 조금 덜 되었다고 볼 수도 있을 것 같습니다. 혹은 public/private 사이에서 약간의 데이터 분포가 다른 상황에서 약간의 운이 없었던 것일 지도요.\n\n저는 cutmix를 개선하는 쪽에 집중하여 실험을 하는 것이 목적이었습니다. 아마 위 깃헙을 통해서 cutmix 개선 버전을 지속적으로 공개할 것 같습니다.\n\n다른 분들 솔루션도 재미있는 것 같고, 특히 1등분이 노력을 많이 하신 것 같습니다. 즐거운 대회였습니다. :)", "601693": "대회동안 공유해주신 자료들이 공부하는데 도움이 많이 됐습니다!\nCutMix 라는 augmentation 도 있군요.\n수고하셨습니다!", "601800": "좋은 코드 항상 감사합니다. 아마 앙상블 좀만 더 하셨어도 떨어지지 않으셨을것 같네요 :)", "601904": "좋은 cutmix augmentation 코드 감사합니다!!ㅎㅎ ResNext로만 Public LB에서 이 score를 기록하시다니 대단하시네요...ㅠㅠ 항상 많이 배워갑니다!!", "602383": "좋은 코드 갑사합니다. 오늘은 CutMix 공부해야겠네요 수고하셨습니다.!" }, "source": "meta" }