{
  "id": 100048,
  "title": "memory 사용 질문 ",
  "url": "/competitions/2019-3rd-ml-month-with-kakr/discussion/100048",
  "author_name": "",
  "post_date": "2019-07-16T09:40:09.501408500Z",
  "votes": 4,
  "comment_count": 4,
  "views": 0,
  "content": "<p>저는 로컬 에서 돌려주고 있습니다 \nDensenet121돌려 주는데 메모리가 32GB를 넘어가서 커널이 죽더군요 \n배치 사이즈는 32이고  fold 1개 돌리는데 저정도 사용됩니다. \n데이터는 기존 데이터 그대로 입니다(augmentation) 해주지 않았습니다 \n질문을 정리하자면 \n1. 다른 커널이나 디스커션 보면 Densenet을 더 적은 메모리로 돌려주신거같은 느낌의 글들이 있는데 제가 뭘 잘못해주고 있나요? 배치 사이즈 32이면 큰건가요 작은건가요? \n2. 쥬피터 노트북기준으로 예를 들어 fold1개를 돌려주고 나서 메모리를 클린 시키고 다음 fold를 돌려주는 방법이 혹시 있나요? shutdown시켜주지 않으면 메모리 사용양이 계속 올라갑니다. \n캐글 메모리가 12 정도인걸로 아는데 이정도 사양에서 돌려서 제출하시는분들은 뭔가 팁이 있을거같네요 ㅎㅎ </p>\n\n<p>메모리 관련해서 읽어볼만한 글이나 커널이 있으면 추천 부탁 드립니다. </p>",
  "messages": [
    {
      "id": "577054",
      "postDate": "07/16/2019 09:40:09",
      "content": "<p>저는 로컬 에서 돌려주고 있습니다 \nDensenet121돌려 주는데 메모리가 32GB를 넘어가서 커널이 죽더군요 \n배치 사이즈는 32이고  fold 1개 돌리는데 저정도 사용됩니다. \n데이터는 기존 데이터 그대로 입니다(augmentation) 해주지 않았습니다 \n질문을 정리하자면 \n1. 다른 커널이나 디스커션 보면 Densenet을 더 적은 메모리로 돌려주신거같은 느낌의 글들이 있는데 제가 뭘 잘못해주고 있나요? 배치 사이즈 32이면 큰건가요 작은건가요? \n2. 쥬피터 노트북기준으로 예를 들어 fold1개를 돌려주고 나서 메모리를 클린 시키고 다음 fold를 돌려주는 방법이 혹시 있나요? shutdown시켜주지 않으면 메모리 사용양이 계속 올라갑니다. \n캐글 메모리가 12 정도인걸로 아는데 이정도 사양에서 돌려서 제출하시는분들은 뭔가 팁이 있을거같네요 ㅎㅎ </p>\n\n<p>메모리 관련해서 읽어볼만한 글이나 커널이 있으면 추천 부탁 드립니다. </p>",
      "rawMarkdown": "저는 로컬 에서 돌려주고 있습니다 \nDensenet121돌려 주는데 메모리가 32GB를 넘어가서 커널이 죽더군요 \n배치 사이즈는 32이고  fold 1개 돌리는데 저정도 사용됩니다. \n데이터는 기존 데이터 그대로 입니다(augmentation) 해주지 않았습니다 \n질문을 정리하자면 \n1. 다른 커널이나 디스커션 보면 Densenet을 더 적은 메모리로 돌려주신거같은 느낌의 글들이 있는데 제가 뭘 잘못해주고 있나요? 배치 사이즈 32이면 큰건가요 작은건가요? \n2. 쥬피터 노트북기준으로 예를 들어 fold1개를 돌려주고 나서 메모리를 클린 시키고 다음 fold를 돌려주는 방법이 혹시 있나요? shutdown시켜주지 않으면 메모리 사용양이 계속 올라갑니다. \n캐글 메모리가 12 정도인걸로 아는데 이정도 사양에서 돌려서 제출하시는분들은 뭔가 팁이 있을거같네요 ㅎㅎ \n\n메모리 관련해서 읽어볼만한 글이나 커널이 있으면 추천 부탁 드립니다.",
      "votes": null
    },
    {
      "id": "577880",
      "postDate": "07/17/2019 06:53:29",
      "content": "<ol>\n<li><p>batch size 32면 32G에서 충분히 돌아갈 것 같은데요?!!? 더 큰 batch size를 쓰셔도 돌아갈 것 같아요!!</p></li>\n<li><p>혹시 pytroch를 사용하시면 <strong>torch.cuda.empty_cache()</strong> 입력해보세요!!</p></li>\n</ol>",
      "rawMarkdown": "1. batch size 32면 32G에서 충분히 돌아갈 것 같은데요?!!? 더 큰 batch size를 쓰셔도 돌아갈 것 같아요!!\n\n2. 혹시 pytroch를 사용하시면 **torch.cuda.empty_cache()** 입력해보세요!!",
      "votes": null
    },
    {
      "id": "578244",
      "postDate": "07/17/2019 14:07:42",
      "content": "<p>ㅎㅎ 전 keras쓰고 있는데 요새 pytorch많이 써서 한번 봐야 겠네요. \ntorch.cuda.emmpty_cache()가 메모리 클린 해주는 코드인가요? \n(keras에서는 비슷한 명령어가 없을까요)\n해찬님은 로컬에서 돌리시나요? 아니면 캐글 커널 사용하시나요? </p>",
      "rawMarkdown": "ㅎㅎ 전 keras쓰고 있는데 요새 pytorch많이 써서 한번 봐야 겠네요. \ntorch.cuda.emmpty_cache()가 메모리 클린 해주는 코드인가요? \n(keras에서는 비슷한 명령어가 없을까요)\n해찬님은 로컬에서 돌리시나요? 아니면 캐글 커널 사용하시나요?",
      "votes": null
    },
    {
      "id": "578706",
      "postDate": "07/18/2019 03:52:56",
      "content": "<p>저는 개인적으로 파이토치가 더 편하더라고요!! 흠...케라스 코드는 잘 모르겠네요 ㅠㅠㅠ \n네네!! 메모리 클린해주는 코드에요 사용하지 않고있는 memeory를 release해주는 코드로 알고있어요!!</p>\n\n<p>저는 로컬로 돌리고 있습니다!! 캐글이 이번이 처음이라 커널 사용을 잘 못하겠네요 ㅠㅠㅠ</p>",
      "rawMarkdown": "저는 개인적으로 파이토치가 더 편하더라고요!! 흠...케라스 코드는 잘 모르겠네요 ㅠㅠㅠ \n네네!! 메모리 클린해주는 코드에요 사용하지 않고있는 memeory를 release해주는 코드로 알고있어요!!\n\n저는 로컬로 돌리고 있습니다!! 캐글이 이번이 처음이라 커널 사용을 잘 못하겠네요 ㅠㅠㅠ",
      "votes": null
    },
    {
      "id": "578745",
      "postDate": "07/18/2019 05:17:28",
      "content": "<p>keras는 찾아보니 대표적으로 몇가지가 나오는 것 같습니다.\n1. gc.collect()\n2. del model\n3. backend.clear_session() + tf.reset_default_graph()</p>\n\n<p>사용은 안해봤는데, 얼마나 효과적일지는 잘 모르겠네요...</p>",
      "rawMarkdown": "keras는 찾아보니 대표적으로 몇가지가 나오는 것 같습니다.\n1. gc.collect()\n2. del model\n3. backend.clear_session() + tf.reset_default_graph()\n\n사용은 안해봤는데, 얼마나 효과적일지는 잘 모르겠네요...",
      "votes": null
    }
  ],
  "comments": [
    {
      "id": 577880,
      "author_name": "gocks8",
      "author_url": "",
      "post_date": "07/17/2019 06:53:29",
      "content": "<ol>\n<li><p>batch size 32면 32G에서 충분히 돌아갈 것 같은데요?!!? 더 큰 batch size를 쓰셔도 돌아갈 것 같아요!!</p></li>\n<li><p>혹시 pytroch를 사용하시면 <strong>torch.cuda.empty_cache()</strong> 입력해보세요!!</p></li>\n</ol>",
      "votes": null,
      "replies": [
        {
          "id": 578244,
          "author_name": "",
          "author_url": "",
          "post_date": "07/17/2019 14:07:42",
          "content": "<p>ㅎㅎ 전 keras쓰고 있는데 요새 pytorch많이 써서 한번 봐야 겠네요. \ntorch.cuda.emmpty_cache()가 메모리 클린 해주는 코드인가요? \n(keras에서는 비슷한 명령어가 없을까요)\n해찬님은 로컬에서 돌리시나요? 아니면 캐글 커널 사용하시나요? </p>",
          "votes": null,
          "replies": []
        },
        {
          "id": 578706,
          "author_name": "gocks8",
          "author_url": "",
          "post_date": "07/18/2019 03:52:56",
          "content": "<p>저는 개인적으로 파이토치가 더 편하더라고요!! 흠...케라스 코드는 잘 모르겠네요 ㅠㅠㅠ \n네네!! 메모리 클린해주는 코드에요 사용하지 않고있는 memeory를 release해주는 코드로 알고있어요!!</p>\n\n<p>저는 로컬로 돌리고 있습니다!! 캐글이 이번이 처음이라 커널 사용을 잘 못하겠네요 ㅠㅠㅠ</p>",
          "votes": null,
          "replies": []
        },
        {
          "id": 578745,
          "author_name": "airplane2230",
          "author_url": "",
          "post_date": "07/18/2019 05:17:28",
          "content": "<p>keras는 찾아보니 대표적으로 몇가지가 나오는 것 같습니다.\n1. gc.collect()\n2. del model\n3. backend.clear_session() + tf.reset_default_graph()</p>\n\n<p>사용은 안해봤는데, 얼마나 효과적일지는 잘 모르겠네요...</p>",
          "votes": null,
          "replies": []
        }
      ]
    }
  ],
  "raw_markdown_by_id": {
    "577054": "저는 로컬 에서 돌려주고 있습니다 \nDensenet121돌려 주는데 메모리가 32GB를 넘어가서 커널이 죽더군요 \n배치 사이즈는 32이고  fold 1개 돌리는데 저정도 사용됩니다. \n데이터는 기존 데이터 그대로 입니다(augmentation) 해주지 않았습니다 \n질문을 정리하자면 \n1. 다른 커널이나 디스커션 보면 Densenet을 더 적은 메모리로 돌려주신거같은 느낌의 글들이 있는데 제가 뭘 잘못해주고 있나요? 배치 사이즈 32이면 큰건가요 작은건가요? \n2. 쥬피터 노트북기준으로 예를 들어 fold1개를 돌려주고 나서 메모리를 클린 시키고 다음 fold를 돌려주는 방법이 혹시 있나요? shutdown시켜주지 않으면 메모리 사용양이 계속 올라갑니다. \n캐글 메모리가 12 정도인걸로 아는데 이정도 사양에서 돌려서 제출하시는분들은 뭔가 팁이 있을거같네요 ㅎㅎ \n\n메모리 관련해서 읽어볼만한 글이나 커널이 있으면 추천 부탁 드립니다.",
    "577880": "1. batch size 32면 32G에서 충분히 돌아갈 것 같은데요?!!? 더 큰 batch size를 쓰셔도 돌아갈 것 같아요!!\n\n2. 혹시 pytroch를 사용하시면 **torch.cuda.empty_cache()** 입력해보세요!!",
    "578244": "ㅎㅎ 전 keras쓰고 있는데 요새 pytorch많이 써서 한번 봐야 겠네요. \ntorch.cuda.emmpty_cache()가 메모리 클린 해주는 코드인가요? \n(keras에서는 비슷한 명령어가 없을까요)\n해찬님은 로컬에서 돌리시나요? 아니면 캐글 커널 사용하시나요?",
    "578706": "저는 개인적으로 파이토치가 더 편하더라고요!! 흠...케라스 코드는 잘 모르겠네요 ㅠㅠㅠ \n네네!! 메모리 클린해주는 코드에요 사용하지 않고있는 memeory를 release해주는 코드로 알고있어요!!\n\n저는 로컬로 돌리고 있습니다!! 캐글이 이번이 처음이라 커널 사용을 잘 못하겠네요 ㅠㅠㅠ",
    "578745": "keras는 찾아보니 대표적으로 몇가지가 나오는 것 같습니다.\n1. gc.collect()\n2. del model\n3. backend.clear_session() + tf.reset_default_graph()\n\n사용은 안해봤는데, 얼마나 효과적일지는 잘 모르겠네요..."
  },
  "source": "meta"
}