{
  "id": 100759,
  "title": "Two-step Optimizer",
  "url": "/competitions/2019-3rd-ml-month-with-kakr/discussion/100759",
  "author_name": "",
  "post_date": "2019-07-20T18:37:35.339416100Z",
  "votes": 1,
  "comment_count": 2,
  "views": 0,
  "content": "<p>아직 커널에 반영을 하지는 못하였으나, 초반엔 Adam, NAdam, RMSProp과 같이 비교적 빠르게 변하는 optimizer를 쓰고 일정 patience이후엔 sgd로 더 정확한 최하점으로 수렴시키는 방식을 생각해보았습니다.\n1. 이것이 과연 의미가 있을지\n2. 있을 시 간단히 구현이 가능할 지\n3. 아니면 굳이 나누지 않더라도 adam등에서 시작해서 sgd로 수렴하는 optimizer가 있을 지 궁금합니다.</p>",
  "messages": [
    {
      "id": "580778",
      "postDate": "07/20/2019 18:37:35",
      "content": "<p>아직 커널에 반영을 하지는 못하였으나, 초반엔 Adam, NAdam, RMSProp과 같이 비교적 빠르게 변하는 optimizer를 쓰고 일정 patience이후엔 sgd로 더 정확한 최하점으로 수렴시키는 방식을 생각해보았습니다.\n1. 이것이 과연 의미가 있을지\n2. 있을 시 간단히 구현이 가능할 지\n3. 아니면 굳이 나누지 않더라도 adam등에서 시작해서 sgd로 수렴하는 optimizer가 있을 지 궁금합니다.</p>",
      "rawMarkdown": "아직 커널에 반영을 하지는 못하였으나, 초반엔 Adam, NAdam, RMSProp과 같이 비교적 빠르게 변하는 optimizer를 쓰고 일정 patience이후엔 sgd로 더 정확한 최하점으로 수렴시키는 방식을 생각해보았습니다.\n1. 이것이 과연 의미가 있을지\n2. 있을 시 간단히 구현이 가능할 지\n3. 아니면 굳이 나누지 않더라도 adam등에서 시작해서 sgd로 수렴하는 optimizer가 있을 지 궁금합니다.",
      "votes": null
    },
    {
      "id": "581604",
      "postDate": "07/22/2019 06:43:39",
      "content": "<p><a href=\"https://github.com/Luolc/AdaBound\">https://github.com/Luolc/AdaBound</a></p>\n\n<p>요거 보시면..</p>",
      "rawMarkdown": "https://github.com/Luolc/AdaBound\n\n요거 보시면..",
      "votes": null
    },
    {
      "id": "581695",
      "postDate": "07/22/2019 09:12:09",
      "content": "<p>역시나 제가 찾지 못한 것은 없어서가 아닌 구글링 능력의 부족이군요.\n감사합니다!</p>",
      "rawMarkdown": "역시나 제가 찾지 못한 것은 없어서가 아닌 구글링 능력의 부족이군요.\n감사합니다!",
      "votes": null
    }
  ],
  "comments": [
    {
      "id": 581604,
      "author_name": "ildoonet",
      "author_url": "",
      "post_date": "07/22/2019 06:43:39",
      "content": "<p><a href=\"https://github.com/Luolc/AdaBound\">https://github.com/Luolc/AdaBound</a></p>\n\n<p>요거 보시면..</p>",
      "votes": null,
      "replies": [
        {
          "id": 581695,
          "author_name": "meditech101",
          "author_url": "",
          "post_date": "07/22/2019 09:12:09",
          "content": "<p>역시나 제가 찾지 못한 것은 없어서가 아닌 구글링 능력의 부족이군요.\n감사합니다!</p>",
          "votes": null,
          "replies": []
        }
      ]
    }
  ],
  "raw_markdown_by_id": {
    "580778": "아직 커널에 반영을 하지는 못하였으나, 초반엔 Adam, NAdam, RMSProp과 같이 비교적 빠르게 변하는 optimizer를 쓰고 일정 patience이후엔 sgd로 더 정확한 최하점으로 수렴시키는 방식을 생각해보았습니다.\n1. 이것이 과연 의미가 있을지\n2. 있을 시 간단히 구현이 가능할 지\n3. 아니면 굳이 나누지 않더라도 adam등에서 시작해서 sgd로 수렴하는 optimizer가 있을 지 궁금합니다.",
    "581604": "https://github.com/Luolc/AdaBound\n\n요거 보시면..",
    "581695": "역시나 제가 찾지 못한 것은 없어서가 아닌 구글링 능력의 부족이군요.\n감사합니다!"
  },
  "source": "meta"
}