Paper2Code: Automating Code Generation from Scientific Papers in Machine Learning

https://arxiv.org/abs/2504.17192?utm_source=pytorchkr&ref=pytorchkr Paper2Code: Automating Code Generation from Scientific Papers in Machine LearningDespite the rapid growth of machine learning research, corresponding code implementations are often unavailable, making it slow and labor-intensive for researchers to reproduce results and build upon prior work. In the meantime, recent Large Languag..

  • format_list_bulleted AI 논문/AI trend research
  • · 2025. 8. 21.
  • textsms
카카오 테크 예시로 배우는 코드 프롬프팅 읽어보기

카카오 테크 예시로 배우는 코드 프롬프팅 읽어보기

바이브 코딩 바이블: AI 에이전트 시대의 새로운 코딩 패러다임 - tech.kakao.com 바이브 코딩 바이블: AI 에이전트 시대의 새로운 코딩 패러다임 - tech.kakao.com1. 바이브 코딩과 AI 에이전트 안드레이 카파시(Andrej Karpathy)는...tech.kakao.com 1. 코드 작성 (Code Generation) 원하는 프로그램이나 함수의 동작을 자연어로 설명하면, AI가 해당 기능을 수행하는 코드를 생성해주는 프롬프트입니다. 예를 들어 기능 명세나 요구사항을 프롬프트로 제공하면, LLM은 그에 맞는 언어의 코드를 작성합니다. 이는 새로운 기능 구현이나 보일러플레이트 코드 생성에 특히 유용하며, 개발자는 AI가 생성한 코드를 기반으로 필요한 수정을 가해 최종 완성도를 ..

  • format_list_bulleted 읽을거리
  • · 2025. 5. 31.
  • textsms

바이브 코딩(vive coding), AI 에이전트, "프롬프트어"

https://tech.kakao.com/posts/696 바이브 코딩 바이블: AI 에이전트 시대의 새로운 코딩 패러다임 - tech.kakao.com1. 바이브 코딩과 AI 에이전트 안드레이 카파시(Andrej Karpathy)는...tech.kakao.com 1. 바이브 코딩과 AI 에이전트 안드레이 카파시(Andrej Karpathy)는 2025년 초 “바이브 코딩(Vibe Coding)”이라는 용어를 도입하면서, 사람 대신 대형 언어 모델(LLM)에 의존해 코드를 생성하는 새로운 코딩 방식을 제시했습니다 (바이브 코딩 - 위키백과). 이 개념은 LLM에 의존하는 코딩 접근 방식을 말하며 프로그래머가 코드를 직접 작성하는 대신 자연어를 통해 코드를 생성하는 것이다. 즉, AI가 실제 코드를 생성..

  • format_list_bulleted 읽을거리
  • · 2025. 5. 24.
  • textsms
On the generalization of language modelsfrom in-context learning and finetuning: acontrolled study

On the generalization of language modelsfrom in-context learning and finetuning: acontrolled study

1. 연구 배경 및 문제 제기 대형 언어 모델(LLM)은 파인튜닝(finetuning)을 통해 새로운 과제에 적응할 수 있지만, 학습한 관계를 단순히 뒤집거나(예: “B의 어머니는 A다”를 학습했을 때 “A의 아들은 누구인가?”를 유추) 논리적 추론을 수행하는 데 어려움을 보인다. 반면 문맥 내 학습(in‑context learning, ICL)은 서로 다른 귀납적 편향을 지녀 일부 상황에서 더 유연한 일반화를 달성한다. 2. 통제된 실험 설계 사전학습 지식과 겹치지 않도록 허구의 용어와 구조로 구성된 여러 합성 데이터셋(단순 역전, 삼단논법, 유명인 역전 데이터셋, 의미 계층 구조 데이터셋 등)을 만들었다. 각 데이터셋에 대해 (a) 파인튜닝, (b) 전체 훈련 데이터를 문맥으로 제공하는 ICL, ..

  • format_list_bulleted AI 논문/AI trend research
  • · 2025. 5. 22.
  • textsms
in context learning에 대하여 학습하기

in context learning에 대하여 학습하기

1. 개념 전통적인 머신러닝 모델은 주로 특정 작업을 처리하도록 설계되었으며, 이는 학습 데이터에 기반한 입력-출력 쌍에 의해 한정되었습니다. 이러한 모델은 훈련된 범위를 벗어난 작업에 대해서는 성능이 크게 저하되었습니다. 그러나 대규모 언어 모델(LLMs)의 등장으로 자연어 과제를 해결하는 방식에 큰 전환점이 생겼습니다. In-context learning, ICL은 작업 예시(demonstrations)를 자연어 형식의 프롬프트 안에 통합하여 사용하는 기법입니다. 이 방식은 사전학습된 LLM이 파인튜닝 없이도 새로운 작업을 수행할 수 있게 해줍니다. 전통적인 지도학습(supervised learning)은 역전파(backpropagation)를 통한 학습 단계가 필수이며, 이를 통해 모델 파라미터를 ..

  • format_list_bulleted AI 논문/AI trend research
  • · 2025. 5. 20.
  • textsms
Chain-of-Thought Prompting 개념 학습하기

Chain-of-Thought Prompting 개념 학습하기

Chain-of-Thought(사고의 연쇄) 프롬프팅은 LLM에게 문제 해결 과정을 단계별로 설명하도록 유도하는 기법이다. 즉, 모델이 답변을 내놓기 전에 “생각”을 말하듯 중간 추론 과정을 출력하게 한다. 예를 들어 “사라가 셔츠 3장을 각각 20달러에, 청바지 2벌을 각각 50달러에 산 뒤 총액의 10% 할인을 받았다. 최종 지불액은 얼마인가?”라는 문제에 대해, CoT 프롬프트는 “셔츠 비용: 3×20=$60; 청바지 비용: 2×50=$100; 할인 전 총액: $160; 할인액: 10%×160=$16; 최종 지불액: $160–16=$144”와 같은 중간 계산 과정을 모델이 생성하도록 한다. 이렇게 중간 과정을 명시하면 모델이 단계별 추론을 통해 더 정확한 답을 도출할 수 있다. 연구에 따르면,..

  • format_list_bulleted AI 논문/AI trend research
  • · 2025. 5. 6.
  • textsms