Add papers

README.md

@@ -1,5 +1,10 @@
 # Paper List
 ## 2406
+#### [Zero-shot Image Editing with Reference Imitation](summaries/2406.07547.md)
+#### [Simple and Effective Masked Diffusion Language Models](summaries/2406.07524.md)
+#### [TextGrad: Automatic "Differentiation" via Text](summaries/2406.07496.md)
+#### [4Real: Towards Photorealistic 4D Scene Generation via Video Diffusion Models](summaries/2406.07472.md)
+#### [Improve Mathematical Reasoning in Language Models by Automated Process Supervision](summaries/2406.06592.md)
 #### [MLCM: Multistep Consistency Distillation of Latent Diffusion Model](summaries/2406.05768.md)
 #### [WildBench: Benchmarking LLMs with Challenging Tasks from Real Users in the Wild](summaries/2406.04770.md)
 #### [CRAG -- Comprehensive RAG Benchmark](summaries/2406.04744.md)

summaries/2406.06592.md

@@ -0,0 +1,32 @@
+# Improve Mathematical Reasoning in Language Models by Automated Process Supervision
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2406.06592.pdf](https://arxiv.org/pdf/2406.06592.pdf)
+
+### 1. 각 섹션의 핵심 내용 요약
+
+#### 1. 소개 (Introduction)
+- **내용 요약:** 현재 대형 언어 모델(LLM)의 복잡한 추론 능력 부족 문제를 다룹니다. 이 연구는 특히 수학 문제 해결 및 코드 생성에 중점을 둡니다. 체인-오브-생각(Chain-of-Thought, CoT) 프롬프트를 통해 복잡한 문제를 단계별로 나누어 해결하고, 자기 일관성(self-consistency) 디코딩 전략을 제안합니다.
+
+#### 2. 관련 연구 (Related Work)
+- **내용 요약:** LLM의 수학적 추론 능력을 향상시키기 위한 여러 연구와 기법들을 다룹니다. 특히 체인-오브-생각(CoT) 프롬프팅, 감독 학습(SFT) 및 결과 보상 모델(ORM)과 과정 보상 모델(PRM)을 비교합니다. PRM이 더 나은 성능을 보임을 확인합니다.
+
+#### 3. 방법론 (Methods)
+- **내용 요약:** 과정 보상 모델(PRM) 훈련을 위한 새로운 알고리즘인 OmegaPRM을 소개합니다. 이 알고리즘은 몬테카를로 트리 탐색(Monte Carlo Tree Search, MCTS) 방식을 사용하여 고품질의 과정 감독 데이터를 자동으로 수집합니다. 이 데이터는 모델 훈련과 성능 향상에 사용됩니다.
+
+#### 4. 실험 (Experiments)
+- **내용 요약:** 여러 실험을 통해 PRM 모델의 성능을 평가합니다. OmegaPRM이 다른 데이터셋을 사용한 모델보다 우수한 성능을 보입니다. 특히, 수학 문제 해결을 위한 Hendrycks MATH 벤치마크에서 69.4%의 성공률을 기록합니다.
+
+#### 5. 제한사항 (Limitations)
+- **내용 요약:** 자동화된 과정 감독 주석이 노이즈를 포함할 수 있으며, 이는 훈련된 PRM의 성능에 영향을 미칠 수 있습니다. 또한, 인간 감독이 여전히 필요하며, 이는 확장성에 한계를 둡니다.
+
+#### 6. 결론 (Conclusion)
+- **내용 요약:** OmegaPRM 알고리즘의 효율성을 강조하며, 이를 통해 LLM의 수학적 추론 능력이 크게 향상됨을 확인합니다. 인간 주석에 비해 비용 효과적이라는 장점도 언급합니다.
+
+### 2. 전체 요약
+
+이 논문은 대형 언어 모델(LLM)의 복잡한 수학적 추론 능력을 향상시키기 위해 새로운 과정 보상 모델(PRM) 알고리즘인 OmegaPRM을 제안합니다. 이 알고리즘은 몬테카를로 트리 탐색(MCTS) 방식을 활용하여 고품질의 과정 주석 데이터를 자동으로 수집합니다. OmegaPRM을 통해 수집된 데이터로 훈련된 PRM은 Hendrycks MATH 벤치마크에서 69.4%의 성공률을 기록하며, 이는 기존 방법들에 비해 월등히 높은 성과입니다. 
+
+이 연구의 주요 혁신점은 인간의 주석 없이 자동화된 데이터 수집이 가능하다는 점입니다. 이는 비용과 시간 측면에서 효율성을 크게 향상시킵니다. 마지막으로, 이 논문은 현재 방법의 한계를 인식하고 있으며, 향후 연구 방향으로 인간과 자동화된 주석을 결합하는 방안을 제안하고 있습니다.
+
+이 요약과 분석을 통해 대형 언어 모델의 수학적 문제 해결 능력을 한 단계 끌어올릴 수 있는 가능성을 확인할 수 있습니다.

summaries/2406.07472.md

@@ -0,0 +1,27 @@
+# 4Real: Towards Photorealistic 4D Scene Generation via Video Diffusion Models
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2406.07472.pdf](https://arxiv.org/pdf/2406.07472.pdf)
+
+### 1. 섹션 요약 및 주요 기여점과 혁신적 부분
+#### 초록 (Abstract)
+기존의 동적 장면 생성 방법은 주로 사전 학습된 3D 생성 모델을 사용했으며, 이는 종종 실제적인 표현이 부족했습니다. 본 논문은 이러한 한계를 해결하기 위해 대규모 실세계 데이터셋에서 학습된 비디오 생성 모델을 활용한 새로운 4D 장면 생성 파이프라인을 제안합니다. 해당 방법은 텍스트 명령어로 포토리얼리스틱한 4D 장면을 생성하며, 다양한 시점에서 관찰 가능합니다.
+
+#### 도입 (Introduction)
+산업 전반에서 몰입형 경험과 상호작용을 추구하는 가운데, 4D 환경 생성 기술이 디지털 콘텐츠와의 상호작용 방식을 혁신적으로 변화시킬 수 있습니다. 최근 이미지 및 비디오 생성 기술의 발전과 더불어, 대규모 텍스트-이미지 및 텍스트-비디오 데이터셋의 개발이 4D 생성에 큰 기여를 했습니다. 기존의 방법들은 대개 3D화된 사물을 기반으로 학습되었기 때문에 실제와는 거리가 멀었으나, 본 논문은 비디오 생성 모델을 활용하여 더욱 현실감 있는 결과물을 제공합니다.
+
+#### 방법론 (Methodology)
+4D 장면 생성을 위해 변형 가능한 3D 가우시안 스플랫(D-3DGS)을 사용합니다.
+1. **동적 장면 생성**: 텍스트-비디오 확산 모델을 사용하여 동적 장면을 참조 비디오로 생성합니다.
+2. **정지 시간 비디오 생성**: 참조 비디오의 한 프레임을 기준으로 카메라 움직임이 거의 없는 정지 시간 비디오를 생성하여 일관된 3D 표현을 얻습니다.
+3. **시간 왜곡 재구성**: 참조 비디오에서 각 프레임의 왜곡을 학습하여 시간적으로 일관된 장면을 제공합니다.
+
+#### 결과 및 논의 (Results and Discussion)
+본 논문은 텍스트 기반 동적 장면 생성에 뛰어난 결과를 보여줍니다. 특히, 제안된 방법은 현실적인 3D 동작과 다양한 시점에서 관찰 가능한 장면을 생성하며, 기존 방법들과 비교해 계산 효율성 측면에서도 우수합니다   .
+
+### 2. 종합 요약
+본 연구는 텍스트 명령어를 통해 포토리얼리스틱한 4D 장면을 생성할 수 있는 새로운 파이프라인을 제안합니다. 이 파이프라인은 대규모 실세계 데이터셋에서 학습된 비디오 생성 모델을 활용하여, 기존의 3D 생성 모델 의존성을 제거하고 보다 현실감 있는 결과물을 제공합니다. 
+- **주요 기여점**: 변형 가능한 3D 가우시안 스플랫을 사용하여 동적 장면을 모델링하고, 비디오 생성 모델을 통해 참조 비디오 및 정지 시간 비디오를 생성하여 4D 장면을 재구성하는 혁신적인 방법을 도입했습니다.
+- **혁신적 부분**: 기존의 3D 사물 중심 모델이 아닌, 실세계 데이터셋에서 학습된 비디오 생성 모델을 활용함으로써 다양한 시점에서 현실감 있는 장면 생성을 가능하게 했습니다  .
+
+이 연구는 향후 AI와 머신러닝 분야에서의 발전을 위한 중요한 기여를 할 것입니다.

summaries/2406.07496.md

@@ -0,0 +1,39 @@
+# TextGrad: Automatic "Differentiation" via Text
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2406.07496.pdf](https://arxiv.org/pdf/2406.07496.pdf)
+
+### 1. Summary of Each Section in Korean
+
+#### Abstract
+이 논문은 AI 시스템을 자동으로 최적화하는 새로운 방법인 TEXTGRAD를 제안합니다. TEXTGRAD는 텍스트를 통한 '미분'을 수행하여 컴포넌트 AI 시스템의 각 요소를 개선합니다. 이 프레임워크는 사용자 정의 없이 다양한 작업에서 성능을 향상시키는 능력을 보여줍니다. 특히, 질문 응답, 분자 최적화, 방사선 치료 계획에서 우수한 성과를 보였습니다.
+
+#### Introduction (서론)
+현재 AI 시스템은 여러 고도의 컴포넌트로 구성된 복합 시스템으로 발전하고 있습니다. TEXTGRAD는 이러한 복합 시스템을 자동으로 최적화하기 위한 방법을 제안합니다. TEXTGRAD는 LLMs에서 제공하는 자연어 피드백을 활용하여 컴포넌트의 성능을 개선합니다.
+
+#### TEXTGRAD: Optimizing AI systems by backpropagating text feedback
+TEXTGRAD는 텍스트 피드백을 통해 AI 시스템을 최적화합니다. 이를 통해 LLM API 호출, 시뮬레이터, 외부 수치 해석기를 포함한 여러 함수를 통과하며 변수의 최적화를 돕습니다. 이 섹션에서는 TEXTGRAD가 다양한 도메인(예: 코딩, 문제 해결, 분자 설계, 방사선 치료)의 성능을 어떻게 향상시키는지에 대한 예시가 포함되어 있습니다.
+
+#### Results (결과)
+TEXTGRAD는 GPT-4o 및 기타 모델의 성능을 크게 향상시켰습니다. 예를 들어, Google-Proof Question Answering에서 GPT-4o의 정확도를 51%에서 55%로 향상시켰습니다. 또한 방사선 치료 계획에서 TEXTGRAD는 임상 계획보다 더 나은 성능을 보였습니다.
+
+#### Code Optimization (코드 최적화)
+코딩 문제 해결에서 TEXTGRAD는 GPT-4o와 기존 방법의 성능을 20% 향상시키는 결과를 보였습니다. 또한 LeetCode-Hard 문제의 솔루션을 더 효율적으로 최적화하는 데 도움이 되었습니다.
+
+#### Solution Optimization by Test-time Training (해결책 최적화)
+TEXTGRAD는 Google-Proof Question Answering과 같은 문제 해결에서도 뛰어난 성과를 보였습니다. 예를 들어, GPT-4o의 zero-shot 정확도를 51%에서 55%로 향상시켰습니다.
+
+#### Prompt Optimization for Reasoning (추론을 위한 프롬프트 최적화)
+TEXTGRAD는 LLM의 성능을 개선하기 위해 프롬프트를 최적화합니다. 예를 들어, GPT-3.5의 성능을 GPT-4 수준으로 끌어올리는 데 도움이 되었습니다.
+
+#### Molecule Optimization (분자 최적화)
+TEXTGRAD는 약리학적 분자 구조를 최적화하는 데 사용될 수 있습니다. 예를 들어, PPARA 단백질 수용체에 대한 결합 친화도와 약물 유사성을 동시에 개선하는 데 성공했습니다.
+
+#### Radiotherapy Treatment Plan Optimization (방사선 치료 계획 최적화)
+TEXTGRAD는 방사선 치료 계획을 최적화하여 목표 용량을 정확히 맞추고 부작용을 줄이는 데 성공했습니다. 또한 임상 목표보다 더 나은 성능을 보였습니다.
+
+### 2. Overall Summary in Korean
+
+이 논문은 복합 AI 시스템의 최적화를 위한 혁신적인 TEXTGRAD 프레임워크를 소개합니다. TEXTGRAD는 자연어 피드백을 활용하여 다양한 도메인에서 개별 컴포넌트의 성능을 개선합니다. 구체적으로 코딩 문제, 질문 응답, 약물 분자 설계, 방사선 치료 계획에서 TEXTGRAD의 효과가 입증되었습니다. 이러한 기술은 AI 시스템의 다음 세대를 가속화하는 기반을 마련합니다.
+
+This approach represents a significant shift in how complex AI systems can be optimized automatically, providing broad applicability and impressive performance improvements across different fields.

summaries/2406.07524.md

@@ -0,0 +1,29 @@
+# Simple and Effective Masked Diffusion Language Models
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2406.07524.pdf](https://arxiv.org/pdf/2406.07524.pdf)
+
+### 1. 섹션별 요약 (한글)
+
+#### Introduction (소개)
+이 논문은 확산 모델(Diffusion Models)을 이용한 언어 모델링(Language Modeling)을 연구합니다. 기존의 순차적 생성 방식을 사용하는 자동 회귀(AR) 모델과 달리, 확산 모델은 데이터를 비순차적으로 생성하는 방법을 가지고 있습니다. 이에 논문은 새로운 마스크 확산 언어 모델(Masked Diffusion Language Model, MDLM)을 제시하며, 이를 통해 더 나은 성능을 얻을 수 있음을 보입니다 .
+
+#### Background (배경)
+확산 모델은 원래 깨끗한 데이터를 점점 더 노이즈가 있는 데이터로 변환하는 전진 과정을 통해 학습합니다. 이 과정에서 특정 시점의 노이즈 데이터 변수를 사용합니다. 논문은 이 방법을 언어 모델링에 적용할 때 필요한 수학적 배경과 기존 연구들을 설명합니다 .
+
+#### Simple and Effective Masked Diffusion Language Models (단순하고 효과적인 마스크 확산 언어 모델)
+MDLM framework는 잘 설계된 구현을 바탕으로 기존 확산 모델들보다 훨씬 나은 성능을 보입니다. 특히 대체 기반 매개변수화(Substitution-based Parameterization)와 라오-블랙웰화된 연속 시간 변분 하한(Rao-Blackwellized Continuous-Time Variational Lower Bound)을 이용해 ELBO의 타이트함과 분산을 개선합니다. 또한 반-자동 회귀(Semi-Autoregressive) 생성을 지원하는 빠른 샘플러를 사용합니다  .
+
+#### Inference and Sampling in Masked Diffusion Language Models (마스크 확산 언어 모델에서의 추론 및 샘플링)
+효율적인 조상 샘플링 방법을 사용하여 길이가 L인 시퀀스를 생성합니다. 반-자동 회귀 모델을 통해 더 빨리 텍스트를 생성할 수 있으며, 이 방법은 기존 모델인 SSD-LM보다 25-30배 빠릅니다  .
+
+#### Experiments (실험)
+논문은 언어 모델링 벤치마크와 생물학적 시퀀스 모델링에 MDLM을 적용하여 평가합니다. 실험 결과, MDLM은 기존 확산 모델보다 더 나은 성능을 보이며, 대체 방식으로는 기존 BERT 기반 모델보다 높은 성능을 보입니다. 또한 제로샷 평가(Zero-Shot Evaluation)에서도 기존 모델보다 좋은 성능을 입증했습니다   .
+
+#### Discussion, Prior Work, and Conclusion (토론, 이전 연구, 결론)
+논문은 MDLM의 성능 개선을 위한 여러가지 구현 세부사항을 설명하며, 기존의 확산 모델과의 비교를 통해 이 모델의 우수성을 입증합니다. 특히, 기존의 복잡한 수학적 이론을 사용하지 않으면서도 높은 성능을 달성한 점이 큰 장점으로 언급되고 있습니다   .
+
+### 2. 전체 요약 
+이 논문은 기존의 자동 회귀 모델과 달리 비순차적으로 데이터를 생성하는 방법을 이용하여 언어 모델의 성능을 크게 향상시킨 새로운 마스크 확산 언어 모델(MDLM)을 제시합니다. MDLM은 대체 기반 매개변수화와 라오-블랙웰화된 연속 시간 변분 하한을 통해 ELBO의 타이트함과 분산을 개선하며, 반-자동 회귀 샘플러를 통해 더 빠른 텍스트 생성을 지원합니다. 실험 결과 MDLM은 언어 모델링 벤치마크와 생물학적 시퀀스 모델링에서 기존 모델보다 뛰어난 성능을 보였으며, 특히 제로샷 평가에서도 좋은 성능을 입증했습니다. 논문은 MDLM의 실용성과 성능 개선의 주요 요소들을 강조하며, 향후 연구 방향을 제시합니다   .
+
+이 정리가 여러분의 이해를 돕기를 바랍니다. 필요한 다른 내용이나 수정 사항이 있다면 알려주십시오.

summaries/2406.07547.md

@@ -0,0 +1,25 @@
+# Zero-shot Image Editing with Reference Imitation
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2406.07547.pdf](https://arxiv.org/pdf/2406.07547.pdf)
+
+### 섹션 별 요약
+
+#### 1. 소개 (Introduction)
+이 섹션은 이미지 편집의 중요성과 현재 한계에 대해 설명합니다. 현대 AI 편집 모델들은 다양한 사용자 요구를 충족시키지만 복잡한 실전 시나리오에는 여전히 맞지 않습니다. 예를 들어, 특정 제품 디자인을 수정하거나 특정 패턴을 적용하는 것이 어렵습니다. MimicBrush는 사용자가 간단히 편집 영역과 참조 이미지만 제공하면 자동으로 시각적 일치를 찾아 이미지를 완성합니다 .
+
+#### 2. 관련 연구 (Related Work)
+기존의 이미지 삽입 및 수정 방법론들은 배경 정보만 사용해 이미지를 완성하거나, 텍스트 프롬프트를 사용해 편집합니다. 그러나 이 방법들은 사용자 의도를 완전히 반영하기 어려운 단점이 있습니다. 현대의 방법론들은 참조 이미지와 마스크나 상자를 사용해 객체를 삽입하지만, 이는 국부적인 패턴과 특성을 완전히 이해하기 어렵게 만듭니다  .
+
+#### 3. 방법론 (Method)
+MimicBrush는 자가지도 학습(self-supervised) 방식으로 훈련되며, 두 개의 U-Net 모델을 사용합니다. 두 비디오 프레임을 원본 이미지와 참조 이미지로 사용하며, 참조 이미지의 키와 값을 원본 이미지의 U-Net에 주입해 masked regions를 완성합니다. 이로 인해 다양한 포즈나 조명, 카테고리의 변화를 극복하고 원본 이미지와 자연스럽게 조화를 이루는 시각적 요소를 생성할 수 있도록 합니다  .
+
+#### 4. 실험 (Experiments)
+여기에서는 MimicBrush의 성능을 다양한 데이터셋과 평가 지표를 사용해 시험했습니다. Pexels와 같은 고해상도 비디오에서 10만 개의 데이터를 수집하고, 각 프레임의 Semantic Matching을 통해 훈련합니다. 이를 통해 다양한 이미지 편집 작업에서도 높은 품질의 결과를 달성합니다. 사용자가 주관적으로 평가한 결과, MimicBrush는 기존 방법들보다 선호도가 높은 것으로 나타났습니다  .
+
+#### 5. 결론 (Conclusion)
+MimicBrush는 간단한 상호작용만으로 사용자가 원하는 시각적 요소를 자동으로 찾아 이미지를 완성할 수 있는 획기적인 이미지 편집 방법입니다. 이를 통해 다양한 편집 작업을 지원하며, 성능 평가에서 뛰어난 결과를 보여줍니다. 향후 연구에서는 더욱 고도화된 이미지 생성 및 편집 기술에 대한 영감을 제공할 것입니다  .
+
+### 전체 요약
+
+MimicBrush는 사용자가 편집하고자 하는 영역과 참조 이미지만 제공하면, 참조 이미지의 시각적 요소를 자동으로 찾아 원본 이미지와 자연스럽게 조화를 이루는 혁신적인 이미지 편집 도구입니다. 이는 자가지도 학습을 통해 훈련되며, 다양한 포즈와 조명, 카테고리 변화를 극복할 수 있습니다. 현대의 이미지 편집 방법론에 비해 더욱 간편하고 강력한 성능을 제공합니다. 실험 결과와 사용자 평가에서 MimicBrush는 기존 방법들보다 높은 성능과 선호도를 보이며, 다양한 이미지 편집 작업에서 유용하게 사용될 수 있습니다. 이 연구는 향후 고도화된 이미지 생성 및 편집 기술 개발에 중요한 기여를 할 것입니다.