Add papers

README.md

@@ -1,5 +1,11 @@
 # Paper List
 ## 2406
+#### [BitsFusion: 1.99 bits Weight Quantization of Diffusion Model](summaries/2406.04333.md)
+#### [SF-V: Single Forward Video Generation Model](summaries/2406.04324.md)
+#### [VideoTetris: Towards Compositional Text-to-Video Generation](summaries/2406.04277.md)
+#### [Buffer of Thoughts: Thought-Augmented Reasoning with Large Language Models](summaries/2406.04271.md)
+#### [Open-Endedness is Essential for Artificial Superhuman Intelligence](summaries/2406.04268.md)
+#### [AgentGym: Evolving Large Language Model-based Agents across Diverse Environments](summaries/2406.04151.md)
 #### [Ouroboros3D: Image-to-3D Generation via 3D-aware Recursive Diffusion](summaries/2406.03184.md)
 #### [LiveSpeech: Low-Latency Zero-shot Text-to-Speech via Autoregressive Modeling of Audio Discrete Codes](summaries/2406.02897.md)
 #### [PLaD: Preference-based Large Language Model Distillation with Pseudo-Preference Pairs](summaries/2406.02886.md)

summaries/2406.04151.md

@@ -0,0 +1,34 @@
+# AgentGym: Evolving Large Language Model-based Agents across Diverse Environments
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2406.04151.pdf](https://arxiv.org/pdf/2406.04151.pdf)
+
+### 1. 각 섹션 요약 및 주요 기여 내용
+
+#### 1. 서론
+AI 커뮤니티에서 다양한 과업을 수행하고 스스로 발전할 수 있는 일반적인 에이전트를 개발하는 것이 목표입니다. 대형 언어 모델(LLM)은 이러한 에이전트를 구축하는 데 유망한 기반입니다. 이 논문은 자체 진화 능력을 가진 일반 LLM 기반 에이전트를 구축하기 위해 AGENTGYM이라는 새로운 프레임워크를 제안합니다. 주요 기여로 다양한 환경과 과업을 통한 에이전트의 자기 진화를 탐구하였으며, AGENTEVAL, AGENTTRAJ와 같은 벤치마크와 경로 집합을 제공했습니다.
+
+#### 2. 사전지식
+LLM 기반 에이전트가 환경 내에서 어떻게 작동하는지 설명합니다. 부분 관측 마르코프 결정 프로세스(POMDP)를 사용하여 환경을 정의하고, 에이전트가 어떻게 상호작용하는지 보여줍니다. 특히 ReAct 모델을 사용하여 에이전트가 행동을 출력하기 전에 추론을 생성하도록 설계했습니다.
+
+#### 3. AGENTGYM: 플랫폼, 벤치마크, 경로 집합
+AGENTGYM 프레임워크는 다양한 환경, 과업, 목표를 포함하는 인터랙티브 플랫폼입니다. HTTP 서비스를 통해 편리하게 API를 제공하며, 다양한 상호작용을 지원합니다. 또한, AGENTEVAL이라는 벤치마크를 구축하고, 다양한 환경에서의 고품질 상호작용 경로를 AGENTTRAJ로 생성했습니다.
+
+#### 4. AGENTEVOL: 진화 메소드
+AGENTEVOL 알고리즘을 통해 LLM 기반 에이전트가 다양한 환경과 과업에서 진화하는 방법을 탐구합니다. 에이전트가 새로운 과업과 지시를 탐색하고, 환경 피드백을 기반으로 스스로를 최적화하는 방식을 설명합니다. 두 가지 주요 단계로 탐색 단계와 학습 단계가 있으며, 이를 반복적으로 수행하여 에이전트의 성능을 향상시킵니다.
+
+#### 5. 실험 및 논의
+11가지 환경을 사용하여 AGENTGYM 프레임워크의 성능을 평가했습니다. 주요 결과는 폐쇄형 모델이 모든 과업에서 만족스러운 성능을 제공하지 못하며, AGENTEVOL 메소드가 대부분의 과업에서 더 나은 성능을 보인다는 것입니다. 실험 결과를 통해 AGENTGYM과 AGENTEVOL의 유효성을 입증했습니다.
+
+#### 참고 문헌
+해당 연구에서 참조된 주요 문헌을 나열하며, 다양한 관련 연구들과 실제 구현에 대한 정보를 제공합니다.
+
+### 2. 전체 요약
+이 논문은 대형 언어 모델(LLM) 기반의 일반적인 에이전트를 개발하기 위한 AGENTGYM이라는 프레임워크를 소개합니다. 해당 프레임워크는 다양한 환경과 과업을 포함하는 인터랙티브 플랫폼으로, 에이전트의 자기 진화를 탐구합니다. 이를 위해 AGENTEVAL 벤치마크와 AGENTTRAJ 경로 집합을 구축하고 새로운 알고리즘 AGENTEVOL을 제안했습니다. 실험 결과, AGENTEVOL이 더 나은 성능을 보였으며, 이 연구는 AI 커뮤니티에 새로운 일반 에이전트 개발 방향을 제시합니다.
+
+**핵심 기여 및 혁신적 부분**:
+1. **AGENTGYM 프레임워크**: 다양한 환경과 과업을 포함하는 인터랙티브 플랫폼 제공.
+2. **AGENTEVOL 알고리즘**: 에이전트의 자기 진화를 가능하게 하는 새로운 진화 알고리즘.
+3. **실험적 검증**: AGENTEVAL 벤치마크를 통해 다양한 환경에서 에이전트의 성능 평가.
+
+종합적으로, 이 논문은 LLM 기반의 에이전트가 더욱 일반화된 과업을 수행할 수 있도록 돕기 위한 새로운 연구 방향을 제시하며, 향후 AI 기술 발전에 중요한 기여를 할 것입니다.

summaries/2406.04268.md

@@ -0,0 +1,29 @@
+# Open-Endedness is Essential for Artificial Superhuman Intelligence
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2406.04268.pdf](https://arxiv.org/pdf/2406.04268.pdf)
+
+### 1. 섹션별 중요 내용 요약
+#### Abstract (초록)
+최근 AI 시스템의 일반적 역량이 크게 향상되었지만, 여전히 자기 개선 가능한 개방형 AI 시스템의 개발은 미흡합니다. 본 논문에서는 인간 관찰자 관점에서 개방형 시스템을 달성하는 성분이 충분하다고 주장하고, 이러한 개방형 특성이 인공지능 초월 지능(ASI)에 필수적임을 설명합니다. 개방형 시스템의 정의, ASI로의 발전 경로, 개방형 AI의 안전성에 대해 논의합니다.
+
+#### Introduction (서론)
+서론에서는 기초 모델을 활용한 최근 AI 발전을 설명하고 있습니다. 하지만 자율 시스템이 끊임없이 자기 개선과 새로운 발견을 하는 과정을 공식적으로 설명하는 것이 여전히 부족합니다. 인간과 사회가 새로운 지식과 기술을 축적하는 방식과 유사하게, ASI는 개방형 발견이 필수적입니다. 기초 모델과 개방형 알고리즘의 결합이 중요한 역할을 할 수 있습니다.
+
+#### Formal Definition (형식적 정의)
+개방형 시스템을 형식적으로 정의합니다. 개방형 시스템은 새롭고 학습 가능한 아티팩트를 지속적으로 생성하는 시스템입니다. 이는 시스템의 결과물이 예측할 수 없으면서도 배울 수 있는 특성을 가져야 한다는 의미입니다.
+
+#### Safety Implications (안전성 함의)
+개방형 시스템의 발전은 새로운 안전성 문제를 야기할 수 있습니다. 따라서 이러한 시스템을 안전하게 배치하기 위해서는 이해, 모니터링, 조정 기술이 중요합니다. 특히, 개방형 시스템의 반취약성(anti-fragility)을 강조합니다. 이는 시스템이 새로운 위험에 적응하면서 강해지는 능력을 의미합니다.
+
+#### Conclusion (결론)
+기초 모델은 현재 AI 시스템의 일반성을 크게 향상시켰지만, 새로운 지식을 발견하는 데는 한계가 있습니다. 개방형 시스템을 통해 이러한 한계를 극복하고, 인간 관찰자를 위한 새로운 학습 자료를 지속적으로 생성해야 합니다. 이 논문의 주장은 개방형 기초 모델이 AGI를 획기적으로 발전시킬 수 있는 잠재력이 있음을 제시합니다.
+
+### 2. 전체 요약
+본 논문은 인간 관찰자 관점에서 개방형, 자기 개선 가능한 AI 시스템의 필요성을 강조하고 있습니다. 개방형 시스템의 정의를 제공하고, 이러한 시스템이 인공지능 초월 지능(ASI)으로 발전하는 데 중요한 역할을 할 수 있음을 논의합니다. 기초 모델과 개방형 알고리즘의 결합이 특히 중요한데, 이는 새로운 지식을 효율적으로 발견하고 인간에게 의미 있는 새로운 정보를 제공하는 능력을 갖추기 때문입니다. 안전성 측면에서, 개방형 시스템은 새로운 문제에 적응하고 강화되는 반취약성이 중요한데, 이는 시스템의 구축과 배치 중 발생할 수 있는 예기치 않은 위험을 관리하는 데 필수적입니다.
+
+이러한 개방형 시스템의 성공적인 구현은 AI의 새로운 발전을 촉진하고 인간 사회에 큰 긍정적 영향을 미칠 수 있을 것입니다.
+
+---
+
+이 요약과 분석이 여러분의 발표 자료 준비에 도움이 되길 바랍니다! 추가적인 도움이 필요하시면 언제든지 알려주세요. 😊

summaries/2406.04271.md

@@ -0,0 +1,35 @@
+# Buffer of Thoughts: Thought-Augmented Reasoning with Large Language Models
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2406.04271.pdf](https://arxiv.org/pdf/2406.04271.pdf)
+
+### 요약 및 분석
+
+#### 1. 각 섹션 요약 (한국어)
+
+**1. 도입 (Introduction)**
+이 논문은 Buffer of Thoughts (BoT)라는 새로운 사고 보강 추론 프레임워크를 소개합니다. BoT는 큰 언어 모델(LLM)의 정확성, 효율성, 강인성을 향상시키기 위해 고안되었습니다. Meta-buffer라는 가벼운 라이브러리를 제안하며, 이를 통해 다양한 문제 해결 과정에서 얻은 고수준의 생각들(생각 템플릿)을 저장하고, 각 문제에 대해 관련된 생각 템플릿을 검색하여 효율적인 사고 보강 추론을 수행합니다  .
+
+**2. 관련 연구와 논의 (Related Work and Discussions)**
+기존의 추론 보강 언어 모델과의 차별성을 강조합니다. 이 논문은 CoT(Chain-of-Thought)와 같은 여러 기존의 단일 쿼리 및 복수 쿼리 방법들의 한계를 지적하고 있습니다  .
+
+**3. 방법론 (Methodology)**
+논문은 BoT의 주요 구성 요소들을 소개합니다:
+   - **문제 증류기(Problem distiller)**: 구체적인 문제 정보를 추출 및 필터링하는 단계입니다.
+   - **메타 버퍼(Meta-buffer)**: 고수준의 생각 템플릿들을 저장하고 관리합니다.
+   - **버퍼 매니저(Buffer-manager)**: 메타 버퍼를 동적으로 업데이트하여 생각 템플릿의 품질을 높입니다  .
+
+**4. 실험 (Experiments)**
+BoT의 성능을 측정하기 위해 10가지 도전적인 추론 집약적 태스크에 대해 실험을 진행했고, 이전 SOTA(State-Of-The-Art) 방법들보다 더 나은 성능을 달성했습니다:
+   - 예: ‘24 게임’에서는 79.4% 정확도 개선, ‘체크메이트-인-원’에서는 51% 개선 등
+   - BoT는 복잡한 문제를 해결하기 위해 한 번의 쿼리로 문제를 증류하고, 생각 템플릿을 활용하여 효율성을 높였습니다  .
+
+**5. 논의 (Discussion)**
+BoT의 한계와 향후 연구 방향을 제시합니다. 창의력이 필요한 문제에 대한 한계와 초기화 시약으로 사용한 약한 모델의 한계 등이 제시되었으며, 외부 리소스와 통합하거나 생각 템플릿 증류를 최적화하는 방법들이 제안되었습니다 .
+
+**6. 결론 (Conclusion)**
+Buffer of Thoughts는 LLM의 추론 능력을 향상시키기 위한 새롭고 강력한 프레임워크입니다. BoT는 문제 해결 과정을 지속적으로 개선하고 동적으로 생각 템플릿을 추출하여 지속적으로 성능을 향상시키며, 추후 연구 및 응용에 대한 전망이 밝습니다 .
+
+#### 2. 전체 요약
+
+Buffer of Thoughts (BoT)은 복잡한 문제 해결을 위한 추론 프레임워크를 제안하여 LLM의 성능을 크게 향상시킵니다. 이는 메타 버퍼를 통해 고수준의 생각 템플릿을 저장하고, 버퍼 매니저를 사용하여 동적으로 업데이트하여 문제 해결 능력과 효율성을 높입니다. 다양한 실험 결과, BoT는 기존 방법보다 뛰어난 성능을 보였으며, 향후 연구에서는 BoT의 한계를 극복하기 위한 다양한 접근법이 제안되었습니다. BoT의 혁신적인 기여는 추론 정확도와 효율성을 동시에 개선할 수 있는 점에 있습니다 .

summaries/2406.04277.md

@@ -0,0 +1,29 @@
+# VideoTetris: Towards Compositional Text-to-Video Generation
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2406.04277.pdf](https://arxiv.org/pdf/2406.04277.pdf)
+
+### 1. 섹션별 요약
+#### 1. 서론(Introduction)
+현대의 확산 모델(Diffusion Models)이 텍스트-비디오 생성에서 뛰어난 성과를 보여주고 있으나, 복잡한 장면 및 동적인 객체 변화를 다루는 데 있어 제한이 있다. VideoTetris는 이러한 제한을 극복하기 위해 설계되었으며, 복잡한 텍스트 지시에 따라 장면을 조합하는 스페이시오-템포랄 합성 확산 기법을 제안한다. 또한, 향상된 비디오 데이터 전처리를 도입하여 모션 동역학과 지시어 이해를 개선하고, 일관성을 유지하기 위해 새로운 참조 프레임 주의 메커니즘을 제공한다 .
+
+#### 2. 관련 연구(Related Work)
+텍스트-비디오 생성 모델은 최근 확산 모델의 발전과 대규모 비디오-텍스트 페어 데이터셋의 개발로 큰 진전을 이루었다. 초기 연구들은 2D 이미지 확산 모델을 3D U-Net으로 변환하여 비디오 데이터셋에 맞게 학습을 시도하였다. 최근에는 트랜스포머 기반의 여러 방법들이 대규모 비디오-이미지 공동 학습을 통해 생성 품질을 크게 향상시켰다. 그러나 대부분의 모델은 복잡한 다객체 장면을 생성하는 데 한계가 있다  .
+
+#### 3. 방법(Method)
+- **스페이시오-템포랄 합성 확산(Spatio-Temporal Compositional Diffusion)**: 복잡한 텍스트 지시에 충실한 비디오를 생성하기 위해 교차 주의 값을 시간적, 공간적으로 조작하여 비디오를 합성한다.
+- **향상된 비디오 데이터 전처리(Enhanced Video Data Preprocessing)**: 고품질 비디오 데이터를 수집하고 모션 동역학 및 지시어 이해를 개선하기 위해 데이터 전처리 파이프라인을 도입한다.
+- **일관성 규제(Consistency Regularization)와 참조 프레임 주의(Reference Frame Attention)**: 길이 있는 비디오 생성 시 객체의 일관성을 유지하기 위해 참조 프레임 주의 메커니즘을 통해 일관된 객체 표현을 유지한다   .
+
+#### 4. 실험(Experiments)
+- **실험 설정(Experimental Setups)**: 다양한 텍스트 지시어에 따른 비디오 생성 실험을 통해 VideoTetris의 성능을 평가한다.
+- **메트릭스(Metrics)**: VBLIP-VQA, VUnidet, CLIP-SIM 등 다양한 메트릭스를 통해 성능을 평가한다.
+- **합성 프롬프트 비디오 생성(Video Generation with Compositional Prompts)**: 복잡한 텍스트 지시에 따른 비디오 생성 실험에서 VideoTetris의 탁월한 성능을 입증한다.
+- **장기 비디오 생성(Long Video Generation for Progressive Compositional Prompts)**: 점진적 합성 프롬프트 비디오 생성에서도 VideoTetris가 일관성과 품질 면에서 우수함을 보인다.
+- **소거 연구(Ablation Study)**: 각 구성 요소의 효과를 평가하여 각 부분이 성능에 기여하는 바를 확인한다  .
+
+#### 5. 결론 및 토론(Conclusion and Discussion)
+VideoTetris는 복잡한 텍스트 지시어에 따른 합성 비디오 생성과 길이 있는 비디오 생성에서 일관되고 높은 품질의 비디오 출력을 제공한다. 향후 연구에서는 비디오 생성 모델의 성능을 더욱 향상시키기 위해 더 효율적인 학습 기법을 탐구하고, 다양한 입력 조건에 따른 유연한 합성 비디오 생성 방법을 연구할 계획이다 .
+
+### 2. 전체 요약
+VideoTetris는 확산 기반 프레임워크로, 복잡한 텍스트 지시에 따라 비디오를 합성할 수 있는 능력을 제공한다. 이 연구는 특히 다객체 장면 및 동적인 객체 변화를 처리하는 데 중점을 두고 있으며, 스페이시오-템포랄 합성 확산 기법과 향상된 비디오 데이터 전처리 파이프라인, 참조 프레임 주의 메커니즘을 통해 고품질의 일관된 비디오 출력을 달성한다. 실험 결과는 VideoTetris가 현재 최고의 모델들을 능가하는 성능을 보여준다. 향후 연구는 비디오 생성 과정의 효율성을 높이고 더 다양한 입력 조건을 다룰 수 있는 방법을 모색할 계획이다   .

summaries/2406.04324.md

@@ -0,0 +1,26 @@
+# SF-V: Single Forward Video Generation Model
+## TL;DR
+## Summary
+- [https://arxiv.org/pdf/2406.04324.pdf](https://arxiv.org/pdf/2406.04324.pdf)
+
+### 1. 각 섹션 요약 (중요한 내용)
+
+#### 소개
+이 논문에서는 비디오 디퓨전 모델의 샘플링 속도를 혁신적으로 향상시킬 수 있는 새로운 방법을 제안합니다. 기존 방법들이 상대적으로 느린 샘플링 속도를 가지고 있는 반면, 본 논문에서는 새로운 단일 단계 샘플링 방법을 통해 약 23배의 샘플링 속도 향상을 달성했습니다. 또한, 공간-시간 감시자를 도입하여 비디오의 품질과 모션 일관성을 개선했습니다    .
+
+#### 관련 연구
+기존의 비디오 생성 연구는 주로 적대적 훈련을 통해 고품질 이미지 생성과 일관된 모션 합성에 초점을 맞췄습니다. 최근에는 노이즈 제거 디퓨전 확률 모델을 활용하여 모델의 성능을 크게 향상시켰지만, 이러한 모델은 연산 비용이 매우 높아 실용성이 떨어집니다. 본 논문은 이러한 문제를 해결하기 위해 디퓨전 모델의 샘플링 단계를 줄이는 방법을 탐구합니다  .
+
+#### 방법론
+논문은 두 가지 주요 네트워크, 즉 생성기(Gθ)와 감시자(Dϕ)를 소개합니다. 생성기는 SVD에서 미리 학습된 UNet 모델을 기반으로 하며, 감시자는 공간과 시간 감시자 머리를 추가하여 개선한 구조를 가지고 있습니다. 공간 감시자와 시간 감시자는 각각의 다운샘플링 블록 후에 추가되며 이들의 파라미터만 훈련 중 업데이트됩니다. 이를 통해 비디오 디퓨전 모델의 단일 샘플링을 가능하게 하고, 샘플링 속도를 크게 향상시킵니다  .
+
+#### 실험 결과
+비교 결과, 제안된 방법이 기존의 SVD와 AnimateLCM 방법 보다 더 적은 단계로도 유사한 품질의 비디오를 생성할 수 있음을 확인했습니다. 생성된 비디오는 더 높은 공간적, 시간적 일관성을 가지며, 약 23배의 속도 향상을 달성했습니다. 특히, 감시자의 공간-시간 머리가 도입된 경우 더 높은 품질의 비디오를 생성할 수 있음을 실험으로 확인했습니다  .
+
+#### 토론 및 결론
+논문은 감시자에 공간-시간 머리를 도입하여 비디오의 품질을 개선한 것과, 단일 샘플링 단계로 비디오를 생성할 수 있게 한 것이 주요 기여라고 결론짓습니다. 또한, 후속 연구로는 현재 상당한 런타임을 차지하는 이미지 조건화 인코더와 VAE 디코더의 가속화를 목표로 삼고 있습니다  .
+
+### 2. 전체 요약
+이 논문은 비디오 디퓨전 모델의 단일 단계 샘플링을 가능하게 하여 기존 방법 대비 약 23배 빠른 샘플링 속도를 제공하는 혁신적인 방법을 제안합니다. 이를 위해 공간-시간 감시자를 도입하여 생성된 비디오의 품질과 모션 일관성을 크게 향상시켰습니다. 제안된 방법은 기존의 여러 단계 샘플링 방법과 비교하여 더 높은 품질과 일관성을 보여주며, 비디오 생성의 효율성을 크게 높였습니다. 후속 연구로는 이미지 조건화 인코더와 VAE 디코더의 가속화를 목표로 하여 비디오 생성의 전체적인 런타임을 더욱 줄일 계획입니다. 
+
+이 논문의 기여와 혁신적인 부분은 비디오 디퓨전 모델의 샘플링 속도를 크게 향상시키면서도 품질을 유지한 점, 그리고 공간-시간 감시자를 도입하여 생성품질을 개선한 점에 있습니다     .