[논문리뷰] Experience-Guided Adaptation of Inference-Time Reasoning Strategies

링크: 논문 PDF로 바로 열기

저자: Adam Stein, Matthew Trager, Benjamin Bowman, Michael Kleinman, Aditya Chattopadhyay, Wei Xia, Stefano Soatto

핵심 연구 목표

본 논문은 에이전트형 AI 시스템이 훈련 후 추론 시 상호작용을 기반으로 문제 해결 방식을 적응시키는 근본적인 과제를 해결하고자 합니다. 기존 시스템의 입력 텍스트 조작에 한정된 적응 능력이나 배포 후 정적인 전략 유지의 한계를 극복하고, 추론 시점에 계산 전략의 구조(프롬프트, 샘플링 매개변수, 도구, 제어 로직) 를 동적으로 조절하여 정확도와 효율성을 지속적으로 향상시키는 것을 목표로 합니다.

핵심 방법론

저자들은 경험 기반 추론기 (Experience-Guided Reasoner, EGUR) 시스템을 제안하며, 이는 LLM 기반의 메타-전략 을 활용하여 맞춤형 계산 절차인 '전략'을 추론 시점에 동적으로 생성합니다. EGUR은 Guide 와 Consolidator 라는 두 가지 주요 구성 요소로 작동합니다. Guide 는 현재 문제와 과거 경험의 구조화된 메모리를 기반으로 여러 후보 전략을 생성하고, Consolidator 는 실행 피드백(추론 과정, 비용, 검증 결과)을 통합하여 향후 전략 생성 능력을 개선합니다.

주요 결과

AIME 2025 , 3-SAT , 그리고 세 가지 Big Bench Extra Hard 태스크를 포함한 다섯 가지 벤치마크에서, EGUR은 강력한 기준선 대비 최대 14%의 정확도 향상 을 달성했습니다 (예: 3-SAT 에서 Mem0 대비). 또한, 계산 비용을 최대 111배 까지 절감하는 효과를 보였습니다 (예: Object Counting 태스크에서 Dynamic Cheatsheet 대비). 이 두 가지 지표는 시스템이 경험을 쌓을수록 지속적으로 개선되는 양상을 보였습니다.

AI 실무자를 위한 시사점

EGUR은 AI 시스템이 실시간 경험 을 통해 추론 전략을 능동적으로 최적화 할 수 있는 실용적인 프레임워크를 제시합니다. 이는 기존 LLM 에이전트의 프롬프트 조작에 국한된 유연성 한계를 넘어, 도구 활용, 샘플링 파라미터, 심지어 제어 흐름까지 광범위하게 적응 할 수 있는 가능성을 열어줍니다. 결과적으로 AI 시스템의 지속적인 성능 개선과 운영 비용 절감 에 기여할 수 있으며, 특히 복잡하거나 변화가 잦은 AI 애플리케이션 개발에 중요한 시사점을 제공합니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.