예측형 AI의 한계를 넘어, 목표를 설계하고 실행하는 에이전트 AI의 부상

예측형 AI의 한계를 넘어, 목표를 설계하고 실행하는 에이전트 AI의 부상

# 과거를 예측하던 AI에서, 미래를 계획하고 실행하는 인공지능

인공지능은 오랫동안 과거의 데이터를 학습해 미래를 예측하는 도구로 이해되어 왔습니다. 매출 데이터를 보고 다음 분기 수요를 예상하고, 고객 행동을 분석해 이탈 가능성을 예측하며, 과거의 패턴 속에서 미래의 확률을 계산하는 방식이 대표적입니다. 이 시기의 AI는 말 그대로 “과거를 통해 미래를 추정하는 기술”이었습니다.

하지만 최근 AI의 발전 방향을 보면, 우리는 조금 다른 전환점 앞에 서 있는 듯합니다. 이제 AI는 단순히 과거의 연장선에서 미래를 맞히는 수준을 넘어, 인간이 원하는 미래를 먼저 설정하고 그 미래를 만들기 위해 지금 무엇을 해야 하는지를 제안하는 방향으로 진화하고 있습니다. 다시 말해, AI가 “미래를 예측하는 존재”에서 “미래를 설계하고 실행을 돕는 존재”로 이동하고 있는 것입니다.

요즈음은 AI 챗봇에게 어떻게 질문 하시나요? 하면 예전에는 " OO가 뭐야야, OOO을 찾아줘" 라고 질문 했다면 점점 더 많은 사람들이 " OO은 무엇이라고 생각해 ", "OOO 하려면 어떻게 해야해", " OOO은 잘 한거니 " 등 AI를 통한 판단을 통해서 나의 행동과 생각에 대한 정확함 또는 정당화를 질문 하고 있을 것입니다.

그 만큼 사람이 가진 불확실성을 AI를 통해서 확인하고 검증하는 수준으로 AI의 발전이 다가 왔다고 볼수 있습니다.

---

1. 과거에서 미래를 유추하는 AI: 예측형 AI의 시대

기존의 예측형 AI는 기본적으로 과거 데이터에 의존합니다. 시간의 흐름에 따라 축적된 데이터를 학습하고, 그 안에서 반복되는 패턴을 발견한 뒤, 비슷한 조건이 다시 나타날 때 어떤 결과가 나올지를 확률적으로 추정합니다. 금융의 가격 예측, 제조업의 수요 예측, 마케팅의 고객 이탈 예측 등은 모두 이 방식의 대표적 사례입니다.

이 접근법의 강점은 분명합니다. 데이터가 충분하고 환경이 비교적 안정적이라면 예측 정확도를 높일 수 있습니다. 기업 입장에서는 의사결정을 정량화할 수 있고, 인간보다 더 빠르게 패턴을 찾아낼 수 있습니다.

그러나 한계도 뚜렷합니다. 예측형 AI는 결국 “과거와 유사한 미래”를 전제로 움직입니다. 그래서 코로나19와 같은 전례 없는 사건, 기술 혁신으로 인한 급격한 산업 변화, 인간의 가치관 변화처럼 과거 데이터에 없던 상황에는 쉽게 흔들립니다. 또한 많은 경우 인과관계보다는 상관관계에 기반하기 때문에, 왜 그런 결과가 나오는지 설명하는 데는 약한 모습을 보이기도 합니다.

 

2. 미래에서 현재를 계산하는 AI: 생성형 AI와 에이전트 AI의 시대

최근 주목받는 생성형 AI와 에이전트 AI는 이와 다른 접근을 보여줍니다. 이들은 단순히 “다음에 무엇이 일어날까?”를 묻는 데 그치지 않습니다. 오히려 “우리가 어떤 미래를 원하는가?”, “그 미래에 도달하려면 지금 무엇을 해야 하는가?”라는 질문에 가까워지고 있습니다.

이 지점에서 중요한 개념이 바로 역산적 사고, 즉 백캐스팅입니다. 예를 들어 기업이 “3년 안에 고객 경험을 완전히 AI 기반으로 혁신하겠다”는 목표를 세우면, AI는 그 목표를 기준으로 필요한 데이터 인프라, 조직 변화, 자동화 수준, 투자 우선순위를 역으로 계산할 수 있습니다. 이 과정에서 AI는 단순한 분석기가 아니라 목표 달성을 위한 계획자이자 실행 조정자의 역할을 하게 됩니다.

특히 에이전트 AI는 목표 지향적으로 움직입니다. 하나의 AI가 모든 일을 처리하는 것이 아니라, 여러 에이전트가 역할을 나누어 협업할 수도 있습니다. 어떤 에이전트는 시장을 분석하고, 다른 에이전트는 계획을 세우며, 또 다른 에이전트는 실행 결과를 평가하고 수정합니다. 이 구조는 인간 조직의 분업과 닮아 있지만, 훨씬 빠르고 연속적으로 작동할 수 있다는 점에서 새로운 가능성을 보여줍니다.

 

3. 왜 지금 이런 전환이 일어나는가?

 

이 변화의 배경에는 몇 가지 중요한 기술적 진전이 있습니다.

첫째, 초거대 언어 모델의 등장은 AI가 단순 분류와 예측을 넘어 추론, 요약, 계획 수립, 도구 사용까지 수행하도록 만들었습니다. 과거의 AI가 특정 문제에 특화된 계산기였다면, 지금의 AI는 여러 맥락을 엮어 사고를 전개하는 범용적 인터페이스로 발전하고 있습니다.

둘째, RAG와 같은 검색 증강 기술은 AI가 내부에 학습된 지식만이 아니라 외부의 최신 정보와 연결될 수 있게 만들었습니다. 이는 AI가 현실 세계와 더 긴밀하게 동기화되도록 돕고, 환각을 줄이며, 변화하는 상황에 맞게 판단을 업데이트할 수 있게 합니다.

셋째, AI는 점점 더 인과적 구조를 이해하려는 방향으로 진화하고 있습니다. 아직 완전한 수준은 아니지만, 단순히 “무엇이 함께 나타나는가”를 보는 데서 나아가 “무엇이 무엇을 일으키는가”를 파악하려는 시도가 강화되고 있습니다. 이 능력이 높아질수록 AI는 단순 예측기가 아니라 전략적 의사결정의 동반자로 가까워질 것입니다.

 

4. 우리는 결국 전능한 판단력을 가진 ‘오라클’을 원하는가?

예측형 AI의 시대에는 과거 데이터에서 반복 패턴을 찾아 미래를 확률적으로 추정하는 것이 중심이었습니다. 그러나 최근 planning 관련 서베이들은 실제 복잡한 과업에서는 “예측 그 자체”보다 목표 달성을 위한 실행 가능한 계획, 자원 배분, 단계적 의사결정, 그리고 실행 중 수정 가능성이 더 중요해지고 있다고 지적합니다.

이 지점에서 흥미로운 철학적 질문이 등장합니다. 인간은 AI에게 무엇을 기대하고 있는가? 단지 정확한 계산기일까, 아니면 미래를 알려주는 선지자일까?

많은 사람들이 AI를 볼 때 무의식적으로 ‘예언자’의 이미지를 덧씌웁니다. 불확실한 세상에서 우리는 늘 더 빨리 알고 싶어 하고, 더 정확히 판단하고 싶어 하며, 가능하다면 미래를 미리 보고 싶어 합니다. 그래서 AI가 발전할수록 사람들은 그것을 단순한 소프트웨어가 아니라, 마치 오라클처럼 대하기 시작합니다.

여기서 영화 <매트릭스>가 떠오르기도 합니다. 미래를 안다는 것은 단순히 정보를 더 많이 갖는다는 뜻이 아닙니다. 그것은 선택, 자유, 책임의 문제와 연결됩니다. 만약 AI가 우리의 미래를 예측하는 수준을 넘어, 우리가 가야 할 방향까지 제안한다면, 인간은 어디까지 스스로 결정하는 존재로 남을 수 있을까요? AI가 제시한 최적 경로를 따르는 것이 합리성일지, 아니면 인간의 주체성을 조금씩 포기하는 시작일지 우리는 아직 명확히 답하지 못하고 있습니다.

이 변화는 기술적으로도 분명합니다. LLM 기반 에이전트 연구는 작업을 세분화하는 Task Decomposition, 대안을 고르는 Plan Selection, 외부 시스템을 연결하는 External Module, 결과를 되돌아보는 Reflection, 그리고 문맥을 축적하는 Memory를 핵심 구성 축으로 제시하며, 이는 AI가 분석 도구에서 목표 지향적 실행 주체로 이동하고 있음을 보여줍니다.

 

5. 원하는 미래를 어떻게 설계하고 실행하는가?

인공지능의 경쟁력은 이제 “미래를 얼마나 잘 맞히는가”에서 “원하는 미래를 어떻게 설계하고 실행하는가”로 빠르게 이동하고 있습니다. 최근 연구들은 LLM이 단순 응답 생성기를 넘어 계획 수립, 작업 분해, 메모리 활용, 외부 도구 연계, 반성적 수정까지 수행하는 방향으로 발전하고 있다고 정리하며, 이것이 에이전트 AI 전환의 핵심 기반이라고 봅니다.

지금까지의 AI가 과거를 비추는 거울에 가까웠다면, 앞으로의 AI는 미래를 그리는 청사진이 될 가능성이 있습니다. 중요한 것은 AI가 미래를 “맞히는” 것보다, 인간이 바라는 미래를 “구성하도록 돕는” 방향으로 진화하고 있다는 점입니다.

기업에서는 이미 이런 흐름이 나타나고 있습니다. 단순 수요 예측을 넘어, 재고 확보, 생산 일정 조정, 고객 커뮤니케이션, 마케팅 자동화까지 연결해 하나의 목표를 향해 움직이는 통합형 AI 시스템이 등장하고 있습니다.
개인 차원에서도 마찬가지입니다. AI는 더 이상 질문에 답하는 도구를 넘어, 목표를 함께 설계하고 실행을 보조하는 파트너가 되어가고 있습니다.

결국 앞으로의 AI는 “무엇이 일어날까”를 맞히는 예측 엔진을 넘어, “어떤 미래를 만들 것인가”를 기준으로 현재 행동을 조직하는 전략 엔진이 될 가능성이 큽니다. 특히 LLM planning과 Agentic RAG 문헌은 에이전트 AI의 본질을 단일 모델의 지능 향상보다, 계획·검색·실행·평가가 연결된 시스템 설계의 진화로 이해해야 한다는 점을 분명히 보여줍니다.

미래 AI의 본질은 예측의 정밀도만이 아니라, 목표 설정과 실행 능력, 그리고 인간과의 협업 방식에 달려 있을 것입니다.
AI가 정말로 미래를 만드는 기술이 된다면, 우리에게 필요한 것은 더 강력한 모델만이 아닙니다. 어떤 미래를 원하는지 질문할 수 있는 인간의 철학과 책임도 함께 성장해야 합니다.

 

6. 능동적인 인공지능의 네가지 축네 가지 축

능동형 에이전트의 기본 구성요소를 보통 목표 설정, 계획 수립, 행동 실행, 기억, 반복적 수정 이며, 에이전트가 복잡한 작업을 수행하려면 작업 분해, 계획 선택, 외부 도구 연계, 메모리 활용, 반성적 수정이 함께 작동해야 합니다.

1. Planning: 무엇을 할지 순서를 세우는 능력입니다. 복잡한 목표는 한 번에 처리되지 않기 때문에 작업을 단계로 쪼개는 능력이 중요합니다.
   
   
2. Reflection: 실행 결과를 보고 무엇이 잘못됐는지 스스로 점검하고 수정하는 능력입니다.
   
   
3. Memory: 과거의 경험, 사용자 맥락, 중간 결과를 저장해 다음 행동에 반영하는 능력입니다.
   
   
4. Retrieval: 필요한 순간에 외부 지식이나 저장된 정보를 다시 꺼내오는 능력입니다. RAG와 Agentic RAG는 이 부분을 핵심 메커니즘으로 봅니다.

 

---

# 참고 논문

<미래를 설계하고 실행하는 AI 에 대한 연구>
논문	발행	연구배경	연구목적	연구방법	연구결과	연구의 기여
Understanding the planning of LLM agents: A survey 참고	2024	LLM의 성능 향상 이후, 자율 에이전트의 계획 모듈로 LLM을 활용하려는 연구가 급증했지만 체계적 정리가 부족했습니다 .	LLM 기반 에이전트 planning 연구를 체계적으로 정리하고 핵심 구성요소와 도전과제를 분류하는 것입니다 .	기존 연구를 서베이하고 Task Decomposition, Plan Selection, External Module, Reflection, Memory의 다섯 축으로 taxonomy를 제시했습니다 .	LLM 에이전트 planning은 단순 프롬프트보다 계획 분해, 외부 모듈 연계, 반성적 수정, 메모리 활용이 성능 향상에 중요하다는 점을 보여줍니다 .	에이전트 AI를 “계획 가능한 시스템”으로 이해하는 기본 틀을 제공했다는 점에서 의미가 큽니다 .
LASP: Surveying the State-of-the-Art in Large Language Model-Assisted AI Planning 참고	2024	여행 계획부터 자율주행, 기업 전략까지 planning은 핵심이지만, 직접 프롬프트만으로 만든 계획은 실행 단계에서 실패하는 경우가 많았습니다 .	LLM이 planning 영역에서 어디까지 유효하며 어떤 한계가 있는지 정리하는 것입니다.	embodied environments, scheduling, games, task decomposition, reasoning 등 planning 과제를 폭넓게 검토하는 서베이를 수행했습니다.	LLM은 상식 추론 덕분에 계획 생성 잠재력은 높지만, 실행 가능성과 안정성 측면의 간극이 여전히 크다고 분석합니다	“생성된 답변”과 “실행 가능한 계획”의 차이를 드러내며, 에이전트 AI의 핵심 과제를 planning reliability로 선명하게 제시했습니다.
Agentic Retrieval-Augmented Generation: A Survey on Agentic RAG 참고	2025	전통적 RAG는 최신 정보 결합에는 유용하지만, 정적 워크플로우 구조 때문에 다단계 추론과 복잡한 작업 관리에는 한계가 있었습니다 .	RAG에 agentic design pattern을 결합한 Agentic RAG의 원리, 구조, 응용, 구현 과제를 정리하는 것입니다 .	reflection, planning, tool use, multi-agent collaboration을 포함한 Agentic RAG 아키텍처를 분류하는 서베이 방식으로 접근했습니다 .	Agentic RAG는 검색 전략을 동적으로 바꾸고 문맥 이해를 반복 개선하며 복잡한 작업 요구에 적응할 수 있다고 정리합니다 .	에이전트 AI 시대에 검색이 단순 보조 기능이 아니라 계획·실행 루프의 일부가 된다는 점을 명확히 보여줍니다 .
PlanGenLLMs: A Modern Survey of LLM Planning Capabilities 참고	2025	웹 탐색, 여행 계획, DB 질의 등 다양한 planning 응용이 늘었지만 시스템별 맞춤 설계가 많아 상호 비교와 평가 기준이 불명확했습니다 .	현재 LLM planner를 포괄적으로 비교하고 일관된 평가 틀을 제시하는 것입니다 .	completeness, executability, optimality, representation, generalization, efficiency의 6개 성능 기준으로 대표 연구를 분석했습니다 .	LLM planning 연구는 빠르게 성장했지만, 범용성·실행가능성·효율성 간 균형이 여전히 핵심 과제로 남아 있음을 보여줍니다 .	에이전트 워크플로우를 평가할 때 무엇을 봐야 하는지 정량·정성 기준을 제공해 실무와 연구를 잇는 기준점 역할을 합니다 .

 

 

논문	발행	연구배경	연구목적	연구방법	연구결과	연구의 기여
Understanding the planning of LLM agents: A survey	2024	LLM의 성능 향상 이후, 자율 에이전트의 계획 모듈로 LLM을 활용하려는 연구가 급증했지만 체계적 정리가 부족했습니다 .	LLM 기반 에이전트 planning 연구를 체계적으로 정리하고 핵심 구성요소와 도전과제를 분류하는 것입니다 .	기존 연구를 서베이하고 Task Decomposition, Plan Selection, External Module, Reflection, Memory의 다섯 축으로 taxonomy를 제시했습니다 .	LLM 에이전트 planning은 단순 프롬프트보다 계획 분해, 외부 모듈 연계, 반성적 수정, 메모리 활용이 성능 향상에 중요하다는 점을 보여줍니다 .	에이전트 AI를 “계획 가능한 시스템”으로 이해하는 기본 틀을 제공했다는 점에서 의미가 큽니다 .
LASP: Surveying the State-of-the-Art in Large Language Model-Assisted AI Planning Memory	2024 Memory	여행 계획부터 자율주행, 기업 전략까지 planning은 핵심이지만, 직접 프롬프트만으로 만든 계획은 실행 단계에서 실패하는 경우가 많았습니다 Memory.	LLM이 planning 영역에서 어디까지 유효하며 어떤 한계가 있는지 정리하는 것입니다 Memory.	embodied environments, scheduling, games, task decomposition, reasoning 등 planning 과제를 폭넓게 검토하는 서베이를 수행했습니다 Memory.	LLM은 상식 추론 덕분에 계획 생성 잠재력은 높지만, 실행 가능성과 안정성 측면의 간극이 여전히 크다고 분석합니다 Memory.	“생성된 답변”과 “실행 가능한 계획”의 차이를 드러내며, 에이전트 AI의 핵심 과제를 planning reliability로 선명하게 제시했습니다 Memory.
Agentic Retrieval-Augmented Generation: A Survey on Agentic RAG	2025	전통적 RAG는 최신 정보 결합에는 유용하지만, 정적 워크플로우 구조 때문에 다단계 추론과 복잡한 작업 관리에는 한계가 있었습니다 .	RAG에 agentic design pattern을 결합한 Agentic RAG의 원리, 구조, 응용, 구현 과제를 정리하는 것입니다 .	reflection, planning, tool use, multi-agent collaboration을 포함한 Agentic RAG 아키텍처를 분류하는 서베이 방식으로 접근했습니다 .	Agentic RAG는 검색 전략을 동적으로 바꾸고 문맥 이해를 반복 개선하며 복잡한 작업 요구에 적응할 수 있다고 정리합니다 .	에이전트 AI 시대에 검색이 단순 보조 기능이 아니라 계획·실행 루프의 일부가 된다는 점을 명확히 보여줍니다 .
PlanGenLLMs: A Modern Survey of LLM Planning Capabilities	2025	웹 탐색, 여행 계획, DB 질의 등 다양한 planning 응용이 늘었지만 시스템별 맞춤 설계가 많아 상호 비교와 평가 기준이 불명확했습니다 .	현재 LLM planner를 포괄적으로 비교하고 일관된 평가 틀을 제시하는 것입니다 .	completeness, executability, optimality, representation, generalization, efficiency의 6개 성능 기준으로 대표 연구를 분석했습니다 .	LLM planning 연구는 빠르게 성장했지만, 범용성·실행가능성·효율성 간 균형이 여전히 핵심 과제로 남아 있음을 보여줍니다 .	에이전트 워크플로우를 평가할 때 무엇을 봐야 하는지 정량·정성 기준을 제공해 실무와 연구를 잇는 기준점 역할을 합니다 .

 

 

활용 포인트

이 글에 논문 인용을 한두 문장 더 보강하려면, “최근 서베이들은 에이전트 AI의 핵심을 단일 모델 성능이 아니라 planning, reflection, memory, retrieval의 결합 구조에서 찾고 있다”는 문장을 넣는 것이 가장 자연스럽습니다.
기업 관점의 메시지를 강화하려면, “생성형 AI 도입의 성패는 모델 선택보다 목표 분해, 도구 연계, 검색 신뢰성, 실행 피드백 루프 설계에 달려 있다”는 문장으로 마무리하면 전문 칼럼 톤이 더 살아납니다.Memory

원하시는 방향에 맞춰 다음 단계로는 1) 네이버 블로그용 문체로 재편집, 2) 논문 인용 각주형 버전, 3) 기업 임원 발표자료용 1페이지 요약본 중 하나로 이어서 정리할 수 있습니다.

# 포인트

“최근 연구 서베이들은 에이전트 AI의 핵심을 단일 모델 성능이 아니라 planning, reflection, memory, retrieval의 결합 구조에서 찾고 있다”
기업 관점에서는 “생성형 AI 도입의 성패는 모델 선택보다 목표 분해, 도구 연계, 검색 신뢰성, 실행 피드백 루프 설계에 달려 있다”