인공지능 기술이 2026년 현재 “장기 과제를 자율적으로 수행하는 실무 에이전트”로 자리 잡기까지, 지난 2021년부터 2025년까지의 5년은 단순한 텍스트 완성 모델이 도구를 쥐고 스스로 추론하며 작업하는 지능형 에이전트로 탈바꿈한 거대한 전환기였습니다.
초기에는 모델 매개변수(Parameter)와 데이터셋 크기를 무작정 키우는 사전 학습(Pre-training) 확장에 집중했습니다. 그러나 컨텍스트 창의 한계, 환각(Hallucination), 도구 연동의 부재라는 벽에 부딪히며 검색 증강 생성(RAG), 함수 호출(Function Calling), 그리고 사고 시간(Test-Time Compute)을 늘려 문제를 해결하는 추론 패러다임으로 진화했습니다.
이 글에서는 2026년 이후의 에이전트 생태계(2026년 AI 현주소와 2027–2028 전망)를 지탱하는 5개년의 핵심 기술적 계보와 아키텍처 전환점을 연도별로 정리합니다.
1. 2021년: 스케일링 법칙(Scaling Laws)의 실증과 코드 생성의 태동
2020년 말 공개된 GPT-3(1,750억 파라미터)의 충격 이후, 2021년은 **“컴퓨팅 자원과 파라미터, 데이터를 늘릴수록 모델 성능이 멱함수(Power-law) 형태로 예측 가능하게 향상된다”**는 카플란(Kaplan) 등의 스케일링 법칙이 산업계의 절대적 신념으로 자리 잡은 시기였습니다.
- 스케일링 경쟁의 점화: 거대 기술 기업들은 수천억 개의 파라미터를 가진 기초 모델(Foundation Model)을 앞다퉈 학습시키기 시작했습니다. 이 시기의 모델은 뒤이어 올 단어를 확률적으로 예측하는 텍스트 완성기(Auto-completion Engine)에 가까웠습니다.
- 코드 생성의 첫 실증 (Codex & GitHub Copilot): 2021년 여름, OpenAI는 수십억 줄의 공개 소스코드를 사전 학습한 Codex 모델을 발표하고 GitHub와 협력하여 Copilot 기술 프리뷰를 개시했습니다. 이는 언어 모델이 자연어 수필을 쓰는 것을 넘어 엄격한 문법을 지닌 프로그래밍 코드를 작성할 수 있음을 입증한 첫 번째 중대한 변곡점이었습니다.
- 정렬(Alignment) 연구의 출발: 단순 텍스트 완성 모델은 사용자의 지시를 무시하고 엉뚱한 문장을 이어 쓰거나 유해한 발언을 생성하는 문제가 있었습니다. 이를 해결하기 위해 인간의 피드백을 강화학습으로 반영하는 RLHF(Reinforcement Learning from Human Feedback) 기술이 InstructGPT 논문을 통해 본격적으로 연구되기 시작했습니다.
2. 2022년: ChatGPT 혁명과 생성형 AI의 대중화
2022년은 기술적 발견이 대중적 인터페이스를 만나며 전 세계적인 생성형 AI 폭풍을 일으킨 해였습니다.
- ChatGPT의 등장과 대화형 패러다임: 2022년 11월 30일, OpenAI가 GPT-3.5를 기반으로 한 ChatGPT를 공개했습니다. 출시 단 5일 만에 100만 사용자, 2달 만에 월간 활성 사용자 1억 명을 달성하며 역사상 가장 빠르게 확산된 서비스가 되었습니다.
- 역할 기반 턴 구조의 정착: 프롬프트 엔지니어링이 독립된 기술 분야로 부상했습니다. 모델과의 상호작용 방식이 단일 텍스트 입력에서
system(페르소나 및 제약 부여),user(질문),assistant(응답)의 구조화된 대화 턴(Turn) 체계로 표준화되었습니다. - 멀티모달 이미지 생성의 폭발: Stability AI의 Stable Diffusion 오픈소스 공개, Midjourney v4, OpenAI DALL-E 2가 잇달아 등장하며 텍스트뿐만 아니라 시각적 콘텐츠를 생성하는 능력이 비약적으로 발전했습니다.
3. 2023년: 멀티모달, 오픈소스의 폭발, RAG와 함수 호출(Function Calling)
2022년이 대화형 인터페이스의 발견이었다면, 2023년은 모델이 현실의 데이터와 시스템을 다룰 수 있도록 외부 도구와 연결된 해였습니다.
- GPT-4 공개와 시험 통과: 2023년 3월 출시된 GPT-4는 미국 변호사 시험, 생물 올림피아드 등 고난도 전문 시험에서 상위 10%의 성적을 기록하며 추론 능력의 새로운 기준을 세웠습니다.
- Llama와 오픈소스 생태계의 대폭발: 2023년 메타가 공개한 LLaMA 및 상업적 라이선스의 Llama 2는 폐쇄형 API에 의존하던 연구자들에게 거대한 돌파구가 되었습니다. 저비용 미세 조정을 가능하게 한 **LoRA(Low-Rank Adaptation)**와 CPU·엣지 디바이스 구동을 위한 양자화 기술(GGML/GGUF)이 맞물리며 온프레미스 AI의 기초가 닦였습니다.
- 환각 방지를 위한 RAG의 표준화: 모델 내부 지식의 한계(Cut-off)와 그럴듯한 거짓말(Hallucination)을 막기 위해, 외부 문서를 검색해 프롬프트에 주입하는 **검색 증강 생성(RAG)**과 벡터 데이터베이스(Vector DB) 도입이 기업의 필수 아키텍처가 되었습니다.
- 초기 자율 에이전트 실험의 좌절: AutoGPT, BabyAGI처럼 LLM이 스스로 목표를 쪼개고 루프를 돌며 자율 수행하려는 시도가 폭발적인 관심을 끌었습니다. 그러나 4k~8k에 불과했던 좁은 컨텍스트 창, 비싼 API 비용, 잦은 무한 루프로 인해 실무 도입에는 실패했습니다.
- 도구 사용(Tool Use / Function Calling)의 공식 도입: 2023년 중반 OpenAI가 도입한 Function Calling은 언어 모델이 임의의 텍스트가 아니라 사전에 정의된 규격(JSON Schema)으로 인자를 반환하게 만들었습니다. 이를 통해 LLM이 데이터베이스 쿼리를 실행하거나 REST API를 호출하는 에이전트의 물리적 손발이 마련되었습니다.
4. 2024년: 거대 컨텍스트, 테스트 타임 추론(o1), 에이전틱 워크플로우
2024년은 언어 모델의 근본적인 추론 구조가 질적으로 전환된 해였습니다. 단순히 사전 학습을 키우는 것만으로는 한계에 부딪혔던 성능을 두 가지 새로운 축이 돌파했습니다.
- 백만 토큰 컨텍스트 창: Google Gemini 1.5 Pro(1M~2M 토큰)와 Anthropic Claude 3(200k 토큰)가 등장했습니다. 수십 권의 책이나 거대한 코드베이스 전체를 하나의 컨텍스트 창에 담을 수 있게 되면서 컨텍스트 창과 토큰 비용에서 다룬 캐싱과 작업 기억 최적화가 핵심 엔지니어링 과제로 부상했습니다.
- 컴퓨터 유즈(Computer Use)와 AI IDE: Anthropic Claude 3.5 Sonnet은 탁월한 코딩 능력과 함께 화면 스크린샷을 보고 마우스와 키보드를 조작하는 Computer Use API를 선보였습니다. Cursor, Windsurf 같은 AI 네이티브 개발 환경이 급성장하며 코딩 패러다임이 자동완성에서 에이전트 주도 작성으로 옮겨갔습니다.
- 추론 패러다임의 대전환 (OpenAI o1): 2024년 9월 공개된 o1-preview는 기존의 사전 학습 확장(Pre-training Scaling)이 둔화되던 시점에 **테스트 타임 연산(Test-Time Compute)**이라는 새로운 스케일링 축을 제시했습니다. 모델이 답변을 내놓기 전 내부적으로 긴 사고 사슬(Chain-of-Thought)을 거치도록 강화학습을 적용함으로써, 복잡한 수학, 알고리즘, 과학적 추론에서 기존 모델을 압도했습니다.
- 에이전틱 워크플로우(Agentic Workflows)의 정립: 앤드류 응(Andrew Ng) 교수는 4대 에이전트 디자인 패턴을 정리했습니다:
- 반추(Reflection): 생성한 산출물을 스스로 비판하고 수정.
- 도구 사용(Tool Use): 검색, 계산기, 코드 실행기 활용.
- 기획(Planning): 과제를 하위 단계로 분해하고 실행 순서 수립.
- 다중 에이전트 협업(Multi-agent): 서로 다른 역할을 맡은 에이전트들의 상호 보완.
5. 2025년: 심층 추론의 보편화, DeepSeek R1, 그리고 하네스(Harness)의 태동
2025년은 최상위 연구소의 전유물이었던 심층 추론 기술이 오픈소스로 확산되고, 코딩 에이전트가 개발자의 터미널과 운영체제 깊숙이 들어온 해였습니다.
- DeepSeek R1의 충격과 오픈 가중치 역전: 2025년 초 공개된 DeepSeek R1은 대규모 지도학습 없이 순수 강화학습(Pure RL)만으로 OpenAI o1에 필적하는 심층 추론 능력을 입증했습니다. 이를 완전한 오픈 가중치로 공개함으로써 전 세계 연구진과 기업의 추론 토큰 비용을 극적으로 낮추었습니다.
- 터미널 네이티브 코딩 에이전트(Claude Code 등)의 보편화: 단순 웹 채팅창을 벗어나 개발자의 로컬 환경에서 직접 쉘 명령을 내리고, 파일 시스템을 탐색하며, git 커밋과 테스트 실행을 반복하는 에이전트 런타임이 개발 현장의 표준 도구로 자리 잡았습니다.
- Model Context Protocol(MCP)의 확산: 도구와 데이터 소스를 통합 연결하기 위한 오픈 표준 프로토콜인 MCP가 제정되면서, 기업 내부 데이터와 외부 SaaS 툴을 에이전트에 손쉽게 연결하는 기반이 완성되었습니다.
- 단일 에이전트에서 하네스 체계로: 에이전트의 출력을 맹신하지 않고 린터, 테스트 자동화, 작업 격리를 묶어 폐루프로 통제하는 에이전트 하네스(Harness)의 중요성이 대두되었습니다.
6. 결론: 2026년 에이전트 시대로의 연결
2021년부터 2025년까지의 5년은 다음과 같은 아키텍처 진화의 압축판이었습니다:
[2021-2022] 텍스트 완성 및 대화형 챗봇 (GPT-3, ChatGPT)
↓ (한계: 환각, 좁은 기억, 고립된 환경)
[2023] 도구 호출과 외부 지식 결합 (Function Calling, RAG, Llama)
↓ (한계: 얕은 추론, 단발성 태스크, 에이전트 루프의 불안정성)
[2024-2025] 심층 추론과 엔지니어링 에이전트 (o1, DeepSeek R1, 거대 컨텍스트, MCP)
↓ (목표: 수십 시간 단위의 실무 완수와 투자 수익률 증명)
[2026-2028] 장기 자율 에이전트, 인프라 병목, 폐루프 하네스 거버넌스
2021년의 장난감 같던 코드 완성이 2025년을 거쳐 비로소 실제 소프트웨어 개발 라이프사이클을 스스로 통제하는 시스템으로 성숙했습니다. 이제 기술의 초점은 “에이전트가 코드를 짤 수 있는가”가 아니라, **“수십 시간짜리 장기 과제를 무너지지 않고 끝낼 수 있는가”**와 **“이를 뒷받침할 전력과 메모리가 충분한가”**라는 2026년 이후의 구조적 질문으로 넘어가고 있습니다.
함께 읽으면 좋은 글
- ai-trend-2026-2028-agents-infrastructure-governance: 2026년 실무 전환의 현실과 2027–2028년 자율 에이전트, 인프라 병목, 주권 기술 전망.
- claude-code-agent-teams-vs-subagents: 2024~2026년 에이전트 아키텍처의 핵심 진화(서브에이전트 위임 vs 에이전트 팀 협업).
- 컨텍스트 창과 토큰 비용: 4k 토큰 시절부터 백만 토큰 거대 창까지의 비용과 작업 기억 관리 기법.
- ai-agent-memory-claude-mem-mem0-cognee: 2023년 RAG에서 2025~2026년 에이전트 장기 기억 시스템으로의 발전 과정.
- Claude Code 기본 구조: 터미널 기반 에이전트의 런타임, 훅, 권한 격리 설계 원리.