'Agent at Scale'의 의미: Prompt에서 Action으로, 개인에서 Workforce로

CloudAI

‘Agent at Scale’의 의미: Prompt에서 Action으로, 개인에서 Workforce로

2026.04.09

한눈에 보는 핵심 인사이트

AWS re:Invent 2025에서 Matt Garman CEO가 선언한 ‘Agent at Scale’은 AI가 질문에 답하는 Q&A 도구를 졸업하고, API를 직접 호출하며 실제 업무 결과를 만들어내는 ‘실행하는 AI’로 전환되었음을 공식화한 선언입니다. 더 나아가 개별 챗봇의 시대를 지나, 수만 개의 에이전트가 서로 협업하며 비즈니스 프로세스를 완결하는 ‘Agent Workforce’가 기업 운영의 새로운 표준으로 부상하고 있습니다. SK AX는 이 전환의 가장 어려운 과제인 대규모 에이전트를 통제하고 운영하는 구조 설계 역량을 갖춘 파트너로서, 고객이 AI 혁신을 실무 성과로 연결할 수 있도록 함께합니다.

From Prompt to Action: ‘대화하는 AI’에서 ‘실행하는 AI’로

출처: theCUBE Research, AWS re:Invent 2025: From Chatbots to Action

지난 몇 년간 수많은 기업이 LLM을 도입하며 생산성 혁신을 기대했습니다. 그러나 현장의 현실은 기대와 다소 거리가 있었습니다. ChatGPT든, 사내에 구축한 어떤 AI 도구든, 결국 사람이 질문을 세심하게 설계해 던지고, AI가 텍스트로 답변을 생성하면, 다시 사람이 그 내용을 다른 시스템에 직접 입력하거나 행동으로 옮겨야 했습니다. AI는 생각을 대신했지만, 행동은 여전히 사람의 몫이었습니다. 기업이 진정으로 원하는 것, 즉 업무 결과의 자동 완성은 LLM만으로는 실현되지 않았습니다.

이 한계는 업계 전반에서 공유되는 인식이 되었고, AWS는 2025년 re:Invent 무대에서 이에 대한 구조적 해답을 제시했습니다. CEO Matt Garman이 기조연설에서 선언한 메시지의 핵심은 ‘Agent at Scale’이었습니다. 기존의 Cloud at Scale이 인프라를 빠르고 저렴하게 제공하는 데 방점을 뒀다면, Agent at Scale은 수만 개의 AI 에이전트가 실제 기업 환경에서 자율적으로 작동하는 상황을 전제로 클라우드 서비스 전체를 재설계한다는 선언이었습니다.

‘From Prompt to Action’은 이 구조 전환의 핵심을 한마디로 요약합니다. 에이전트 기반의 AI는 프롬프트를 받은 후 스스로 API를 호출하고, 외부 데이터베이스를 조회하며, 다른 시스템에 결과를 기록하고, 다음 단계의 작업을 자동으로 트리거합니다. 예를 들어, 고객이 문의를 남기면 AI가 CRM 시스템에서 해당 고객의 구매 이력을 조회하고, 응대 초안을 작성하며, 담당자에게 알림을 보내고, 처리 결과를 데이터베이스에 기록하는 일련의 과정을 사람의 개입 없이 완료할 수 있습니다. 실행 단위가 ‘생성된 텍스트’에서 ‘완료된 업무’로 바뀌는 것, 이것이 에이전트 시대가 의미하는 본질적 변화입니다.

From Individual to Workforce: 챗봇을 넘어 에이전트 조직으로

기존 기업의 AI 도입은 주로 개인 생산성 도구로서의 챗봇 수준에 머물렀습니다. 각 직원이 AI에게 질문하고 답변을 받는 방식으로, AI는 개인의 업무를 보조하는 조수(Assistant) 역할이었습니다.

‘From Individual to Workforce’는 이 방식을 넘어섭니다. 기업 운영 환경이 개별 직원의 챗봇을 넘어, 수만 개의 에이전트가 서로 협력하며 비즈니스 프로세스를 완결 짓는 ‘Agent Workforce’로 진화하고 있습니다. 마케팅 에이전트가 캠페인 성과 데이터를 분석하면, 예산 에이전트가 ROI를 계산하고, 콘텐츠 에이전트가 다음 소재를 제안하며, 승인 에이전트가 컴플라이언스 여부를 검토하는 방식으로 에이전트들이 하나의 워크포스처럼 움직입니다. Assistant, Agent, Workforce라는 세 단계의 성숙도를 구분하는 관점에서, 우리는 지금 세 번째 단계의 입구에 서 있습니다.

에이전트 자체가 아니라 ‘Scale의 불확실성’

여기서 중요한 통찰이 있습니다. 에이전트 수가 급증할 때 발생하는 불확실성과 리스크입니다. 에이전트가 수십, 수백 개를 넘어 수만 개 단위로 운영되기 시작하면, 잘못 설계된 자동화 하나가 연쇄 장애와 예측 불가능한 비용 폭증을 초래할 수 있습니다.

이 관점은 Agent 시대의 진짜 경쟁력이 어디에 있는지를 명확히 합니다. AI 모델의 성능 자체보다, 멀티 에이전트를 통제하고 운영하며 필요할 때 중단할 수 있는 구조와 AIOps 역량이 기업의 AI 성숙도를 결정하게 됩니다. 화려한 데모보다 견고한 운영 체계가 더 중요한 시대가 된 것입니다.

Bedrock AgentCore: 운영 레이어의 서비스화

출처: Amazon AWS, Amazon Bedrock AgentCore 소개

이 배경에서 AWS가 가장 전략적으로 선보인 서비스가 ‘Bedrock AgentCore’입니다. 기존의 클라우드 서비스들이 인프라와 플랫폼 레이어를 다뤘다면, AgentCore는 에이전트 운영 레이어 그 자체를 서비스화한 것입니다.

AgentCore의 핵심은 두 가지입니다. 첫째, Agent의 Action과 Control Plane 레이어를 분리하여, 에이전트 코드 외부에서 정책을 적용하고 특정 행동을 차단할 수 있는 구조를 제공합니다. 에이전트가 어떤 프레임워크로 개발되었든, AWS 환경에서 중앙 집중식으로 통제하고 평가하며 모니터링할 수 있다는 것이 핵심입니다. 둘째, 비용 폭증, 오작동, 보안 리스크를 플랫폼 레벨에서 관리함으로써 개발팀이 에이전트 로직에 집중할 수 있도록 운영 복잡성을 흡수합니다. AWS가 CSP 중 가장 먼저 에이전트 전용 운영 레이어를 정의하고 서비스화했다는 점은, 이 경쟁의 주도권이 누구에게 있는지를 보여주는 신호이기도 합니다.

SK AX가 고객과 함께하는 이유

‘Agent at Scale’의 방향은 기술적 트렌드를 넘어 기업 AI 전략 전체의 좌표를 재설정하고 있습니다. Prompt에서 Action으로, 개인에서 Workforce로의 전환은 AI를 어떻게 ‘쓸’ 것인가의 문제가 아니라, 기업 운영 방식 자체를 어떻게 ‘재설계’할 것인가의 문제입니다.

SK AX는 멀티 클라우드 운영 경험과 AIOps, NPO(New Paradigm for Operation) 플랫폼을 바탕으로, 고객의 기업 환경에 맞는 에이전트 운영 구조를 함께 설계합니다. AXgenticWire NPO는 SK AX가 자체 개발한 기업형 에이전트 워크스페이스로, 업무 목적에 특화된 AI 에이전트를 빠르게 설계·배포하고 중앙에서 통합 관리할 수 있는 플랫폼입니다. 에이전트를 기술적으로 구현하는 것보다 훨씬 어려운 과제, 즉 비즈니스 프로세스와 기술 아키텍처를 통합적으로 이해하고, 통제 가능한 구조 위에 에이전트를 올리는 것을 SK AX는 고객과 함께합니다. AI 혁신을 실무 성과로 연결하는 여정, SK AX가 그 옆에 있겠습니다.

[FAQ]

Q1. ‘Agent at Scale’이 기존의 AI 도입 방식과 다른 점은 무엇인가요?

기존 AI 도입은 특정 부서나 개인이 챗봇을 활용하는 방식이 중심이었습니다. Agent at Scale은 수만 개의 에이전트가 기업 시스템 전반에 걸쳐 자율적으로 협업하며 업무를 완결하는 구조입니다. 단순히 AI 기능이 더 많아지는 것이 아니라, 기업의 운영 방식 자체가 에이전트 중심으로 재편됨을 의미합니다.

Q2. Bedrock AgentCore는 어떤 기업에 필요한 서비스인가요?

이미 AI 파일럿을 완료하고 실제 운영 환경에 에이전트를 배포하려는 기업, 또는 여러 부서에서 각각 다른 에이전트를 운영 중인 기업에 특히 적합합니다. AgentCore는 에이전트의 개발 프레임워크와 무관하게 중앙에서 통제·모니터링·비용 관리를 가능하게 해주기 때문에, 에이전트 규모가 커질수록 그 가치가 높아집니다.

Q3. Agent Workforce를 도입하기 전에 기업이 먼저 점검해야 할 것은 무엇인가요?

에이전트가 연동될 핵심 시스템(ERP, CRM, 데이터베이스)의 API 표준화 여부, 에이전트에게 부여할 권한의 범위 설계, 그리고 에이전트의 행동을 감사(audit)할 수 있는 로그 체계 확보가 선행되어야 합니다. 화려한 에이전트 데모보다 이 기반 작업이 실제 성공 여부를 결정합니다.

Q4. AWS 외에 Azure, GCP는 에이전트 시대를 어떻게 대응하고 있나요?

AWS가 에이전트 운영 레이어의 서비스화(AgentOps)에 집중한다면, Azure는 OpenAI와의 연계를 기반으로 엔터프라이즈 AI 개발 표준 플랫폼(MS Foundry)을 선점하는 전략을 취하고 있습니다. GCP는 BigQuery 기반의 대규모 데이터 처리 강점과 자체 FM인 Gemini를 결합해 데이터 보유 고객의 AI 전환을 가속화하는 방향으로 차별화하고 있습니다.

Q5. SK AX는 에이전트 도입에서 어떤 역할을 하나요?

SK AX는 에이전트의 기술 구현뿐 아니라, 업무 프로세스와 기술 아키텍처를 통합적으로 이해하고 설계하는 역할을 합니다. 자체 AIOps 플랫폼으로 멀티 에이전트 환경의 운영 리스크를 탐지·제어하고, NPO(New Paradigm for Operation)를 통해 기업이 즉시 활용 가능한 실무형 에이전트를 빠르고 안전하게 구축할 수 있도록 지원합니다.

AX 컨설팅부터 비즈니스 모델 발굴까지

Global Top 10 AX Service Company｜SK AX