AI

AI 에이전트 수요 급증, PoC를 넘어 엔터프라이즈 AI로

2025.03.28

  최근 인공지능(AI)의 발전 속도는 그야말로 폭발적이라 할 만큼 빠르게 가속화되고 있습니다. 특히 사람의 일을 대신하거나 보조하는 ‘AI 에이전트’는 디지털 산업의 새로운 핵심 트렌드로 자리잡고 있습니다. AI 에이전트란 인간의 지시 없이도 자율적으로 학습하고 특정 문제를 해결하는 인공지능 시스템을 의미합니다.

  과거의 AI는 주로 데이터 분석이나 패턴 인식 같은 정형화된 작업을 수행하는 데 집중되었습니다. 그러나 이제 AI 에이전트는 특정 업무나 역할에 특화된 인지 능력을 갖추고, 필요에 따라 학습하고 최적화되며 고도의 전문적인 작업까지 수행하는 수준으로 발전하고 있습니다. 예를 들어, 고객 상담용 AI 에이전트는 자연어 이해, 감정 분석, 의도 파악 등 고객과의 상호작용을 부드럽게 이어가는 데 특화되어 있습니다. 반면, 코딩 어시스턴트 AI는 코드 문맥을 이해하고 버그를 감지하며 최적화된 코드를 추천하는 능력을 보유하고 있어 개발 업무를 크게 지원합니다.

  최근 2~3년 동안은 업무에 도움이 되는 생성형AI를 도입하려는 기업들의 관심은 높았지만, 실제로 이를 활용하는 사례는 초기 단계에 머물렀습니다. 하지만 2025년, AI 에이전트의 부상은 엔터프라이즈 AI로의 전환을 의미하는 중요한 흐름을 보여주고 있습니다. 기업들은 기존의 범용 AI 서비스에서 벗어나 자신들의 비즈니스 목적에 맞게 최적화된 AI 에이전트를 개발하고 적용하는 데 집중하고 있습니다. 특히, 지난 3월 3일 스페인 바르셀로나에서 나흘간 진행되었던 MWC(Mobile World Congress)2025와 26일에 진행되었던 MS AI Tour 2025 in Seoul에서 앞다투어 기업형 AI Agent 브랜드와 생성형AI기반 솔루션을 선보인 것은 이러한 흐름을 잘 보여줍니다.

  이번 글에서는 AI 에이전트의 수요 증가 배경과 함께, 개념 검증(Proof of Concept, PoC) 단계를 넘어 기업형 서비스 및 수익화로 이어지는 AI 에이전트 트렌드를 심층적으로 살펴보고자 합니다. 이를 위해 글로벌 주요 기업들의 도입 사례를 분석하고, 엔터프라이즈 AI로의 전환 과정에서 나타나는 특징과 성공 요소들을 탐구할 것입니다.

 

 

AI 에이전트 도입 배경 및 필요성

  AI 에이전트의 도입은 기업들이 범용 AI 서비스에서 벗어나 특정 목적에 맞게 최적화된 모델을 구축해야 하는 필요성에서 비롯되었습니다. 과거의 AI 모델은 주로 데이터 분석과 패턴 인식에 집중되었지만, 점차 다양한 산업과 업무에 적용되면서 그 한계가 명확해졌습니다. 특히, 기업들이 AI를 활용하여 비즈니스 프로세스를 개선하고 사용자 경험을 혁신하려는 목표를 가지고 있는 경우, 기존의 범용 AI 모델은 더 이상 적합하지 않다는 인식이 확산되고 있습니다.

  이러한 배경에서 AI 에이전트 도입의 필요성이 강조되고 있습니다. 범용 AI 모델로는 특정 업무에 최적화된 성능을 제공하기 어렵기 때문에, 특정 역할에 맞춘 AI 에이전트를 개발하는 것이 중요해졌습니다. 특히, 기업들은 단순히 데이터를 분석하는 것을 넘어 코드 리뷰, 인프라 관리, 마케팅/영업 전략수립 등 더 복잡하고 전문적인 작업을 자동화할 수 있는 능력을 요구하고 있습니다. 또한, 고객과의 상호작용을 보다 자연스럽고 효율적으로 개선하기 위해 AI 에이전트 도입이 필수적이라는 인식도 커지고 있습니다.

  무엇보다 기업들이 AI 에이전트를 도입하려는 중요한 이유 중 하나는 ROI(투자 대비 수익)를 극대화하기 위해서입니다. 모건 스탠리의 조사에 따르면, 생성형 AI 솔루션을 도입한 기업의 약 40%가 기대 이상의 ROI를 달성한 것으로 나타났습니다. 이는 AI 에이전트가 투자 대비 수익성을 높이는 중요한 기술로 자리잡고 있음을 의미합니다.

  결국, AI 에이전트는 단순히 데이터를 처리하는 기술을 넘어, 특정 산업과 업무 목적에 맞게 설계된 전문화된 모델로 발전하고 있습니다. 이를 통해 기업들은 보다 효율적이고 사용자 친화적인 서비스를 제공함으로써 실질적인 성과를 얻고자 하고 있습니다.

 

 

빅테크 및 기업형 AI Agent 도입 사례

  AI 에이전트 도입의 필요성이 증가함에 따라, 글로벌 주요 기업들은 기존의 범용 AI 모델에서 벗어나 자신들의 비즈니스 환경에 맞게 최적화된 AI 에이전트를 구축하고 활용하기 시작했습니다. 특히 고객 경험 개선, 업무 효율성 극대화, 수익화 모델 구축이라는 명확한 목표를 가지고 AI 에이전트 도입을 가속화하고 있습니다.

  대표적인 사례로는 세일즈포스(Salesforce), 마이크로소프트(Microsoft), 도이치 텔레콤(Deutsche Telekom), SK그룹의 ‘에이닷 비즈(A.Biz)’ 플랫폼 등을 들 수 있습니다. 이들 기업은 AI 에이전트를 통해 기존 업무 방식을 혁신하고, 새로운 비즈니스 기회를 창출하는 데 성공을 거두고 있습니다. 또한 정부 및 공공기관에서도 AI Agent 도입을 적극적으로 도입 검토하는 방향입니다.

 

① 세일즈포스 – Agentforce 2DX

*Salesforce, Agentforce 2DX

  세일즈포스는 지난 3월 미국 샌프란시스코에서 열린 연례 개발자 컨퍼런스 ‘TDX 2025’에서 Agentforce의 새로운 버전인 ‘Agentforce 2DX’를 공개했습니다. ‘Agentforce 2DX’는 대화형 인터페이스를 중심으로 한 기존 AI 에이전트 플랫폼을 강화한 버전으로, 기업 내 모든 애플리케이션 및 시스템과 AI 에이전트의 통합을 지원합니다.

  특히 에이전트포스는 출시 초기 200건이었던 기업 채택이 단기간 내에 수천 건으로 급증하며 AI 에이전트 기반 서비스의 실질적인 수익화 가능성을 입증했습니다. 세일즈포스는 이 솔루션을 통해 B2B 시장에서 고객 관리 프로세스를 혁신하고 있으며, 범용 AI 모델이 아닌 특정 목적에 맞춘 AI 에이전트의 강점을 효과적으로 활용하고 있습니다.

  또한, 에이전트포스는 글로벌 학술 출판사 와일리(Wiley)와 같은 다양한 산업 분야에서 활용되고 있습니다. 와일리는 에이전트포스를 이용해 고객에게 대화형 셀프 서비스 기능을 제공하며, 고객 문의를 자동으로 처리하고, 계정 로그인 문제를 신속하게 해결하는 등 사용자 경험을 크게 개선했습니다. 그 결과, 고객 문제 해결률을 40% 이상 증가시키는 성과를 얻었습니다.

  더불어 세일즈포스는 구글 클라우드와의 파트너십을 통해 멀티모달 기능을 갖춘 ‘제미나이(Gemini)’ 모델을 에이전트포스에 도입하였습니다. 이를 통해 에이전트포스는 더욱 향상된 AI 기능을 제공하며, 다양한 비즈니스 요구 사항을 충족할 수 있게 되었습니다.

 

 

② 마이크로소프트 – Copilot Studio & Azure AI Foundry

  마이크로소프트는 AI 에이전트를 활용하여 기업의 복잡한 작업을 자동화하고, 고객 맞춤형 서비스를 제공하는 데 집중하고 있습니다. 특히, ‘코파일럿 스튜디오(Copilot Studio)’와 ‘애저 AI 파운드리(Azure AI Foundry)’라는 두 가지 솔루션을 통해 기업 맞춤형 AI 에이전트 개발 환경을 제공하고 있습니다.

  코파일럿 스튜디오는 누구나 쉽게 AI 에이전트를 개발하고 활용할 수 있도록 지원하며, 애저 AI 파운드리는 고급 AI 에이전트 설계를 돕는 플랫폼으로 기능합니다. 예를 들어, 이 시스템은 재고 부족 문제를 자동으로 감지하고 공급업체를 물색하며 발주까지 진행하는 방식으로 업무 프로세스를 혁신합니다.

  또한, 마이크로소프트는 자사의 다이나믹스 365에 10개의 새로운 자율 에이전트를 추가하여 다양한 산업에서 AI 에이전트의 활용을 확대하고 있습니다. 특히, 재무 부서에서는 AI 에이전트를 이용해 수천 개의 트랜잭션 데이터를 분석하고 이상 거래를 실시간으로 탐지하여 재무 안정성과 데이터 신뢰성을 강화하고 있습니다.

  이 외에도 마이크로소프트는 AI 가속기 프로그램을 운영하여 기업들이 AI 기반 영업 자동화를 보다 효과적으로 도입할 수 있도록 지원하고 있습니다. 이 프로그램을 통해 기업들은 업무 자동화와 데이터 관리의 새로운 지평을 열고, 직원들이 더 전략적인 작업에 집중할 수 있도록 돕고 있습니다.

 

 

③ 도이치 텔레콤 – Magenta AI

*도이치텔레콤, Magenta AI

  도이치 텔레콤은 소비자용 AI 에이전트 ‘마젠타 AI(Magenta AI)’를 통해 B2C와 B2B 시장 모두를 겨냥하고 있습니다. 이 솔루션은 사용자와의 상호작용을 강화하는 기술로, 특히 통신 인프라와 결합하여 서비스의 질을 크게 향상시키고 있습니다.

  사용자가 스마트폰 카메라로 상품을 비추면 판매 장소와 가격을 실시간으로 안내하는 기능을 제공하며, AI 음성을 이용한 팟캐스트 생성, AI 아바타 제작 등 다양한 서비스를 선보이고 있습니다. 특히 통신 인프라와의 결합을 통해 사용자 경험을 혁신적으로 개선하고 있습니다.

  또한, 도이치 텔레콤은 산업용 AI 솔루션도 소개했습니다. 중환자실(ICU)에 적용된 AI는 환자의 호흡, 심박 등을 분석하여 상태를 탐지하고, 교통 분야에 적용된 AI는 여행객에게 최적의 여행 정보를 제공하는 등 다양한 분야에서 활용되고 있습니다.

  도이치 텔레콤 관계자는 “기업 솔루션은 라마(LLaMA)를 기반으로 필요에 따라 자체 LLM, 오픈소스 등 다양한 생성형 AI를 활용한다”며, “적재적소에 글로벌 AI 모델을 활용하는 것이 강점”이라고 설명했습니다. 이처럼 도이치 텔레콤의 AI 에이전트 기술은 소비자용 서비스뿐 아니라 의료, 교통 등 산업 전반에 걸쳐 폭넓게 적용되고 있음을 보여줍니다.

 

 

④ SK㈜ C&C & SKT – 에이닷 비즈

  SK㈜ C&C와 SK텔레콤은 양사가 협력하여 개발한 인공지능 에이전트 기반 서비스 ‘에이닷 비즈(A. Biz)’를 선보였습니다. 이 서비스는 B2B 시장을 겨냥하여 기업의 다양한 업무를 자동화하고 효율성을 극대화하는 것을 목표로 하고 있습니다.

  특히 에이닷 비즈 HR은 생성형 인공지능(AI)을 활용하여 HR(인사관리) 분야에서의 혁신을 가속화하고 있습니다. AI 에이전트는 HR 채용 담당자의 업무 부담을 줄이고, 지원자의 역량을 보다 정밀하게 분석하여 채용 프로세스를 효율적으로 개선합니다. SK㈜ C&C는 에이닷 비즈 HR을 실제 채용과정에 적용하여 기존 채용 프로세스 대비 평가 효율성과 평가 정확도가 크게 향상되었음을 확인하였습니다.

  또한, SK㈜ C&C는 B2B 서비스에서 수익화 모델을 구축하기 위해 에이닷 비즈를 다양한 업무 환경에 적용할 수 있도록 설계하고 있습니다. 예를 들어, AI 통화 요약, 문서 관리 기능을 포함하여 B2C 시장으로의 확대도 계획하고 있습니다.

  이처럼 SK㈜ C&C와 SK텔레콤의 협력은 기업형 AI 에이전트 도입을 가속화하는 역할을 할 것으로 기대됩니다.

 

 

⑤ 정부 및 공공기관에서 추진중인 공무원 AI

  AI 에이전트의 도입은 민간 기업뿐 아니라 공공 부문에서도 활발히 이루어지고 있습니다. 최근 3월 기사에서 공개된 내용에 따르면 정부 및 공공기관에서도 AI 활용을 위해 다양한 노력을 기울이고 있는 것으로 나타났습니다. 실제로 최근에는 AI를 통해 표준하도급계약서 사용 현황을 분석하는 프로젝트를 추진 중이라고 합니다.

  이처럼 공공 부문에서도 AI 에이전트는 데이터 분석의 정확도와 업무의 효율성을 극대화하는 데 중요한 역할을 하고 있습니다.

 

 

AI 에이전트의 수익화 시대, 준비된 자만이 성공한다

  AI 에이전트 기술은 이제 PoC를 넘어 실질적인 수익화 모델과 현장 적용의 단계로 나아가고 있습니다. 엔터프라이즈 AI는 기업의 핵심 업무와 가장 영향력 있는 프로세스에 AI 기술을 적용하여 실질적인 생산성 향상을 도모하는 것을 의미합니다.

  최근 모건 스탠리의 조사 결과에 따르면, 생성형 AI 솔루션을 도입하여 기대 이상의 ROI(투자 대비 수익)를 달성한 기업의 비율이 상당히 높은 것으로 나타났습니다. 특히, 이러한 기업 중 약 40%는 예상치를 초과하는 성과를 달성하며 AI 에이전트 기술의 높은 수익성을 증명했습니다.

  아직 테스트 단계나 학습 단계에 머물러 있는 기업도 많지만, 이들 역시 궁극적인 목표는 맞춤형 생성형 AI 솔루션의 전사적 통합 배포에 있습니다. AI 플랫폼과 도구를 본격적으로 도입하고, 실제 수익이라는 과실을 수확하는 해가 될 것으로 예상되는 2025년이 다가오고 있습니다. 올바른 AI 전략과 아키텍처를 구축하지 못한 기업은 경쟁에서 뒤처질 수밖에 없습니다. 반면, 꾸준히 AI에 투자하며 나아갈 방향을 모색해온 기업들은 AI 배포 규모를 확대하며 실질적인 ROI를 확인할 수 있는 기회를 맞이할 것입니다.

  이와 같은 흐름 속에서, SK㈜ C&C는 지난 2월 AIX Insight Forum을 통해 AI 에이전트 기술의 활용 방안과 성공적인 도입 사례들을 공유하며 기업들이 AI 전략을 수립하는 데 도움을 주었습니다. AI 에이전트의 적용 방안을 보다 깊이 있게 살펴보고자 한다면, 아래 썸네일을 통해 더 자세한 내용을 확인해 보세요.

 

 


 

컨설팅부터 비즈니스 모델 발굴까지

Digital One, For The Next | SK㈜ C&C

 

#AI에이전트 #엔터프라이즈AI #AI전략 #기업형AI #수익화 #AI비즈니스 #생성형AI