한눈에 보는 핵심 인사이트 AI 에이전트가 기업 현장에 빠르게 자리잡으면서 MCP, A2A, 오케스트레이션, RAG, 가드레일 같은 용어가 하루가 멀다 하고 기사에 등장하고 있습니다. MCP(Model Context Protocol)는 AI가 외부 도구와 데이터에 연결되는 표준 규격이며, A2A(Agent2Agent Protocol)는 서로 다른 에이전트가 협업할 수 있게 하는 통신 규격입니다. 오케스트레이션은 여러 에이전트의 역할과 순서를 조율하는 기능이고, RAG(Retrieval-Augmented Generation)는 AI가 최신 정보를 검색해 답변에 반영하는 방식입니다. 가드레일은 에이전트가 정해진 권한과 규칙 안에서만 행동하도록 만드는 안전장치이며, 휴먼인더루프(Human-in-the-Loop)는 이 가드레일 안에서 특정 지점에 사람의 승인과 판단을 개입시키는 장치입니다. 여섯 가지 용어는 각각 다른 기능을 담당하지만, 결국 ‘AI 에이전트가 안전하게 일할 수 있는 구조’라는 하나의 목적으로 연결됩니다.

 

AI 에이전트 시대, 새로운 용어가 쏟아지는 이유

 

최근 몇 달 사이 IT 기사에서 부쩍 자주 보이는 단어들이 있습니다. ‘MCP, A2A, 오케스트레이션, RAG, 가드레일, 휴먼인더루프···’ 하나같이 낯설고 발음도 쉽지 않지만, AI 에이전트를 이야기할 때 빠지지 않고 등장합니다.

AI 에이전트는 시키는 대로 대답만 하는 챗봇과 다릅니다. 스스로 필요한 도구를 찾아 쓰고, 다른 에이전트와 협업하고, 실제 업무를 끝까지 처리합니다. 할 수 있는 일이 많아진 만큼, 그 과정을 설명하는 단어도 함께 늘어난 것입니다.

 

MCP: AI와 외부 도구를 잇는 표준 규격

 

 

해외여행을 가면 나라마다 콘센트 모양이 달라 어댑터를 따로 챙겨야 합니다. AI 세계에도 비슷한 문제가 있었습니다. AI가 구글 드라이브, 슬랙, 사내 데이터베이스, 깃허브 같은 도구를 쓰려면 도구마다 방식이 달라서 그때그때 연결 코드를 새로 만들어야 했습니다. AI 모델이 여러 개, 연결할 도구도 여러 개라면 필요한 연결 방식도 늘어나는 것입니다.

MCP(Model Context Protocol)는 이러한 번거로움을 없애기 위해 Anthropic이 2024년 11월 공개한 개방형 표준입니다. AI가 외부 도구나 데이터에 접속하는 방식을 하나로 통일한 것입니다. 하나의 연결 방식을 만들어두면 여러 AI 모델과 도구가 같은 방식으로 소통할 수 있습니다. 흔히 ‘AI를 위한 USB-C’라고 부르는 이유도 여기 있습니다. 규격 하나로 어떤 기기든 연결할 수 있는 USB-C처럼, MCP도 하나의 규격으로 AI와 도구 사이를 이어줍니다.

2025년 3월 OpenAI가 MCP 지원을 발표했고, 같은 해 4월 Google DeepMind도 Gemini에 MCP를 지원하겠다고 밝히면서 업계 표준으로 자리잡았습니다. 2025년 12월에는 Anthropic이 MCP를 리눅스 재단 산하 Agentic AI Foundation에 넘기면서, 한 회사의 기술이 아닌 업계 전체가 함께 쓰는 공용 인프라가 됐습니다.

 

A2A: 에이전트 간 협업을 위한 통신 규격

 

 

MCP가 ‘AI와 도구’를 잇는 규격이라면, A2A는 ‘AI 에이전트와 에이전트’를 잇는 규격입니다.

기업 안에는 이미 여러 에이전트가 함께 일하고 있습니다. 주문을 처리하는 에이전트, 재고를 확인하는 에이전트, 배송을 조율하는 에이전트가 있다고 가정해 보겠습니다. 이들이 각자 따로 움직이면 협업이 되지 않습니다. 게다가 서로 다른 회사의 제품으로 만들어졌다면 문제는 더 커집니다. 마치 언어가 다른 직원들이 통역 없이 한 프로젝트를 진행하는 것과 비슷합니다.

A2A(Agent2Agent Protocol)는 Google이 2025년 4월 공개한 개방형 프로토콜로, 이 문제를 해결합니다. 서로 다른 방식으로 만들어진 에이전트라도, 상대 에이전트의 내부 구조를 몰라도 필요한 작업을 요청하고, 맡기고, 결과를 돌려받을 수 있습니다. 각 에이전트는 ‘Agent Card’라는 일종의 명함을 갖고서, 자신이 어떤 일을 할 수 있는지 미리 알립니다. 다른 에이전트는 이 명함을 보고 적절한 상대를 찾아 협업을 요청합니다. 지금은 리눅스 재단이 오픈소스로 관리하고 있으며, MCP와는 역할을 나눠 서로를 보완하는 관계입니다.

 

오케스트레이션: 여러 에이전트를 조율하는 기능

 

 

에이전트가 하나둘 늘어나면 반드시 필요해지는 것이 오케스트레이션입니다. 용어 그대로 지휘라는 뜻입니다. 오케스트라에서 지휘자가 바이올린, 첼로, 트럼펫이 언제 소리를 내야 하는지 조율하듯, 오케스트레이션은 여러 AI 에이전트가 언제, 어떤 순서로, 어떤 조건에서 움직일지를 정해주는 기능입니다.

예를 들자면, 고객 문의가 들어오면 먼저 문의 내용을 분류하는 에이전트가 작동합니다. 그 결과에 따라 답변을 작성하는 에이전트와 데이터베이스를 조회하는 에이전트가 순서대로 이어받습니다. 만약 두 에이전트의 판단이 서로 다르다면, 어느 쪽 결과를 따를지 정하는 것도 오케스트레이션의 몫입니다.

각각의 에이전트가 아무리 뛰어나도, 이를 조율하는 지휘자가 없다면 오케스트라가 아닌 각자 다른 곡을 연주하는 악기들의 소음이 될 수 있습니다. 에이전트 수가 늘어날수록 오케스트레이션의 역할이 점차 중요해지는 이유입니다.

 

RAG: 검색한 정보를 기반으로 답변하는 방식

 

 

AI 모델은 학습을 마친 시점까지의 지식만 가지고 있습니다. 그래서 어제 올라온 사내 공지나 오늘 바뀐 재고 현황처럼 최신 정보를 물어보면, 정확히 답하지 못하거나 그럴듯하지만 틀린 답을 내놓기도 합니다.

RAG(Retrieval-Augmented Generation)는 이 한계를 보완하는 방식으로, 흔히 ‘오픈북 시험’에 비유됩니다. 모든 것을 외워서 답하는 대신, 필요한 자료를 먼저 찾아본 뒤 그 내용을 바탕으로 답을 주는 것입니다. 질문을 받으면 바로 답을 만들지 않고, 사내 문서나 데이터베이스, 최신 자료를 먼저 검색(Retrieval)해 관련 정보를 찾아온 다음, 그 정보를 근거로 답변을 생성(Generation)합니다. 그래서 AI 에이전트가 기업 내부 데이터나 실시간 정보를 다뤄야 할 때 특히 중요하게 쓰입니다.

 

가드레일: AI가 정해진 범위 안에서 움직이게 하는 장치

 

 

AI 에이전트가 이메일을 보내고, 결제를 진행하고, 시스템 설정까지 바꿀 수 있게 되면서 반드시 필요해진 것이 가드레일입니다. 도로 위 가드레일이 차량이 차선을 벗어나지 않도록 막아주듯, AI 에이전트의 가드레일도 에이전트가 정해진 권한과 규칙을 벗어나지 않도록 잡아주는 안전장치입니다.

가드레일은 몇 가지 장치로 이루어집니다. 에이전트별로 접근 권한을 세밀하게 나누는 ‘권한 통제’, 사람의 승인을 거치도록 하는 ‘휴먼인더루프’, 에이전트가 한 모든 행동을 기록해 나중에 확인할 수 있게 하는 ‘감사 로그’, 문제가 생겼을 때 이전 상태로 되돌리는 ‘롤백’ 기능입니다. 이 중 휴먼인더루프는 별도로 조금 더 자세히 살펴보겠습니다. 에이전트가 혼자 처리할 수 있는 일이 많아질수록, 가드레일은 반드시 갖춰야 할 기본 요건이 되고 있습니다.

 

휴먼인더루프: AI 시스템에 인간이 직접 개입

 

 

에이전트가 스스로 결정하고 실행하는 범위가 넓어질수록, 어느 지점에서는 사람이 최종 확인을 해야 한다는 필요성도 함께 커집니다. 휴먼인더루프(Human-in-the-Loop)는 AI가 특정 작업을 자동으로 끝내지 않고, 정해진 지점에서 사람의 승인이나 판단을 거치도록 설계하는 운영 방식입니다. 신입사원이 작성한 문서를 상사가 검토한 뒤 결재하는 것과 비슷한 구조입니다. 에이전트가 일을 대부분 처리하지만, 중요한 작업은 사람이 한 번 더 확인하는 것입니다.

사람이 AI의 모든 작업에 개입해야 하는 것은 아닙니다. 결제나 계약, 고객 데이터 삭제처럼 되돌리기 어렵거나 리스크가 큰 작업에는 실행 전 승인을 받도록 하고, 상대적으로 위험이 낮은 반복 업무는 에이전트가 자율적으로 처리한 뒤 결과만 사후에 검토하는 방식도 있습니다. 어디에 사람을 개입시킬지 설계하는 것 자체가 에이전트 운영의 핵심 과제 중 하나입니다.

 

용어를 알았다면 운영 구조를 고민할 때

 

MCP, A2A, 오케스트레이션, RAG, 가드레일, 휴먼인더루프를 각각 이해하는 것과, 이 여섯 가지가 실제 기업 시스템 안에서 안전하게 맞물려 작동하도록 만드는 것은 다른 차원의 문제입니다. 도구를 연결하고 에이전트끼리 협업하게 만드는 일도 쉽지 않지만, 여기에 데이터 정합성과 권한 통제까지 함께 갖추는 일은 한 번의 구축으로 끝나지 않는 지속적인 과제에 가깝습니다.

SK AX는 AXgenticWire를 통해 기업이 이러한 에이전트 운영 환경을 설계하고 안정적으로 운영할 수 있도록 지원합니다. 용어를 아는 것에서 한 걸음 더 나아가, 우리 조직에 맞는 에이전트 구조를 설계하는 것이 다음 단계의 과제입니다.

 

[FAQ]

 

Q1. MCP와 A2A는 어떻게 다른가요?

MCP(Model Context Protocol)는 AI가 외부 도구나 데이터에 연결되는 방식을 표준화한 규격이고, A2A(Agent2Agent Protocol)는 서로 다른 AI 에이전트끼리 통신하고 협업하는 방식을 표준화한 규격입니다. MCP가 ‘에이전트와 도구’를 잇는다면, A2A는 ‘에이전트와 에이전트’를 잇는다는 점에서 역할이 다르며, 실제로는 두 프로토콜이 함께 쓰이는 경우가 많습니다.

 

Q2. AI 에이전트에 오케스트레이션이 필요한 까닭은 무엇인가요?

에이전트가 한 개일 때는 크게 문제되지 않지만, 여러 에이전트가 동시에 작업을 처리하면 어떤 에이전트가 먼저 움직일지, 결과가 충돌할 때 무엇을 우선할지를 정해야 합니다. 오케스트레이션이 없으면 에이전트마다 개별적으로는 뛰어나더라도 전체 업무 흐름은 오히려 비효율적이거나 예측 불가능해질 수 있습니다.

 

Q3. RAG를 쓰면 AI의 환각(할루시네이션) 문제가 완전히 사라지나요?

완전히 없어지지는 않지만 크게 줄어듭니다. RAG는 AI가 답변을 만들기 전에 실제 문서나 데이터를 검색해 근거로 삼기 때문에, 학습 데이터에 없는 최신 정보나 사내 데이터에 대해서도 훨씬 정확한 답변을 만들 수 있습니다. 다만 검색된 정보의 품질과 최신성에 따라 결과가 달라지므로, 데이터 관리 체계를 함께 갖추는 것이 중요합니다.

 

Q4. 기업이 AI 에이전트의 가드레일을 준비할 때 무엇부터 시작해야 하나요?

에이전트별로 접근 가능한 시스템과 권한 범위를 먼저 명확히 정의하고, 결제나 발송처럼 되돌리기 어려운 작업에는 사람의 승인을 거치는 휴먼인더루프 단계를 넣는 것이 기본입니다. 여기에 에이전트의 모든 행동을 기록하는 감사 로그와 문제 발생 시 되돌릴 수 있는 롤백 체계를 갖추면, 에이전트의 자율성을 넓히면서도 통제력을 잃지 않을 수 있습니다.

 

Q5. 휴먼인더루프는 모든 AI 에이전트 작업에 다 적용해야 하나요?

그렇지 않습니다. 결제, 계약, 고객 데이터 삭제처럼 되돌리기 어렵거나 리스크가 큰 작업에는 실행 전 사람의 승인을 받도록 하는 것이 안전하지만, 위험도가 낮은 반복 업무까지 매번 사람이 확인하면 에이전트를 도입한 효율성 자체가 떨어집니다. 작업의 위험도에 따라 사전 승인, 사후 검토, 예외 상황에서만 개입하는 방식 등을 구분해서 설계하는 것이 일반적입니다.

 

---

 

AX 컨설팅부터 비즈니스 모델 발굴까지
Global Top 10 AX Service Company｜SK AX

#AI에이전트 #MCP #RAG #A2A #오케스트레이션 #가드레일 #휴먼인더루프 #Ag enticAI #AXgenticWire #AI용어