AI 기본법 톺아보기: AI 기본법 시행, 기업이 알아야 할 핵심 내용과 대응 전략

2026.03.06

한눈에 보는 핵심 인사이트

R&D AI는 범용 솔루션을 그대로 적용하는 것이 아니라, 반도체·자동차·조선·제약·항공우주 등 각 산업의 데이터 특성, 규제 환경, 연구 프로세스에 맞게 차별화된 전략으로 설계되어야 합니다. 성공적인 R&D AI 도입은 진단·전략 수립과 PoC 실행·Quick Win 확보 후 데이터 자산화·플랫폼 구축, 전사 확산·역량 내재화의 4단계 로드맵을 따르며, SK AX는 이 전 과정을 End-to-End로 지원합니다.

AI 기본법, 왜 지금 시행되었나

2026년 1월 22일, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 AI 기본법)이 전면 시행되었습니다. AI 기본법의 탄생 배경에는 생성형 AI의 급속한 확산이 있습니다. ChatGPT를 필두로 한 생성형 AI 기술은 산업 전반에 혁신적인 변화를 가져왔지만, 딥페이크, 개인정보 침해, 알고리즘 편향성 등 새로운 위험도 함께 드러냈습니다. AI 기본법은 이러한 기술 발전의 양면성 속에서 ‘혁신’과 ‘신뢰’를 동시에 추구하기 위해 설계되었으며, 단순한 규제가 아닌 ‘진흥 중심’ 접근을 택했다는 것이 핵심적인 특징입니다.

이 법은 AI 산업 육성을 위한 R&D 지원, 표준화, 학습용 데이터 시책 수립 등 정부 지원의 근거를 마련합니다. 기업이 가장 주목해야 할 것은 제4장으로, 고영향 AI·생성형 AI 사업자의 투명성·안전성 의무와 책무를 규정하고 있습니다. 이 법은 모든 AI를 일괄적으로 규제하는 것이 아니라, 영향력이 큰 영역을 선별적으로 관리하겠다는 ‘위험 기반 접근(Risk-based Approach)’을 채택하고 있습니다.

기업이 알아야 할 3대 규제 체계

AI 기본법이 기업에게 부과하는 의무는 크게 세 가지 축으로 구성됩니다. 투명성 확보 의무(제31조), 안전성 확보 의무(제32조), 그리고 고영향 AI 사업자의 특별 책무(제34조)입니다. 이 세 가지는 적용 대상과 시행 시기가 다르기 때문에, 기업은 자사의 AI 활용 현황을 점검하여 어떤 의무가 해당되는지를 먼저 파악해야 합니다.

첫째, 투명성 확보 의무 – 당장 적용되는 핵심 규제

투명성 확보 의무는 AI 기본법 시행과 동시에 적용되는 가장 즉각적인 규제입니다. 이 의무는 다시 세 가지 층위로 나뉩니다.
먼저 사전 고지 의무입니다. 고영향 AI 또는 생성형 AI를 이용한 제품·서비스를 제공하는 AI사업자는, 해당 제품·서비스가 AI에 기반하여 운용된다는 사실을 이용자에게 사전에 고지해야 합니다. 고지 방법은 시행령을 통해 이용약관 명시, 서비스 화면 표시, 팝업·알림 등 다양한 방식이 허용되어 기업이 이행하기 쉽도록 설계되었습니다. 다만 제품·서비스명이나 이용자 화면에 AI 기반 운용 사실이 이미 명백한 경우, 또는 내부 업무 용도로만 사용되는 경우에는 면제됩니다.

다음은 생성형 AI 결과물 표시 의무입니다. 생성형 AI가 만든 텍스트·이미지·영상 등의 결과물에는 AI에 의해 생성되었다는 사실을 표시해야 합니다. 표시 방법은 사람이 인식할 수 있는 가시적 방법(워터마크 등)과 기계가 판독할 수 있는 비가시적 방법(메타데이터 등)이 모두 인정됩니다. 다만 비가시적 방법으로 표시할 경우에는 ‘생성형 AI에 의하여 생성되었다’는 사실을 1회 이상 안내 문구·음성 등으로 제공해야 합니다. 특히 AI 생성 결과물을 외부로 다운로드·공유하는 경우에는 보다 확실한 표시 적용이 요구됩니다.

가장 엄격한 것은 딥페이크 결과물 표시 의무입니다. 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상(딥페이크 결과물)을 제공하는 경우, 이용자가 명확하게 인식할 수 있는 방식으로 표시해야 합니다. 딥페이크 결과물에는 비가시적 워터마크만으로는 충분하지 않으며, 이용자의 연령과 신체적·사회적 조건 등을 고려하여 시각·청각 등을 통해 쉽게 확인할 수 있는 방법으로 고지 또는 표시해야 합니다. 다만 해당 결과물이 예술적·창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유를 저해하지 않는 방식으로 표시할 수 있는 예외가 인정됩니다.

둘째, 안전성 확보 의무 – 초거대 AI 모델 대상

안전성 확보 의무는 학습에 사용된 누적 연산량이 10의 26승 부동소수점 연산(FLOPs) 이상인 대규모 AI 시스템에 적용됩니다. 해당되는 경우 AI 수명주기 전반에 걸친 위험의 식별·평가 및 완화, 안전사고를 모니터링하고 대응하는 위험관리체계 구축이 의무화됩니다. 현재 이 기준에 해당하는 것은 글로벌 빅테크 기업들의 초거대 모델이 대부분이지만, AI 기술의 발전 속도를 고려하면 향후 적용 대상이 확대될 가능성에 대비할 필요가 있습니다.

셋째, 고영향 AI 사업자의 특별 책무 – 기본권에 중대한 영향을 미치는 AI

고영향 AI란 사람의 생명·신체의 안전, 기본권 보호에 중대한 영향을 미칠 수 있는 AI를 말합니다. 의료 진단, 신용평가, 채용·인사, 자율주행 등의 분야가 대표적입니다. 고영향 AI 사업자에게는 이용자에 대한 설명 의무, AI 영향평가 수행, 인력 배치 및 관리체계 구축 등 강화된 책무가 부과됩니다. 고영향 AI 해당 여부는 법과 시행령 기준을 토대로 사업자가 1차적으로 판단하되, 불확실한 경우 정부가 운영하는 컨설팅을 활용할 수 있습니다. 최종 의사결정에 사람이 개입하는 경우에는 고영향 AI 대상에서 제외될 수 있다는 점도 중요한 판단 기준입니다.

계도기간의 의미와 기업의 실무 대응 전략

정부는 법 시행 초기 기업들의 혼란을 최소화하기 위해 과태료 계도기간을 최소 1년 이상 운영할 방침입니다. 계도기간 동안에는 사실조사와 과태료 부과가 유예되며, 실질적인 과태료 부과 시점은 빨라도 2027년 이후가 될 것으로 예상됩니다. 위반 시에는 사전 고지 미이행, 생성물 표시 미이행 등에 대해 1회 500만 원, 2회 1,000만 원, 3회 이상 1,500만 원의 과태료가 부과될 수 있으며, 시정명령을 이행하지 않을 경우 영업 정지 등의 행정 처분으로 이어질 수 있습니다.

그러나 계도기간은 ‘준비의 유예’이지 ‘의무의 유예’가 아닙니다. 법적으로는 2026년 1월 22일부터 의무가 발생하며, 기업은 이 기간을 활용하여 체계적인 대응을 준비해야 합니다. 과기정통부는 이 기간 동안 AI 기본법 통합안내지원센터를 운영하여 기업의 문의 사항을 안내하고, AI 검·인증 및 영향평가 수행 비용을 지원하며, 투명성 확보 의무와 고영향 AI 사업자 책무에 대한 전문가 컨설팅을 병행할 계획입니다.

기업이 당장 시작해야 할 실무 대응은 다음과 같이 정리할 수 있습니다. 첫째, 자사의 AI 활용 현황을 점검하여 어떤 서비스가 고영향 AI 또는 생성형 AI에 해당하는지를 확인해야 합니다. 둘째, 해당 서비스의 UI·UX에 AI 기반 운용 사실 고지와 생성물 표시 기능을 구현해야 합니다. 셋째, 딥페이크 결과물을 생성하는 서비스가 있다면 이용자가 명확하게 인식할 수 있는 표시 체계를 설계해야 합니다. 넷째, 내부 AI 거버넌스 체계를 수립하여 기술 개발, 데이터 관리, 법무·준법, 보안 부서 간 협업 구조를 마련하고 문서화된 내부 규정을 운영해야 합니다.

EU AI Act와의 비교 – 한국형 AI 규제의 특징

글로벌 비즈니스를 수행하는 기업이라면 EU AI Act와의 차이를 이해하는 것이 중요합니다. 한국의 AI 기본법은 EU AI Act의 위험 기반 접근을 참고하되, 산업 진흥에 상대적으로 더 큰 비중을 두고 설계되었습니다. EU AI Act가 고위험 AI에 대한 사전 적합성 평가(Conformity Assessment)를 중심으로 엄격한 사전 규제를 적용하는 반면, 한국 AI 기본법은 투명성 확보와 자율적 안전 관리를 중심으로 기업의 이행 부담을 완화하면서도 신뢰 기반을 조성하는 접근을 취하고 있습니다.

향후 규제 방향성 – 지금 준비해야 할 것들

AI 기본법은 단기간에 끝나는 일회성 규제가 아니라, 기술 발전과 함께 점진적으로 다듬어질 제도적 프레임워크입니다. 이는 ‘AI를 안전하고 책임 있게 활용하는 기업이 시장을 선도하는 구조’로의 전환을 의미합니다. AI를 이해하고, 법적 요구사항을 충족하며, 신뢰할 수 있는 AI 시스템을 구축하는 역량이 곧 기업의 경쟁력이 되는 시대가 열린 것입니다.

SK AX는 기업의 AI 도입과 구축 전 과정에서 이러한 법적·제도적 요구사항의 충족을 지원합니다. AI 시스템 설계 단계에서부터 투명성 확보를 위한 아키텍처를 반영하고, 고영향 AI 해당 여부를 사전 진단하며, AI 생성물 표시 체계와 딥페이크 대응 방안을 기술적으로 구현하는 것은 단순한 법률 준수를 넘어 기업의 AI 서비스 신뢰도를 근본적으로 높이는 작업입니다. AI 거버넌스 체계 수립, 데이터 관리 프레임워크 설계, 위험관리체계 구축까지, SK AX는 기업이 AI 기본법이 지향하는 ‘신뢰할 수 있는 AI’를 실현할 수 있도록 End-to-End로 지원합니다.

[FAQ]

Q1. AI 기본법은 모든 AI 서비스에 적용되나요?

모든 AI에 일괄 적용되는 것은 아닙니다. AI 기본법은 위험 기반 접근을 채택하여, 영향력이 큰 고영향 AI와 생성형 AI를 중심으로 규제를 적용합니다. 일반적인 자동화 시스템이나 단순 추천 알고리즘은 해당되지 않는 경우가 많습니다. 다만 투명성 확보 의무는 고영향 AI 또는 생성형 AI를 활용한 제품·서비스를 이용자에게 직접 제공하는 모든 AI사업자에게 적용되므로, 자사 서비스의 해당 여부를 정확히 점검해야 합니다.

Q2. 생성형 AI 결과물에는 반드시 눈에 보이는 워터마크를 넣어야 하나요?

일반 생성형 AI 결과물(텍스트, 이미지 등)에는 가시적 워터마크와 비가시적 워터마크(메타데이터 등)가 모두 인정됩니다. 다만 비가시적 방법을 사용할 경우 AI 생성 사실을 1회 이상 안내 문구·음성 등으로 제공해야 합니다. 그러나 실제와 구분하기 어려운 딥페이크 결과물의 경우에는 반드시 이용자가 시각·청각 등을 통해 명확하게 인식할 수 있는 방법으로 표시해야 하므로, 비가시적 워터마크만으로는 충분하지 않습니다.

Q3. 계도기간 동안에는 아무런 조치를 하지 않아도 되나요?

계도기간(최소 1년 이상)은 과태료 부과가 유예되는 기간이지, 법적 의무 자체가 유예되는 것이 아닙니다. 법적으로는 2026년 1월 22일부터 의무가 발생합니다. 정부는 이 기간 동안 통합안내지원센터를 운영하고 전문가 컨설팅을 제공하므로, 기업은 이 기간을 적극 활용하여 내부 AI 시스템 점검, 투명성 표시 체계 구축, AI 거버넌스 체계 수립 등을 완료해야 합니다.

Q4. 우리 회사의 AI 서비스가 ‘고영향 AI’에 해당하는지 어떻게 판단하나요?

고영향 AI는 사람의 생명·신체 안전 및 기본권에 중대한 영향을 미칠 수 있는 AI로, 의료 진단, 신용평가, 채용·인사, 자율주행 등의 분야가 대표적입니다. 법과 시행령 기준을 토대로 사업자가 1차적으로 판단하며, 향후 가이드라인이 추가로 제공될 예정입니다. 최종 의사결정에 사람이 개입하여 통제 가능한 경우에는 고영향 AI 대상에서 제외될 수 있습니다. 판단이 불확실한 경우 과기정통부가 운영하는 AI 기본법 지원데스크의 전문가 컨설팅을 활용할 수 있으며, 상담 내용은 비밀로 관리됩니다.

Q5. AI 기본법과 관련하여 기업이 가장 먼저 해야 할 일은 무엇인가요?

가장 먼저 해야 할 일은 자사의 AI 활용 현황을 전수 점검하는 것입니다. 어떤 서비스가 생성형 AI 또는 고영향 AI에 해당하는지 파악하고, 해당 서비스의 이용자 고지 방식이 법적 요구사항을 충족하는지 확인해야 합니다. 이어서 AI 생성물 표시 체계를 기술적으로 구현하고, 딥페이크 결과물이 있다면 명확한 인식 표시 방안을 마련해야 합니다. 중장기적으로는 기술 개발·데이터 관리·법무·보안 부서 간 협업 구조를 갖춘 내부 AI 거버넌스 체계를 수립하여, 향후 규제 확대에도 유연하게 대응할 수 있는 기반을 만들어야 합니다.

AX 컨설팅부터 비즈니스 모델 발굴까지

Global Top 10 AX Service Company｜SK AX