2026년 1월 22일부터 시행된 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 인공지능기본법)은 AI 기술의 신뢰성을 제도적으로 뒷받침하기 위해 마련되었습니다. 특히 법 제33조에 따라 분류되는 '고영향 인공지능(High-Impact AI)'을 운영하는 사업자는 일반 AI 사업자보다 강화된 수준의 관리 책무와 투명성 확보 의무를 지게 됩니다. 고영향 AI는 채용, 금융, 의료 등 국민의 기본권과 안전에 직결된 영역에서 활용되므로, 법 제31조의 '투명성 확보 의무' 준수는 법적 리스크 관리의 핵심입니다. 본 가이드는 고영향 AI 사업자가 직면할 실무 쟁점을 Q&A 형식을 통해 알기 쉽게 정리해드립니다!
Q1. 고영향 인공지능 사업자로서 '투명성 확보 의무'의 핵심 법리는 무엇인가요?
A1. 핵심은 '이용자의 자기결정권 및 알 권리 보장'입니다. 법 제31조 제1항에 따라 고영향 인공지능을 활용하여 서비스를 제공하는 사업자는 해당 서비스가 인공지능에 의해 운용된다는 사실을 이용자가 명확히 인지할 수 있도록 사전 고지해야 합니다. 이는 이용자가 인공지능과의 상호작용 여부를 사전에 선택할 수 있도록 함으로써, 자동화된 시스템에 의한 잠재적 편향성이나 오류로부터 발생할 수 있는 피해를 예방하는 법적 장치로 기능합니다.
ㅇ 인공지능기본법 제31조 투명성 확보
ㅇ 주요 내용
인공지능 기반 서비스와 인공지능이 생성한 결과물을 제공하는 경우 등 이용자에게 고지하거나 표시해야하는 사항과 방법에 대해 안내합니다.
ㅇ 관련 법령 (원문)
제31조(인공지능 투명성 확보 의무) ① 인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 한다.
② 인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 한다.
③ 인공지능사업자는 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우 해당 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 한다. 이 경우 해당 결과물이 예술적ㆍ창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 고지 또는 표시할 수 있다.
④ 그 밖에 제1항에 따른 사전고지, 제2항에 따른 표시, 제3항에 따른 고지 또는 표시의 방법 및 그 예외 등에 관하여 필요한 사항은 대통령령으로 정한다. |
Q2. B2B 공급망 내에서 '개발사업자'와 '이용사업자' 간 의무 배분은 어떻게 이루어지나요?
A2. 인공지능기본법은 개발자와 이용자(서비스 제공자) 모두를 '인공지능사업자'로 정의하며 각각에 책임을 부과합니다.
- 개발사업자: 생성형 AI 기능을 포함한 고영향 AI 모델을 공급할 때, 기술적으로 워터마크 등의 생성물 표시가 가능하도록 시스템적 기반을 마련하여 공급해야 합니다.
- 이용사업자: 해당 모델을 사용하여 최종 사용자(End-user)에게 서비스를 제공할 때, 법정 고지 사항을 준수하고 결과물에 적절한 표식이 나타나도록 운영할 의무가 있습니다. B2B 계약 시 이 의무 이행에 관한 책임 소재를 명확히 하는 계약상 조항(Indemnification 등) 검토가 수반되어야 합니다.
Q3. 고영향 인공지능 서비스 제공 시 '사전 고지'는 어느 정도 수준으로 해야 하나요?
A3. 법령은 이용자가 '쉽게 알 수 있도록' 고지할 것을 요구합니다. 실무적으로는 서비스 진입 단계(Landing Page), 회원가입 시 이용약관, 또는 AI 기능 활성화 직전의 팝업 등을 통해 명시해야 합니다. 특히 고영향 인공지능의 경우, 단순히 "AI를 사용한다"는 사실을 넘어 해당 AI가 결정에 참여하는 범위나 영향력에 대해 투명하게 공개하는 것이 향후 발생할 수 있는 설명책임(Accountability) 이슈 대응에 유리합니다.
Q4. 생성형 기능을 탑재한 고영향 AI의 경우, 결과물 표시 의무의 예외 사유가 있나요?
A4. 법 제31조 제3항은 기술적 한계나 서비스의 특성을 고려하여 예외를 인정합니다.
- 기술적 불가성: 현재 기술 수준으로 표시가 현저히 곤란한 경우.
- 서비스 목적 달성 저해: 예술적·창의적 목적의 서비스에서 가시적 표시가 본질적 가치를 훼손하는 경우. 단, 이러한 예외 사유에 해당하더라도 비가시적 워터마크(Metadata)를 삽입하거나, 이용자에게 별도의 안내를 제공하는 등 대체적인 투명성 확보 조치를 취해야 법적 면책 가능성이 높아집니다.
Q5. 고영향 인공지능 확인(제33조) 절차와 투명성 의무는 어떤 상관관계가 있나요?
A5. 사업자는 자신이 제공하는 인공지능이 고영향 인공지능에 해당할 가능성이 있는 경우, 과학기술정보통신부 장관에게 확인을 요청할 수 있습니다. 고영향 인공지능으로 확정될 경우 제31조의 투명성 의무 외에도 제34조에 따른 신뢰성 확보 조치(신뢰성 요구사항 준수, 정기적 자체 점검 등)가 병행되어야 하므로, 투명성 확보는 고영향 AI 관리 체계의 시작점이라 할 수 있습니다.
Q6. 규제 당국의 조사 및 과태료 부과 프로세스는 어떻게 진행됩니까?
A6. 법 제40조 및 제43조에 의거하여, 의무 위반 의심 사례 발생 시 과기정통부는 사실조사를 실시할 수 있습니다.
- 사전고지 위반: 시정명령 없이 즉시 3천만원 이하의 과태료 부과가 가능합니다(과실 책임의 엄격성).
- 결과물 표시 위반: 우선 시정명령을 내리고, 이를 기한 내에 이행하지 않을 경우 과태료를 부과합니다. 현재는 기업의 준비 기간을 고려하여 과태료 부과를 유예하는 계도 기간을 운영 중이나, 고영향 AI 사업자는 사고 발생 시 사회적 파급력이 크므로 조기에 컴플라이언스 체계를 구축하는 것이 권고됩니다.
[참고 및 근거]
본 가이드는 과학기술정보통신부 발행 『인공지능기본법 지원데스크 사례집』 및 관련 시행령을 기초로 작성되었습니다.
고영향 인공지능의 구체적 범위 및 기술적 표준(워터마크 규격 등)은 정부의 가이드라인에 따라 업데이트될 수 있으므로 상시적인 모니터링이 필요합니다.
* 본 포스팅에 사용된 일부 이미지는 생성형 AI를 통해 제작되었습니다.
2026년 1월 22일부터 시행된 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 인공지능기본법)은 AI 기술의 신뢰성을 제도적으로 뒷받침하기 위해 마련되었습니다. 특히 법 제33조에 따라 분류되는 '고영향 인공지능(High-Impact AI)'을 운영하는 사업자는 일반 AI 사업자보다 강화된 수준의 관리 책무와 투명성 확보 의무를 지게 됩니다. 고영향 AI는 채용, 금융, 의료 등 국민의 기본권과 안전에 직결된 영역에서 활용되므로, 법 제31조의 '투명성 확보 의무' 준수는 법적 리스크 관리의 핵심입니다. 본 가이드는 고영향 AI 사업자가 직면할 실무 쟁점을 Q&A 형식을 통해 알기 쉽게 정리해드립니다!
Q1. 고영향 인공지능 사업자로서 '투명성 확보 의무'의 핵심 법리는 무엇인가요?
A1. 핵심은 '이용자의 자기결정권 및 알 권리 보장'입니다. 법 제31조 제1항에 따라 고영향 인공지능을 활용하여 서비스를 제공하는 사업자는 해당 서비스가 인공지능에 의해 운용된다는 사실을 이용자가 명확히 인지할 수 있도록 사전 고지해야 합니다. 이는 이용자가 인공지능과의 상호작용 여부를 사전에 선택할 수 있도록 함으로써, 자동화된 시스템에 의한 잠재적 편향성이나 오류로부터 발생할 수 있는 피해를 예방하는 법적 장치로 기능합니다.
ㅇ 주요 내용
인공지능 기반 서비스와 인공지능이 생성한 결과물을 제공하는 경우 등 이용자에게 고지하거나 표시해야하는 사항과 방법에 대해 안내합니다.
ㅇ 관련 법령 (원문)
제31조(인공지능 투명성 확보 의무) ① 인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 한다.
② 인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 한다.
③ 인공지능사업자는 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우 해당 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 한다. 이 경우 해당 결과물이 예술적ㆍ창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 고지 또는 표시할 수 있다.
④ 그 밖에 제1항에 따른 사전고지, 제2항에 따른 표시, 제3항에 따른 고지 또는 표시의 방법 및 그 예외 등에 관하여 필요한 사항은 대통령령으로 정한다.
Q2. B2B 공급망 내에서 '개발사업자'와 '이용사업자' 간 의무 배분은 어떻게 이루어지나요?
A2. 인공지능기본법은 개발자와 이용자(서비스 제공자) 모두를 '인공지능사업자'로 정의하며 각각에 책임을 부과합니다.
Q3. 고영향 인공지능 서비스 제공 시 '사전 고지'는 어느 정도 수준으로 해야 하나요?
A3. 법령은 이용자가 '쉽게 알 수 있도록' 고지할 것을 요구합니다. 실무적으로는 서비스 진입 단계(Landing Page), 회원가입 시 이용약관, 또는 AI 기능 활성화 직전의 팝업 등을 통해 명시해야 합니다. 특히 고영향 인공지능의 경우, 단순히 "AI를 사용한다"는 사실을 넘어 해당 AI가 결정에 참여하는 범위나 영향력에 대해 투명하게 공개하는 것이 향후 발생할 수 있는 설명책임(Accountability) 이슈 대응에 유리합니다.
Q4. 생성형 기능을 탑재한 고영향 AI의 경우, 결과물 표시 의무의 예외 사유가 있나요?
A4. 법 제31조 제3항은 기술적 한계나 서비스의 특성을 고려하여 예외를 인정합니다.
Q5. 고영향 인공지능 확인(제33조) 절차와 투명성 의무는 어떤 상관관계가 있나요?
A5. 사업자는 자신이 제공하는 인공지능이 고영향 인공지능에 해당할 가능성이 있는 경우, 과학기술정보통신부 장관에게 확인을 요청할 수 있습니다. 고영향 인공지능으로 확정될 경우 제31조의 투명성 의무 외에도 제34조에 따른 신뢰성 확보 조치(신뢰성 요구사항 준수, 정기적 자체 점검 등)가 병행되어야 하므로, 투명성 확보는 고영향 AI 관리 체계의 시작점이라 할 수 있습니다.
Q6. 규제 당국의 조사 및 과태료 부과 프로세스는 어떻게 진행됩니까?
A6. 법 제40조 및 제43조에 의거하여, 의무 위반 의심 사례 발생 시 과기정통부는 사실조사를 실시할 수 있습니다.
[참고 및 근거]
본 가이드는 과학기술정보통신부 발행 『인공지능기본법 지원데스크 사례집』 및 관련 시행령을 기초로 작성되었습니다.
고영향 인공지능의 구체적 범위 및 기술적 표준(워터마크 규격 등)은 정부의 가이드라인에 따라 업데이트될 수 있으므로 상시적인 모니터링이 필요합니다.
* 본 포스팅에 사용된 일부 이미지는 생성형 AI를 통해 제작되었습니다.