안녕하세요, 건강한 AI 생태계를 위해 오늘도 보안의 최전선에서 ‘국가와 국민, 그리고 고객을 보호하는’ 마크애니입니다. 지난 1월에 시행되어 여러 논의가 이어지고 있는 인공지능 기본법과 관련하여, 오늘은 인공지능 법률 시리즈의 두 번째 이야기를 전해드립니다. 인공지능이 사람의 생명이나 신체, 그리고 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 영역에 깊은 영향을 미친다는 사실을 알고 계셨나요? 오늘은 고영향 인공지능에 대한 내용을 알기쉽게 정리해드립니다.
고영향 인공지능이란?
사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능 시스템을 의미합니다.
제33조(고영향 인공지능의 확인) ① 인공지능사업자는 인공지능 또는 이를 이용한 제품ㆍ서비스를 제공하는 경우 그 인공지능이 고영향 인공지능에 해당하는지에 대하여 사전에 검토하여야 하며,
필요한 경우 과학기술정보통신부장관에게 고영향 인공지능에 해당하는지 여부의 확인을 요청할 수 있다. ② 과학기술정보통신부장관은 제1항에 따른 요청이 있는 경우 고영향 인공지능 해당 여부를 확인하여야 하며,
필요한 경우 전문위원회를 설치하여 관련 자문을 받을 수 있다. ③ 과학기술정보통신부장관은 고영향 인공지능의 기준과 예시 등에 관한 가이드라인을 수립하여 보급할 수 있다. ④ 그 밖에 제1항에 따른 확인 절차 등에 관하여 필요한 사항은 대통령령으로 정한다. |
인공지능 기본법 제33조 제1항에 따르면, 인공지능 사업자는 인공지능 제품이나 서비스를 제공할 때 해당 인공지능이 고영향 인공지능에 해당하는지 사전에 필수적으로 검토해야 합니다. 구체적으로는 에너지 공급, 먹는물의 생산 공정, 보건의료 제공, 의료기기 개발, 원자력시설 관리, 범죄 수사를 위한 생체인식정보 분석, 채용 및 대출 심사, 교통체계 운영, 공공기관의 의사결정, 유아 및 초중등 학생 평가 등 총 10개 영역을 지칭합니다.
제공하려는 제품이나 서비스가 고영향 인공지능에 해당하는지 확인하기 위한 절차이자 일종의 체크리스트로서 사업자는 과학기술정보통신부 장관에게 확인 요청서를 제출할 수 있습니다. 이때 사업자는 인공지능 제품 또는 서비스의 개요서, 시스템의 개발 및 학습에 사용된 학습용 데이터의 개요, 시스템을 활용하는 과정 및 결과를 확인할 수 있는 자료 등을 첨부해야 합니다. 정부는 해당 인공지능이 지정된 활용 영역에 해당하는지, 생명과 기본권에 초래할 위험의 중대성과 빈도는 어떠한지, 사업자가 사전에 검토한 결과는 무엇인지 등을 종합적으로 고려하여 고영향 여부를 판단합니다.
고영향 인공지능 해당 여부 확인 요청 사이트 (출처- 과학기술정보통신부홈페이지)
고영향 인공지능 해당 여부 확인 요청 사이트 Click!
https://www.msit.go.kr/user/ais/requestAi.do
[별지 서식] 고영향 인공지능 (확인¸ 재확인)요청서(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령) 다운로드 받기
https://www.msit.go.kr/ssm/file/contentsFileDown.do?seqEncpt=162
서비스가 고영향 인공지능으로 확인될 경우, 사업자는 사람의 기본권에 미치는 영향을 사전에 평가하기 위하여 노력해야 합니다. 영향평가 과정에서 반드시 포함하고 점검해야 할 체크리스트 항목으로는 아래와 같습니다.
✅ 영향을 받을 가능성이 있는 개인이나 집단의 식별
✅ 관련된 기본권 유형의 식별
✅ 발생할 수 있는 사회적 및 경제적 영향의 내용과 범위
이와 함께 인공지능의 사용 행태, 평가지표 및 결과 산출 방식, 위험의 예방과 완화 및 손실 복구 방안, 개선이 필요한 경우의 이행 계획 또한 영향평가 내용에 포함되어야 합니다. 평가를 완료한 후에는 부정적 영향을 완화하기 위한 개선 계획을 수립하고, 피해 발생 시 취할 내부 거버넌스 절차와 이용자의 이의 제기 처리 체계를 마련하는 것이 권장됩니다. 사업자는 영향평가를 수행했음을 입증하기 위해 평가 결과와 근거 자료를 자율적으로 보관하고 관리하는 것이 권장됩니다.
👀 AI 법률 시리즈 포스팅 모아보기
- AI 기본법의 시작, 정의부터 적용 범위까지 핵심 정리
- 우리 서비스도 '고영향 인공지능'일까? 핵심 영역 10가지와 확인 절차
🔍 다음 포스팅 예고
다음 포스팅에서는 인공지능 윤리를 주제로 찾아뵙겠습니다. 국가 인공지능 윤리원칙 실천을 지원하기 위해 마련된 윤리원칙과 민간 자율 인공지능 윤리위원회의 구성 및 운영에 관한 구체적인 사항들을 함께 알아볼 예정이니 다음 편도 많은 기대 부탁드립니다🗣️
안녕하세요, 건강한 AI 생태계를 위해 오늘도 보안의 최전선에서 ‘국가와 국민, 그리고 고객을 보호하는’ 마크애니입니다. 지난 1월에 시행되어 여러 논의가 이어지고 있는 인공지능 기본법과 관련하여, 오늘은 인공지능 법률 시리즈의 두 번째 이야기를 전해드립니다. 인공지능이 사람의 생명이나 신체, 그리고 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 영역에 깊은 영향을 미친다는 사실을 알고 계셨나요? 오늘은 고영향 인공지능에 대한 내용을 알기쉽게 정리해드립니다.
고영향 인공지능이란?
사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능 시스템을 의미합니다.
제33조(고영향 인공지능의 확인)
① 인공지능사업자는 인공지능 또는 이를 이용한 제품ㆍ서비스를 제공하는 경우
그 인공지능이 고영향 인공지능에 해당하는지에 대하여 사전에 검토하여야 하며,
필요한 경우 과학기술정보통신부장관에게 고영향 인공지능에 해당하는지 여부의 확인을 요청할 수 있다.
② 과학기술정보통신부장관은 제1항에 따른 요청이 있는 경우 고영향 인공지능 해당 여부를 확인하여야 하며,
필요한 경우 전문위원회를 설치하여 관련 자문을 받을 수 있다.
③ 과학기술정보통신부장관은 고영향 인공지능의 기준과 예시 등에 관한 가이드라인을 수립하여 보급할 수 있다.
④ 그 밖에 제1항에 따른 확인 절차 등에 관하여 필요한 사항은 대통령령으로 정한다.
인공지능 기본법 제33조 제1항에 따르면, 인공지능 사업자는 인공지능 제품이나 서비스를 제공할 때 해당 인공지능이 고영향 인공지능에 해당하는지 사전에 필수적으로 검토해야 합니다. 구체적으로는 에너지 공급, 먹는물의 생산 공정, 보건의료 제공, 의료기기 개발, 원자력시설 관리, 범죄 수사를 위한 생체인식정보 분석, 채용 및 대출 심사, 교통체계 운영, 공공기관의 의사결정, 유아 및 초중등 학생 평가 등 총 10개 영역을 지칭합니다.
제공하려는 제품이나 서비스가 고영향 인공지능에 해당하는지 확인하기 위한 절차이자 일종의 체크리스트로서 사업자는 과학기술정보통신부 장관에게 확인 요청서를 제출할 수 있습니다. 이때 사업자는 인공지능 제품 또는 서비스의 개요서, 시스템의 개발 및 학습에 사용된 학습용 데이터의 개요, 시스템을 활용하는 과정 및 결과를 확인할 수 있는 자료 등을 첨부해야 합니다. 정부는 해당 인공지능이 지정된 활용 영역에 해당하는지, 생명과 기본권에 초래할 위험의 중대성과 빈도는 어떠한지, 사업자가 사전에 검토한 결과는 무엇인지 등을 종합적으로 고려하여 고영향 여부를 판단합니다.
고영향 인공지능 해당 여부 확인 요청 사이트 Click!
https://www.msit.go.kr/user/ais/requestAi.do
[별지 서식] 고영향 인공지능 (확인¸ 재확인)요청서(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령) 다운로드 받기
https://www.msit.go.kr/ssm/file/contentsFileDown.do?seqEncpt=162
서비스가 고영향 인공지능으로 확인될 경우, 사업자는 사람의 기본권에 미치는 영향을 사전에 평가하기 위하여 노력해야 합니다. 영향평가 과정에서 반드시 포함하고 점검해야 할 체크리스트 항목으로는 아래와 같습니다.
✅ 영향을 받을 가능성이 있는 개인이나 집단의 식별
✅ 관련된 기본권 유형의 식별
✅ 발생할 수 있는 사회적 및 경제적 영향의 내용과 범위
이와 함께 인공지능의 사용 행태, 평가지표 및 결과 산출 방식, 위험의 예방과 완화 및 손실 복구 방안, 개선이 필요한 경우의 이행 계획 또한 영향평가 내용에 포함되어야 합니다. 평가를 완료한 후에는 부정적 영향을 완화하기 위한 개선 계획을 수립하고, 피해 발생 시 취할 내부 거버넌스 절차와 이용자의 이의 제기 처리 체계를 마련하는 것이 권장됩니다. 사업자는 영향평가를 수행했음을 입증하기 위해 평가 결과와 근거 자료를 자율적으로 보관하고 관리하는 것이 권장됩니다.
👀 AI 법률 시리즈 포스팅 모아보기
- AI 기본법의 시작, 정의부터 적용 범위까지 핵심 정리
- 우리 서비스도 '고영향 인공지능'일까? 핵심 영역 10가지와 확인 절차
🔍 다음 포스팅 예고
다음 포스팅에서는 인공지능 윤리를 주제로 찾아뵙겠습니다. 국가 인공지능 윤리원칙 실천을 지원하기 위해 마련된 윤리원칙과 민간 자율 인공지능 윤리위원회의 구성 및 운영에 관한 구체적인 사항들을 함께 알아볼 예정이니 다음 편도 많은 기대 부탁드립니다🗣️