안녕하세요. AI 보안과 신뢰의 기준을 만들어가는 마크애니입니다.
AI 기본법이 제정됨에 따라 새롭게 등장한 규제와 기준들 때문에 막막하신 분들이 많으실 텐데요. 너무 복잡하고 방대한 정보에 지치지 않으시도록, 마크애니가 AI 기본법 시리즈를 통해 핵심만 탈탈 털어드리겠습니다!
AI가 발전할수록 인공지능 윤리에 대한 갑론을박이 뜨겁습니다. 이제는 단순한 도덕적 논의를 넘어 법적 명시가 필요한 시점이 되었죠. 그렇다면 이번 AI 기본법에서는 이 윤리를 어떻게 정의하고, 기업은 어떻게 대비해야 할까요?
오늘 포스팅에서는 AI 윤리 원칙(제27조)과 이를 실천하기 위한 민간 자율 인공지능 윤리위원회(제28조)에 대해 낱낱이 파헤쳐 보겠습니다!
인공지능 윤리 원칙: 사람을 향한 기술
제27조는 국가 차원의 AI 윤리 원칙을 제정하여 사회 전반에 뿌리내리게 하는 핵심 근거입니다. 법령 원문을 함께 보시죠!
법령 원문 핵심 (제27조) ① 정부는 인공지능윤리의 확산을 위하여 다음 각 호의 사항을 포함하는 인공지능 윤리원칙(이하 “윤리원칙”이라 한다)을 대통령령으로 정하는 바에 따라 제정ㆍ공표할 수 있다. 인공지능의 개발ㆍ활용 등의 과정에서 사람의 생명과 신체, 정신적 건강 등에 해가 되지 아니하도록 하는 안전성과 신뢰성에 관한 사항 인공지능기술이 적용된 제품ㆍ서비스 등을 모든 사람이 자유롭고 편리하게 이용할 수 있는 접근성에 관한 사항 사람의 삶과 번영에의 공헌을 위한 인공지능의 개발ㆍ활용 등에 관한 사항
② 과학기술정보통신부장관은 사회 각계의 의견을 수렴하여 윤리원칙이 인공지능의 개발ㆍ활용 등에 관여하는 모든 사람에 의하여 실현될 수 있도록 실천방안을 수립하고 이를 공개 및 홍보ㆍ교육하여야 한다. ③ 중앙행정기관 또는 지방자치단체의 장이 인공지능윤리기준(그 명칭 및 형태를 불문하고 인공지능윤리에 관한법령, 기준, 지침, 가이드라인 등을 말한다)을 제정하거나 개정하는 경우 과학기술정보통신부장관은 윤리원칙 및 제2항에 따른 실천방안과의 연계성ㆍ정합성 등에 관한 권고 또는 의견의 표명을 할 수 있다. |
법령에서 강조하는 3가지 핵심은 다음과 같습니다.
안전성과 신뢰성: AI 개발·활용 시 사람의 생명, 신체, 정신적 건강에 해가 되지 않을 것
접근성: 누구나 자유롭고 편리하게 AI 제품·서비스를 이용할 수 있게 할 것
인류에의 공헌: 사람의 삶과 번영에 기여하는 AI를 만들 것
정부는 단순히 선언에 그치지 않습니다. 과학기술정보통신부는 이 원칙이 실제 산업 현장에서 작동할 수 있도록 구체적인 실천 방안을 수립하고 교육합니다.
특히, 지자체나 타 부처에서 자체적인 AI 윤리 기준을 만들 때도 이 국가 윤리 원칙과 방향성(정합성)이 맞물려 돌아가도록 권고하고 의견을 제시하는 컨트롤 타워 역할을 하게 됩니다.
민간 자율 인공지능 윤리위원회: 기업 스스로 지키는 윤리
그렇다면 기업들은 무엇을 해야 할까요? 바로 다음 제28조에서는 기업과 연구 기관이 스스로 윤리적 가드레일을 세울 수 있도록 민간 자율 인공지능 윤리위원회(이하 민간 자율 위원회) 설치를 권고하고 있습니다.
법령을 바탕으로 기업 담당자분들이 꼭 아셔야 할 핵심을 Q&A로 정리했습니다!
Q. 누가 만들 수 있나요? (설치 주체)
다음의 기관이나 단체는 AI 윤리 원칙 준수를 위해 임의로 자율적으로 위원회를 구성하여 운영할 수 있습니다..
교육·연구 기관: AI 기술을 연구·개발하는 인력이 속한 곳
인공지능 사업자: AI 제품이나 서비스를 제공하는 기업 (마크애니와 같은 AI Tech 기업 포함!)
기타 관련 기관: 대통령령으로 정하는 관련 단체
Q. 위원회는 사내에서 어떤 일을 하나요? (주요 업무)
사내 통제 기제로서 다음과 같은 실무를 자율적으로 수행합니다.
준수 점검: 기획·개발 단계부터 AI 윤리 원칙을 잘 지키는지 확인
조사 및 연구: 안전성 확보와 인권침해 예방을 위한 선제적 조사
결과 감독: AI 활용 절차와 결과물의 적절성 모니터링
사내 교육: 소속 임직원과 연구진 대상 윤리 교육
가이드라인 제정: 자사 산업 분야에 딱 맞는 '맞춤형 AI 윤리 지침' 마련
Q. 위원은 어떻게 구성해야 하나요? (구성 요건 - ★주의★)
위원회 설치 자체는 기업의 '자율'이지만, 조직의 객관성을 위해 구성 방식에는 강제 조건이 붙습니다. (제28조 3항)
28조 3항 민간자율위원회의 구성ㆍ운영 등에 필요한 사항은 해당 기관 또는 단체 등에서 자율적으로 정한다. 다만, 그 구성을 특정한 성(性)으로만 할 수 없으며, 사회적ㆍ윤리적 타당성을 평가할 수 있는 경험과 지식을 갖춘 사람 및 그 기관 또는 단체에 종사하지 아니하는 사람을 각각 포함하여야 한다. |
➡️ 특정 성별 쏠림 방지: 위원회를 단일성(性)으로만 구성할 수 없습니다.
➡️ 전문성 확보: 사회적·윤리적 타당성을 평가할 지식과 경험을 갖춘 전문가가 필요합니다.
➡️ 외부 인사 필수 포함: 해당 기업에 소속되지 않은 외부인을 반드시 위원으로 포함해야만 투명성을 인정받을 수 있습니다.
AI 기술이 고도화될수록, 결국 시장에서 선택받는 것은 '믿을 수 있는 AI'입니다. AI 기본법 제27조와 28조는 기업을 옥죄는 규제가 아닙니다. 오히려 우리 기업의 AI 서비스가 안전하고 윤리적이라는 것을 고객에게 증명할 수 있는 강력한 무기이자 경쟁력이 될 거예요.
AI 보안과 신뢰를 최우선으로 생각하는 마크애니도, 안전한 AI 생태계가 자리 잡을 수 있도록 늘 앞장서서 고민하겠습니다. 오늘 짚어드린 내용이 여러분의 막막함을 조금이나마 덜어드렸길 바라며, 다음 포스팅에서 만나요 🙂
👀 AI 법률 시리즈 포스팅 모아보기
- AI 기본법의 시작, 정의부터 적용 범위까지 핵심 정리
- 우리 서비스도 '고영향 인공지능'일까? 핵심 영역 10가지와 확인 절차
- AI 시대의 나침반, 윤리 원칙과 민간 자율 위원회 파헤치기
🔍 다음 포스팅 예고
다음 포스팅에서는 사업자가 반드시 준수해야 할 설명 가능성 확보와 편향성 제거 방법부터, 투명한 운영을 위한 기록 보관 및 이용자 보호를 위한 책임보험 가입까지 구체적인 의무 사항들을 하나씩 자세히 알아보아요. 다음 마크애니 AI 기본법 시리즈에서도 실무자분들께 꼭 필요한 정보로 돌아오겠습니다. 많은 기대 부탁드립니다!
* 본 포스팅에 사용된 이미지는 생성형 AI를 통해 제작되었습니다.
안녕하세요. AI 보안과 신뢰의 기준을 만들어가는 마크애니입니다.
AI 기본법이 제정됨에 따라 새롭게 등장한 규제와 기준들 때문에 막막하신 분들이 많으실 텐데요. 너무 복잡하고 방대한 정보에 지치지 않으시도록, 마크애니가 AI 기본법 시리즈를 통해 핵심만 탈탈 털어드리겠습니다!
AI가 발전할수록 인공지능 윤리에 대한 갑론을박이 뜨겁습니다. 이제는 단순한 도덕적 논의를 넘어 법적 명시가 필요한 시점이 되었죠. 그렇다면 이번 AI 기본법에서는 이 윤리를 어떻게 정의하고, 기업은 어떻게 대비해야 할까요?
오늘 포스팅에서는 AI 윤리 원칙(제27조)과 이를 실천하기 위한 민간 자율 인공지능 윤리위원회(제28조)에 대해 낱낱이 파헤쳐 보겠습니다!
제27조는 국가 차원의 AI 윤리 원칙을 제정하여 사회 전반에 뿌리내리게 하는 핵심 근거입니다. 법령 원문을 함께 보시죠!
법령 원문 핵심 (제27조)
① 정부는 인공지능윤리의 확산을 위하여 다음 각 호의 사항을 포함하는 인공지능 윤리원칙(이하 “윤리원칙”이라 한다)을 대통령령으로 정하는 바에 따라 제정ㆍ공표할 수 있다.
인공지능의 개발ㆍ활용 등의 과정에서 사람의 생명과 신체, 정신적 건강 등에 해가 되지 아니하도록 하는 안전성과 신뢰성에 관한 사항
인공지능기술이 적용된 제품ㆍ서비스 등을 모든 사람이 자유롭고 편리하게 이용할 수 있는 접근성에 관한 사항
사람의 삶과 번영에의 공헌을 위한 인공지능의 개발ㆍ활용 등에 관한 사항
② 과학기술정보통신부장관은 사회 각계의 의견을 수렴하여 윤리원칙이 인공지능의 개발ㆍ활용 등에 관여하는 모든 사람에 의하여 실현될 수 있도록 실천방안을 수립하고 이를 공개 및 홍보ㆍ교육하여야 한다.
③ 중앙행정기관 또는 지방자치단체의 장이 인공지능윤리기준(그 명칭 및 형태를 불문하고 인공지능윤리에 관한법령, 기준, 지침, 가이드라인 등을 말한다)을 제정하거나 개정하는 경우 과학기술정보통신부장관은 윤리원칙 및 제2항에 따른 실천방안과의 연계성ㆍ정합성 등에 관한 권고 또는 의견의 표명을 할 수 있다.
법령에서 강조하는 3가지 핵심은 다음과 같습니다.
안전성과 신뢰성: AI 개발·활용 시 사람의 생명, 신체, 정신적 건강에 해가 되지 않을 것
접근성: 누구나 자유롭고 편리하게 AI 제품·서비스를 이용할 수 있게 할 것
인류에의 공헌: 사람의 삶과 번영에 기여하는 AI를 만들 것
정부는 단순히 선언에 그치지 않습니다. 과학기술정보통신부는 이 원칙이 실제 산업 현장에서 작동할 수 있도록 구체적인 실천 방안을 수립하고 교육합니다.
특히, 지자체나 타 부처에서 자체적인 AI 윤리 기준을 만들 때도 이 국가 윤리 원칙과 방향성(정합성)이 맞물려 돌아가도록 권고하고 의견을 제시하는 컨트롤 타워 역할을 하게 됩니다.
그렇다면 기업들은 무엇을 해야 할까요? 바로 다음 제28조에서는 기업과 연구 기관이 스스로 윤리적 가드레일을 세울 수 있도록 민간 자율 인공지능 윤리위원회(이하 민간 자율 위원회) 설치를 권고하고 있습니다.
법령을 바탕으로 기업 담당자분들이 꼭 아셔야 할 핵심을 Q&A로 정리했습니다!
Q. 누가 만들 수 있나요? (설치 주체)
다음의 기관이나 단체는 AI 윤리 원칙 준수를 위해 임의로 자율적으로 위원회를 구성하여 운영할 수 있습니다..
교육·연구 기관: AI 기술을 연구·개발하는 인력이 속한 곳
인공지능 사업자: AI 제품이나 서비스를 제공하는 기업 (마크애니와 같은 AI Tech 기업 포함!)
기타 관련 기관: 대통령령으로 정하는 관련 단체
Q. 위원회는 사내에서 어떤 일을 하나요? (주요 업무)
사내 통제 기제로서 다음과 같은 실무를 자율적으로 수행합니다.
준수 점검: 기획·개발 단계부터 AI 윤리 원칙을 잘 지키는지 확인
조사 및 연구: 안전성 확보와 인권침해 예방을 위한 선제적 조사
결과 감독: AI 활용 절차와 결과물의 적절성 모니터링
사내 교육: 소속 임직원과 연구진 대상 윤리 교육
가이드라인 제정: 자사 산업 분야에 딱 맞는 '맞춤형 AI 윤리 지침' 마련
Q. 위원은 어떻게 구성해야 하나요? (구성 요건 - ★주의★)
위원회 설치 자체는 기업의 '자율'이지만, 조직의 객관성을 위해 구성 방식에는 강제 조건이 붙습니다. (제28조 3항)
28조 3항
민간자율위원회의 구성ㆍ운영 등에 필요한 사항은 해당 기관 또는 단체 등에서 자율적으로 정한다. 다만, 그 구성을 특정한 성(性)으로만 할 수 없으며, 사회적ㆍ윤리적 타당성을 평가할 수 있는 경험과 지식을 갖춘 사람 및 그 기관 또는 단체에 종사하지 아니하는 사람을 각각 포함하여야 한다.
➡️ 특정 성별 쏠림 방지: 위원회를 단일성(性)으로만 구성할 수 없습니다.
➡️ 전문성 확보: 사회적·윤리적 타당성을 평가할 지식과 경험을 갖춘 전문가가 필요합니다.
➡️ 외부 인사 필수 포함: 해당 기업에 소속되지 않은 외부인을 반드시 위원으로 포함해야만 투명성을 인정받을 수 있습니다.
AI 기술이 고도화될수록, 결국 시장에서 선택받는 것은 '믿을 수 있는 AI'입니다. AI 기본법 제27조와 28조는 기업을 옥죄는 규제가 아닙니다. 오히려 우리 기업의 AI 서비스가 안전하고 윤리적이라는 것을 고객에게 증명할 수 있는 강력한 무기이자 경쟁력이 될 거예요.
AI 보안과 신뢰를 최우선으로 생각하는 마크애니도, 안전한 AI 생태계가 자리 잡을 수 있도록 늘 앞장서서 고민하겠습니다. 오늘 짚어드린 내용이 여러분의 막막함을 조금이나마 덜어드렸길 바라며, 다음 포스팅에서 만나요 🙂
👀 AI 법률 시리즈 포스팅 모아보기
- AI 기본법의 시작, 정의부터 적용 범위까지 핵심 정리
- 우리 서비스도 '고영향 인공지능'일까? 핵심 영역 10가지와 확인 절차
- AI 시대의 나침반, 윤리 원칙과 민간 자율 위원회 파헤치기
🔍 다음 포스팅 예고
다음 포스팅에서는 사업자가 반드시 준수해야 할 설명 가능성 확보와 편향성 제거 방법부터, 투명한 운영을 위한 기록 보관 및 이용자 보호를 위한 책임보험 가입까지 구체적인 의무 사항들을 하나씩 자세히 알아보아요. 다음 마크애니 AI 기본법 시리즈에서도 실무자분들께 꼭 필요한 정보로 돌아오겠습니다. 많은 기대 부탁드립니다!
* 본 포스팅에 사용된 이미지는 생성형 AI를 통해 제작되었습니다.