🏢기업은 책임있는 AI사용을 위해 지금 바로 준비를 해야한다!
가트너 일본（Gartner)는 세계에서 진행되는 AI 규제를 바탕으로, 일본 기업에 대해서 「기업은 책임있는 AI의 사용을 위해 지금 바로 준비를 개시해야한다」라고 제언하였다. Gartner는 AI의 리스크에 대한 필요한 대처를 「AI의 트러스트／리스크／시큐리티 관리」（AI Trust, Risk and Security Management：AI TRiSM）라고 정의하고, 정리하고 있다. 기업은 그와 같은 정의에 근거한 실천적 대처를 추진하여 리스크를 경감시키는 노력을 계속해 나갈 필요가 있다고 한다.
📌Gartner의 AI TRiSM 리스크 요인
1. 대부분의 사람은 AI 모델의 매니저／사용자／소비자에 대해서 AI는 무엇인 가, AI가 무엇을 하는 가를 설명할 수 없다.
2. ChatGPT와 같은 생성AI 툴로 누구라도 엑세스할 수 있다.
3. 3rd Party의 AI 툴이 데이터의 기밀성에 관한 리스크를 가져온다.
4. AI모델／어플리케이션을 항상 모니터링할 필요가 있다.
5. AI에 대한 적대적 공격을 탐지하여 저지하는 데에는 새로운 수법이 필요하다.
6. 컴플라이언스의 통제에 대해서, 곧 규칙으로 정의되게 된다.
EU의 입법기관인 유럽의회는 3월13일, 세계 최초가 되는 포괄적 AI 규제 법안을 가결하였다.
Gartner에 의하면EU의 AI규제법은 금후, 다른 나라들의 규범이 되어 확산될 가능성이 있다고 한다.
이것은 EU의 일반데이터보호규칙（GDPR）이 프라이버시 관련 규제에 있어서 세계의 Defacto Standard가 된 경위와 동일하다고 한다.
EU이외에도 각 지역이나 국가에서 AI의 규제의 움직임이 급 피치로 진행되고 있어 미국에 있어서는 2023년10월30일 AI의 안전성 확보를 위한 대통령령이 발령되고 의회에서는 AI규제에 관한 법안 작업이 진행되고 있다 더욱이 중국에 있어서도 알고리즘의 투명성 확보나 AI 윤리 측면에서 규제가 행하여지고 있다.
일본에서는 4월19일에 경제산업성과 총무성으로부터 「AI 사업자 가이드라인（제1.0판）」이 공표되었다. 그러나 여기에는 법적 강제력은 없으며, 대응에 대해서는 각 사업자가 자주적으로 대응을 추진하고 있다.
Gartner에서는 EU의 AI 규제법 등이 허용될 수 없는 리스크의 AI는 금지하고 높은 리스크의 AI에는 그 요건이나 의무를 정하고 있는 것을 열거하고 책임있는 기업으로써 이용하는 AI에 대해서 설명 책임이 요구된다고 하고 있다 현 시점에서는 높은 리스크의 AI의 개발이나 사용을 하고 있지 않는 일본 기업도 많으며 그 경우 법적 대응의 엄밀성이 묻게 되는 일은 없지만 부정적 충격을 줄 가능성이 있는 경우에는 전형적 AI원칙에 따라야만 한다고 한다.
더욱이 Gartner는 GDPR에 대응한 유럽의 조직과 비교하면 일본의 조직은 그것에 관련된 컴플라이언스 대응의 성숙도가 대체로 낮다고 한다. 그 때문에 일본 기업은 기초를 쌓는 데서부터 대처를 개시할 필요가 있다고 한다. 예를 들면 EU의 AI 규제법에는 다양한 논의를 통해서 특정의 AI시스템으로써 챗 봇이나 음성・화상・영상・텍스트 컨텐츠 생성의 범용 목적의 AI를 열거하고 투명성 요건을 부과하는 등으로 결과를 반영시키고 있다.
이와 같은 움직임의 대응에 대해서Gartner는 AI 관련의 규칙 수립에는 「기술이 앞서고, 법률이 뒤 따르는」것이 되기 때문에 일본 기업도 법률 중심이 아니며 「사람 중심」으로 생각할 필요가 있다고 하고 있다.
마크애니는 기업, 기관의 기밀문서와 데이터를 보호하기 위해 촘촘한 엔드포인트 문서 보안 솔루션을 보유하고 있습니다. 랜섬웨어 공격으로 문서와 데이터가 유출돼도 인가된 직원이 아니면 함부로 파일을 열어볼 수 없고 사내·외, 원격 환경 지원이 가능해 언제 어디서나 기업 네트워크를 강력하게 보호하죠. 이미 공공, 금융, 제조, 유통 등 국내 600여 곳이 마크애니 솔루션과 함께하고 있답니다.
⭐기업 데이터를 안전하게 보호하기 위한 솔루션이 필요하시다면 마크애니와 함께 해보세요!
*참고자료 : ZDNet
마크애니 박춘식 고문은 10년 넘도록 매주 '보안 이야기'를 연재하고 있는 보안 전문가이다. Tokyo Institute of Technology 에서 박사 학위를 취득하고, 국가 보안 기술연구소 소장을 거쳐, 서울여자대학교 교수를 역임하였다. 현재는 아주대학교 사이버보안학과 교수로 재직중이다.
🏢기업은 책임있는 AI사용을 위해 지금 바로 준비를 해야한다!
가트너 일본（Gartner)는 세계에서 진행되는 AI 규제를 바탕으로, 일본 기업에 대해서 「기업은 책임있는 AI의 사용을 위해 지금 바로 준비를 개시해야한다」라고 제언하였다. Gartner는 AI의 리스크에 대한 필요한 대처를 「AI의 트러스트／리스크／시큐리티 관리」（AI Trust, Risk and Security Management：AI TRiSM）라고 정의하고, 정리하고 있다. 기업은 그와 같은 정의에 근거한 실천적 대처를 추진하여 리스크를 경감시키는 노력을 계속해 나갈 필요가 있다고 한다.
📌Gartner의 AI TRiSM 리스크 요인
1. 대부분의 사람은 AI 모델의 매니저／사용자／소비자에 대해서 AI는 무엇인 가, AI가 무엇을 하는 가를 설명할 수 없다.
2. ChatGPT와 같은 생성AI 툴로 누구라도 엑세스할 수 있다.
3. 3rd Party의 AI 툴이 데이터의 기밀성에 관한 리스크를 가져온다.
4. AI모델／어플리케이션을 항상 모니터링할 필요가 있다.
5. AI에 대한 적대적 공격을 탐지하여 저지하는 데에는 새로운 수법이 필요하다.
6. 컴플라이언스의 통제에 대해서, 곧 규칙으로 정의되게 된다.
EU의 입법기관인 유럽의회는 3월13일, 세계 최초가 되는 포괄적 AI 규제 법안을 가결하였다.
Gartner에 의하면EU의 AI규제법은 금후, 다른 나라들의 규범이 되어 확산될 가능성이 있다고 한다.
이것은 EU의 일반데이터보호규칙（GDPR）이 프라이버시 관련 규제에 있어서 세계의 Defacto Standard가 된 경위와 동일하다고 한다.
EU이외에도 각 지역이나 국가에서 AI의 규제의 움직임이 급 피치로 진행되고 있어 미국에 있어서는 2023년10월30일 AI의 안전성 확보를 위한 대통령령이 발령되고 의회에서는 AI규제에 관한 법안 작업이 진행되고 있다 더욱이 중국에 있어서도 알고리즘의 투명성 확보나 AI 윤리 측면에서 규제가 행하여지고 있다.
일본에서는 4월19일에 경제산업성과 총무성으로부터 「AI 사업자 가이드라인（제1.0판）」이 공표되었다. 그러나 여기에는 법적 강제력은 없으며, 대응에 대해서는 각 사업자가 자주적으로 대응을 추진하고 있다.
Gartner에서는 EU의 AI 규제법 등이 허용될 수 없는 리스크의 AI는 금지하고 높은 리스크의 AI에는 그 요건이나 의무를 정하고 있는 것을 열거하고 책임있는 기업으로써 이용하는 AI에 대해서 설명 책임이 요구된다고 하고 있다 현 시점에서는 높은 리스크의 AI의 개발이나 사용을 하고 있지 않는 일본 기업도 많으며 그 경우 법적 대응의 엄밀성이 묻게 되는 일은 없지만 부정적 충격을 줄 가능성이 있는 경우에는 전형적 AI원칙에 따라야만 한다고 한다.
더욱이 Gartner는 GDPR에 대응한 유럽의 조직과 비교하면 일본의 조직은 그것에 관련된 컴플라이언스 대응의 성숙도가 대체로 낮다고 한다. 그 때문에 일본 기업은 기초를 쌓는 데서부터 대처를 개시할 필요가 있다고 한다. 예를 들면 EU의 AI 규제법에는 다양한 논의를 통해서 특정의 AI시스템으로써 챗 봇이나 음성・화상・영상・텍스트 컨텐츠 생성의 범용 목적의 AI를 열거하고 투명성 요건을 부과하는 등으로 결과를 반영시키고 있다.
이와 같은 움직임의 대응에 대해서Gartner는 AI 관련의 규칙 수립에는 「기술이 앞서고, 법률이 뒤 따르는」것이 되기 때문에 일본 기업도 법률 중심이 아니며 「사람 중심」으로 생각할 필요가 있다고 하고 있다.
마크애니는 기업, 기관의 기밀문서와 데이터를 보호하기 위해 촘촘한 엔드포인트 문서 보안 솔루션을 보유하고 있습니다. 랜섬웨어 공격으로 문서와 데이터가 유출돼도 인가된 직원이 아니면 함부로 파일을 열어볼 수 없고 사내·외, 원격 환경 지원이 가능해 언제 어디서나 기업 네트워크를 강력하게 보호하죠. 이미 공공, 금융, 제조, 유통 등 국내 600여 곳이 마크애니 솔루션과 함께하고 있답니다.
⭐기업 데이터를 안전하게 보호하기 위한 솔루션이 필요하시다면 마크애니와 함께 해보세요!
*참고자료 : ZDNet
마크애니 박춘식 고문은 10년 넘도록 매주 '보안 이야기'를 연재하고 있는 보안 전문가이다. Tokyo Institute of Technology 에서 박사 학위를 취득하고, 국가 보안 기술연구소 소장을 거쳐, 서울여자대학교 교수를 역임하였다. 현재는 아주대학교 사이버보안학과 교수로 재직중이다.