인공지능 선별관제 윤리점검이 필요한 이유

공공기관 CCTV 설치 운영현황

전국 공공기관에서 설치 운영중인 CCTV는 2021년 기준 145만대 이상입니다. 2018년 100만대를 넘어 최근 3년간 연평균 11%씩 설치대수가 증가했습니다. 2008년도에 설치수가 15만대였던걸 감안하면 CCTV설치 수가 10배 가까이 증가하고 있는 추세입니다.

공공기관CCTv설치대수
통합관제센터 실시간 대응현황

공공장소 CCTV는 범죄예방과 수사, 시설안전, 화재예방 등 목적으로만 설치가 가능합니다. CCTV는 사회질서 유지에 중요한 수단으로 사용되고 있습니다.

실제로 최근 4년간 지자체 통합관제센터 실시간 대응현황은 84만 4794건이었습니다. 2017년 11만 4345건에서 2020년 29만 9849건으로 2배이상 증가했습니다.

지자체 CCTV 통합센터 실시간 대응 현황
통합관제센터 관제요원 운영현황

 

이처럼 기하급수적으로 증가한 CCTV는 관제요원에게 큰 업무부하를 가져왔습니다.

2021년 행정안전부가 제출한 국정감사 자료에 따르면 전국 통합관제센터 관제요원 1인당 98대 CCTV를 모니터링 하고 있다고 밝혀졌습니다. 이 수치는 행정안전부에서 공개한 ‘지자체 영상정보 처리기기 통합관제센터 구축 및 운영규정’의 관제인력 산정기준인 1인당 50대의 2배 수준입니다.

전국 17개 시도 226개 지자체 중 221개 통합관제센터가 있는데 1인당 평균 관제 CCTV가 가장 많은 곳은 경기도로 179대 였고, 서울 154대, 세종 109대, 충북 97대 순이었습니다.

관제 인력 운영규정을 지키는 지역은 단 1곳 뿐이었습니다.

CCTV
통합관제센터 인공지능 선별관제 도입

관제요원 한 사람이 100대 가까운 CCTV를 모니터링 하면 업무 피로도가 높아져서 관제 정확성이 떨어진다는 문제가 지속적으로 제기 됐습니다. 지자체에서는 이 문제를 해결하기 위해서 CCTV증가에 비례해서 관제요원을 충원하는 대안으로 ‘지능형 선별관제’라고 불리는 인공지능 선별관제 시스템을 도입하기 시작했습니다.

인공지능 선별관제 시스템

인공지능 선별관제는 각종 사건, 사고, 자연재해 이미지 데이터를 학습한 인공지능이 실시간으로 CCTV영상을 분석해서 특정 객체나 이벤트를 탐지하면 관제요원에게 알려 유관기관과 신속하게 대응할 수 있게 돕는 시스템입니다.

인공지능 선별관제 시스템은 컴퓨터 비전 분야의 객체 검출(Object Detection), 객체 인식(Object Recognition), 객체 추적(Object Tracking) 기술이 사용됩니다. 공공기관에서 운영중인 인공지능 선별관제는 주로 사람, 차, 불꽃, 연기 등 객체들의 쓰러짐, 움직임, 배회, 화재, 폭행, 유기 이벤트를 탐지합니다.

인공지능 선별관제

인공지능 선별관제도 여느 딥러닝이 사용된 인공지능들과 마찬가지로 학습 데이터가 누적될 수록 사용환경에 맞춰 성능이 향상됩니다. 학습 데이터는 인공지능 학습용으로 공개된 공공데이터와 오픈 소스 데이터를 주로 활용합니다.

지자체 통합 관제센터에 도입 후 관제요원과 상호작용 하면서 학습하는 데이터들로 성능이 점진적으로 향상됩니다. 선별관제 사용자인 관제요원이 인공지능이 탐지한 객체나 이벤트에 대해 오탐인지, 이상유무가 있었는지와 같은 데이터값을 업데이트 시킬수록 각각 설치된 환경에 맞게 관제 정확성이 높아집니다.

인공지능 선별관제 객체 인식률

인공지능 선별관제에서 ‘객체 인식률’은 매우 중요합니다. 객체 인식률을 높이기 위해서는 CCTV 특성을 이해해야 합니다. CCTV는 설치된 환경에 영향을 많이 받아서 CCTV가 설치된 지역의 시간대별, 객체별 특성을 학습시키고 지역 관제 목적별로 다양한 시나리오로 운영해야 정확하게 인식할 수 있습니다.

낮시간에 공원 풀밭에 사람이 누워있는 모습과 도로 가운데 사람이 누워있는 모습을 인공지능은 사람(객체)이 쓰러짐(이벤트)이라고 동일하게 판단하게 됩니다. 동일한 객체와 같은 이벤트이더라도 후자의 경우에는 관제사가 119에 출동을 요청해서 구급대원을 급히 출동시켜야 하는 상황입니다.

학교 주변에 설치된 CCTV에서는 등하교 시간대 보행로 불법 주정차 차량을 집중 탐지해서 교통 사고 발생을 방지하는 시나리오를 정의하고, 유흥가 지역 CCTV에는 늦은 밤 시간대에 쓰러진 취객이 없는지, 폭행이 있는지 감시하는 시나리오로 운영해야 합니다.

인공지능 선별관제 오탐 문제

 

인공지능 선별관제 시스템에서 객체 인식률을 높이는 것 만큼 중요한 것이 ‘오탐율(誤探率)’을 낮추는 것입니다.

현장에서는 탐지를 정탐, 오탐 2가지로 구분하고 있습니다. 정탐(正探)은 정확하게 탐지, 오탐(誤探)은 잘못 탐지 했다는 의미입니다. ‘미탐’이라는 개념도 있긴하지만 선별관제 설치 목적이 사회 안전을 도모하는 것이기 때문에 관제해야 할 것을 놓치는 것 보다는 틀리더라도 이벤트를 놓치지 않는 방향으로 설계하여 오탐을 잘 처리하는 방식으로 운영하고 있습니다.

하지만 오알람, 오경보가 다수 발생할수록 인공지능 선별관제 시스템의 신뢰도가 낮아지기 때문에 오탐을 최소화 하는 것이 끊임없이 해결해야할 숙제입니다.

오탐을 최소화하려면 알고리즘 성능을 개선시키고, 많은 데이터를 학습시켜야 합니다. 알고리즘 성능을 개선시키기 위해서도 결국 데이터가 필요해서 이러나 저러나 양질의 학습 데이터를 확보해야 합니다.

많은 데이터라고 하는 것은 결국 많은 데이터를 획득해야 한다로 이어집니다. 인공지능 선별관제에서는 CCTV가 곧 데이터 획득 장치이기 때문에 CCTV를 많이 설치할수록 데이터를 확보에 유리하다고 생각할 수 있습니다. 하지만 공공장소에 설치된 CCTV는 사생활침해 이슈에 민감하기 때문에 모든 데이터가 아주 엄격하게 취급됩니다.

사회안전과 사생활 침해 CCTV 설치 딜레마

 

공공기관에서 설치 운영하는 CCTV는 공개된 장소에 설치되어 365일 24시간 영상을 촬영하게 됩니다. 대부분 사람들이 많이 다니는 장소이기 때문에 사생활 침해 우려가 끊임없이 제기되고 있습니다.

공공기관 CCTV설치대수, 전년대비 증가대수

‘공공기관 CCTV설치 및 운영실태 조사 및 개인정보보호 종합지원 시스템’에서 확인해 보면 개인정보보호법 제정에 따라 사생활 침해 관심이 증가했던 시기에는 CCTV설치 대수가 감소하는 추세를 보였다가 범죄예방, 시설안전 관리 등 안전에 대한 사회적 관심이 증가하면 다시 CCTV설치 대수가 증가하는 추이를 보입니다.

 

 

인공지능 윤리점검표 개발이 필요한 이유

 

결국 인공지능 선별관제 시스템에서 중요한 것은 데이터입니다. 선별관제에 사용되는 데이터는 사회안전을 목적으로 공공장소에 설치된 CCTV를 통해서만 확보할 수 있습니다. 공공장소 CCTV라고 하는 특수성과 사생활침해 개인정보보호 이슈가 있어서 다른 인공지능 서비스들에 비해 데이터를 확보하기가 특히 어렵습니다.

이러한 제약 속에서 선별관제에 사용되는 인공지능과 선별관제 시장과 산업을 건강하게 성장시키기 위해서 개발자와 사용자(관제요원) 나아가서는 개발사와 운영사 서로간 인공지능 윤리 합의가 필요합니다.

무수한 CCTV에서 촬영 수집되는 모든 데이터는 개인정보보호 방침을 준수해서 취급 관리해야 한다. 방대한 데이터 중에서 인공지능에 학습시킬 수 있는 데이터는 아주 일부고 성능을 개선 시키기 위해서는 시간이 필요하다. 성능이 나아지는 과정에서 오탐이 많더라도 원하는 수준까지 도달하기 위해서는 이해와 인고의 시간이 필요하다.

이런 상호간 이해가 있으면 함부로 데이터를 주거나 받지 않고, 올바른 방향으로 선별관제 인공지능을 장기적인 관점에서 학습시킬 수 있게 됩니다.

궁극적으로는 인공지능 윤리 합의 토대위에 건강하고 안전한 인공지능을 하나의 사회 기반시스템으로 설계할 수 있습니다.

 

마크애니 인공지능 선별관제시스템 윤리점검표

마크애니는 KISDI(정보통신정책연구원)와 함께 인공지능 선별관제 윤리점검표 초안을 개발하고 있습니다.

인공지능 선별관제 윤리점검표 초안에는 주로 데이터를 관리, 접근, 사용하면서 주의해야할 사항들과 이미지 데이터 분류기준에 선입견이나 편견으로 인한 오탐 발생 가능성을 최소화 하는 항목들을 중점적으로 다루고 있습니다. 데이터를 확보하기 위한 CCTV를 설치 운영에 있어 사생활 침해, 영상 유출, 오탐으로 인해 발생할 수 있는 위험에 사전 대비하는 내용들도 다수 포함되어 있습니다.

최종 윤리점검표는 전문가 의견을 듣고 검토하는 과정을 거쳐 2022년 11월 발표 예정입니다.

Edit: 김경년

관련기사 더보기

지식 블로그 리스트 보기