[지디넷코리아]경찰청 미래치안정책국이 인공지능(AI) 신뢰성 기술 전문 기업 씽크포비엘과 함께 운영 중이거나 도입 예정인 AI 시스템 29개의 위험 수준을 검토했다. 기획, 개발, 운영 전 과정에 적용하는 기관 차원의 통합 위험 관리 체계를 마련했고, 위험도에 따라 안전관리 수준을 차등 적용한다. 국내 AI 법령에 더해 유럽연합(EU) AI 법, 국제표준화기구(ISO) 국제표준, 미국 국립표준기술연구소(NIST) AI 위험 관리 체계를 반영했다.이들은 7월부터 공동 수행해 온 'AI 영향 평가 및 위험 관리' 기준 수립 연구를 26일 공식 마무리했다고 밝혔다. 통합 체계는 개별 AI의 성능이나 안전성을 평가하는 데 그치지 않고 운영 과정에서 생길 수 있는 위험을 조직적으로 통제하는 데 초점을 맞췄다.이와 관련해 씽크포비엘은 22일 인천 송도컨벤시아에서 경찰청과 경찰대학이 주최한 '2026 치안 AI 공동학술세미나'에 참석해 일선 경찰 관계자와 학계, 일반인에게 연구 성과를 처음 선보였다. 최종 연구 보고서는 11월에 공개된다.발주 단계에서는 AI 도입 적합성과 위험 요소를 판별하고, 개발 과정에서는 신뢰성 기준 충족 여부를 검증하도록 했다. 운영 단계에서는 적정성 점검을 포함했다.관리 체계는 'AI 영향 평가', '위험 관리 정책', '조직 체계', '조달 가이드라인', '안전성과 신뢰성 문서화'를 하나로 연결했다. AI가 누구에게 어떤 영향을 미치는지 평가해 위험 수준별로 필요한 조치와 책임, 권한을 정하고 심각한 문제가 생기면 운영을 중지할 수 있다. 관리 주체나 담당자가 바뀌어도 같은 기준으로 위험을 관리하고 판단 근거를 기록하도록 설계했다.씽크포비엘은 법이 요구하는 최소 의무 수준을 넘어 국제적으로 통용될 신뢰성 확보 기준을 마련했다는 점에 의미를 뒀다. 국제규범 반영은 앞으로 AI 안전과 신뢰성 관련 국제표준에 대응하려는 선제 조치라는 설명이다.2027년 2월 '인공지능 및 데이터 기반 행정 활성화에 관한 법률(AI데이터행정법)'이 시행되면 공공기관은 AI 영향 평가와 위험 관리 방안 수립이 의무가 된다. 경찰청은 이에 앞서 정책과 절차, 조직과 권한, 기술적 통제와 조달 기준을 아우르는 관련 체계 구축에 나섰다.씽크포비엘에 따르면 경찰청은 고위험 AI를 활용하는 공공기관 중 가장 먼저 체계적인 영향 평가와 위험 관리 시스템을 구축했다. 고위험 AI는 국민의 생명, 안전, 기본권에 중대한 영향을 줄 수 있다. 박지환 씽크포비엘 대표는 "일부 기관이 규제를 피하려고 AI 활용 범위 축소를 고민하는 것과 달리 경찰청이 조직의 통제 역량을 높이는 길을 택했다"고 평가하면서 "이를 통해 더 많은 AI를 국민 편익을 위해 안전하게 활용할 기반을 마련했다"고 덧붙였다.행정안전부는 공공분야 AI 활용으로 국민 기본권이 침해되는 것을 막기 위해 12월까지 'AI 영향평가 가이드라인'을 배포할 예정이다.경찰청이 반영한 EU 규범의 시행 시점은 조정됐다. EU는 올여름 '디지털 옴니버스'를 확정하면서 독립형 고위험 AI 시스템의 요건 적용을 2027년 12월로 미뤘다. 규제 대상 제품에 내장된 고위험 시스템의 요건 적용은 2028년 8월로 미뤘다.씽크포비엘은 6월 경찰청 'AI 영향평가 및 위험관리방안 수립' 정책과제연구 수행기관으로 선정돼 7월 8일 경찰청 본청에서 킥오프 회의를 열었다. 연구는 'AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)'과 내년 시행되는 AI데이터행정법에 대응해 법적 영향과 운영상 위험을 진단하는 사업으로 시작했다. 회사 측은 당시 치안 AI가 기본권, 신체, 인권, 공권력과 직결돼 성능 검토만으로는 부족하다고 설명했다.
Continue to ZDNet Korea →You are being forwarded in 6s — stay on this page