영국 경찰의 AI 기술 활용 확장 및 윤리적 논란 연대기

런던 경찰청(Met Police)은 2016년부터 2019년까지 라이브 안면 인식(LFR) 기술을 시범 운영했습니다. 이 초기 시범 운영은 높은 오탐율을 보였으며, 인권 단체들은 사생활 침해와 인종 및 성별 편향 가능성에 대한 심각한 우려를 제기했습니다. 독립적인 분석 결과, 시스템이 사람들을 잘못 식별하는 경우가 많았고, 이는 인권법 위반 가능성을 시사했습니다.

항소법원은 에드 브리지스(Ed Bridges)가 사우스 웨일스 경찰(South Wales Police)을 상대로 제기한 소송에서 경찰의 자동 안면 인식 기술(AFR) 사용이 불법이며 유럽인권협약(ECHR)을 위반했다고 판결했습니다. 이 판결은 경찰의 안면 인식 기술 사용에 대한 법적 근거와 데이터 보호 및 평등법 준수에 중대한 영향을 미쳤습니다. 이는 영국 내 경찰의 AI 감시 기술 사용에 대한 중요한 선례를 남겼습니다.

국제앰네스티(Amnesty International UK)는 '자동화된 인종차별(Automated Racism)' 보고서를 통해 영국 경찰이 사용하는 예측 치안 시스템이 인종차별적이며 인권 침해를 야기한다고 비판했습니다. 보고서는 이러한 AI 도구가 기존의 편향된 경찰 데이터를 기반으로 하여 특정 지역과 소수 인종 커뮤니티를 불균형적으로 표적화한다고 지적했습니다. 이는 사생활, 공정한 재판, 차별 금지 권리 침해에 대한 우려를 증폭시켰습니다.

영국 정보위원회(ICO)는 AI 및 생체 인식 전략(AIBS)을 발표하며, 이 분야에서 GDPR(일반 데이터 보호 규정) 준수의 중요성을 강조했습니다. 이 전략은 AI와 생체 인식 기술의 책임감 있는 사용, 높은 수준의 자동화된 의사 결정, 공정성 및 책임성을 보장하고, 개인 데이터 보호 및 피해 방지에 중점을 둡니다. 이는 경찰의 안면 인식 기술 사용에 대한 새로운 지침과 규제적 기대를 설정하는 것을 포함합니다.

내무부는 영국 경찰의 AI 기술 채택을 가속화하기 위해 1억 1,500만 파운드를 투자하여 새로운 국립 센터인 'Police.AI'를 설립한다고 발표했습니다. 이 센터는 혁신을 중앙 집중화하고, 엄격한 테스트를 보장하며, 승인된 AI 도구를 잉글랜드와 웨일스의 모든 43개 경찰서에 제공하는 것을 목표로 합니다. 이는 경찰의 AI 활용을 더욱 확대하고, 범죄 수사 및 감시 역량을 강화하려는 정부의 의지를 보여줍니다.

런던 경찰청(Met Police)의 라이브 안면 인식(LFR) 카메라 사용에 대한 법적 도전이 고등법원에서 기각되었습니다. 이 판결은 메트로폴리탄 경찰의 정책이 배포를 위한 충분한 법적 틀을 제공하며 인권을 침해하지 않는다고 보았습니다. 이는 정부가 전국적으로 LFR 시스템을 확장하려는 계획에 큰 힘을 실어주었으며, 경찰은 이미 13개 이상의 경찰서에서 이 기술을 사용하고 있으며, 안면 인식 밴의 수를 늘릴 계획입니다. 그러나 사생활, 편향 및 대량 감시에 대한 우려는 여전히 남아있습니다.