영국 AI 영상 앱 규제 및 데이터 보안 연대기

영국 정부는 AI 규제에 대한 '혁신 친화적 접근 방식'을 담은 백서를 발표했다. 이 백서는 기존 규제 기관이 AI의 위험을 관리하도록 권한을 부여하고, AI 기술의 책임감 있는 개발과 배포를 장려하는 것을 목표로 한다. 이는 AI 영상 앱을 포함한 다양한 AI 애플리케이션의 데이터 보안 및 윤리적 사용에 대한 향후 규제 논의의 기반을 마련했다.

데이터 보호 및 디지털 정보법(DPDI Act)이 왕실 재가를 받아 법률로 제정되었다. 이 법은 영국의 데이터 보호 프레임워크를 업데이트하고 간소화하여, GDPR의 핵심 원칙을 유지하면서도 영국 기업에 더 많은 유연성을 제공한다. AI 시스템, 특히 AI 영상 앱이 개인 데이터를 처리하는 방식에 직접적인 영향을 미치며, 데이터 보안 및 개인 정보 보호 기준을 강화한다.

온라인 안전법이 왕실 재가를 받아 발효되었다. 이 법은 온라인 플랫폼이 불법적이고 유해한 콘텐츠로부터 사용자를 보호할 의무를 부과하며, 특히 어린이 보호에 중점을 둔다. AI 영상 앱에서 생성되거나 유포되는 유해 콘텐츠에 대한 플랫폼의 책임이 강화되어, AI 기술의 오용을 방지하고 사용자 데이터 보안을 간접적으로 강화하는 중요한 규제 이정표가 되었다.

영국은 세계 최초의 AI 안전 정상회의를 블레츨리 파크에서 개최했다. 이 회의는 최첨단 AI의 위험, 특히 오용, 통제 상실, 데이터 보안 문제에 대한 국제적 논의를 촉진했다. 정상회의에서 채택된 '블레츨리 선언'은 AI 안전 연구 및 협력의 중요성을 강조하며, AI 기술의 책임감 있는 개발과 규제에 대한 영국의 리더십을 보여주었다.

정보위원회(ICO)는 생성형 AI에 대한 영국 데이터 보호법 적용에 대한 상담 결과를 발표했다. 이 결과는 웹 스크래핑의 법적 근거, 목적 제한, 데이터 정확성, 개인 권리 및 컨트롤러십 할당과 같은 주요 영역을 다루었다. 이는 AI 영상 앱을 포함한 생성형 AI 모델이 개인 데이터를 처리하는 방식에 대한 규제 명확성을 제공하며, 데이터 보안 및 개인 정보 보호에 대한 기업의 책임을 강조한다.

통신 규제 기관인 Ofcom은 온라인 안전법에 따라 아동을 유해 콘텐츠로부터 보호하기 위한 새로운 규칙에 대한 협의를 시작했다. 이 협의는 AI 기반 영상 앱을 포함한 온라인 플랫폼이 아동에게 적합하지 않거나 유해할 수 있는 콘텐츠에 접근하는 것을 어떻게 방지할지에 대한 제안을 포함한다. 이는 AI 영상 앱의 콘텐츠 관리 및 아동 데이터 보안에 대한 규제 압력을 증가시킨다.

Ofcom과 정보위원회(ICO)는 주요 기술 플랫폼에 서한을 보내 아동 보호를 위한 최소 연령 규칙을 효과적으로 시행할 것을 요구했다. 이는 온라인 안전법에 따른 조치로, AI 영상 앱을 포함한 플랫폼이 아동의 유해 콘텐츠 접근을 막고 개인 데이터를 안전하게 처리하도록 강력한 연령 확인 조치를 취해야 함을 강조한다. 4월 30일까지 플랫폼의 조치 계획 보고를 요청했으며, 불이행 시 규제 조치를 예고했다.

Malware has been abusing Android’s accessibility features for years. Google just made that a lot harder.

FoI request reveals no evidence of testing despite ministers hailing agreement as key to delivering AI-led public service reform

Weak demand and global trade pressures hit ouput, with energy price rises expected to bring further drop

Mistral is one of the few European startups building foundational AI models.