영국 AI 모델 개발 및 사이버 보안 능력 논란 타임라인

영국은 세계 최초의 AI 안전 정상회의를 블레츨리 파크에서 개최하여 AI의 위험을 완화하기 위한 국제적 협력을 가속화했습니다. 이 회의는 AI 안전 연구 및 테스트에 대한 강조를 시작했으며, 사이버 보안 위험을 포함한 AI의 잠재적 위험에 대한 논의를 촉발했습니다.

영국 정부는 AI 기업 Anthropic과 파트너십을 맺고 공공 서비스에 AI를 활용하는 방안을 모색했습니다. 동시에 AI 안전 연구소(AI Safety Institute)를 AI 보안 연구소(AI Security Institute)로 재편하여 AI 시스템의 보안 배포에 대한 초점을 강화했습니다. 이는 AI 개발과 사이버 보안 간의 긴밀한 연계를 강조하는 전환점이었습니다.

GCHQ의 국립 사이버 보안 센터(NCSC)는 AI 발전이 소프트웨어 취약점 발견과 악의적인 공격자들의 악용 사이의 시간을 단축시켜 영국 핵심 시스템에 대한 위협을 증가시킬 것이라고 경고했습니다. 이 보고서는 AI가 사이버 위협 환경을 변화시키고 공격 표면을 확장하며 악의적인 기능을 가속화하고 있음을 강조했습니다.

Anthropic은 영국 AI 보안 연구소(AISI)와 협력을 강화하여 AI 시스템의 보안을 측정하고 개선했습니다. 이 파트너십은 Anthropic의 모델 개발 초기 단계부터 AISI 팀에 시스템 접근 권한을 제공하여 지속적인 테스트와 취약점 식별을 가능하게 했습니다. 이는 정부와 산업 간의 실질적인 협력 사례를 보여줍니다.

영국 의회는 AI 안전에 대한 토론을 개최하며, AI의 잠재적 위험과 국가 안보에 미치는 영향에 대한 우려를 표명했습니다. 이 논의는 AI가 사이버 공격을 가속화하고 기존의 사이버 보안 기술 격차를 심화시킬 수 있다는 점을 강조하며, AI 시대에 필요한 인력 양성의 중요성을 부각시켰습니다.

Anthropic은 영국 과학혁신기술부(DSIT)와 협력하여 GOV.UK 웹사이트를 위한 AI 기반 비서를 개발하기로 했습니다. 이 비서는 시민들이 정부 서비스에 접근하고 맞춤형 조언을 얻는 데 도움을 줄 것입니다. 이 파트너십은 AI를 공공 서비스에 안전하게 배포하고 AI 안전 전문 지식을 정부 내에 구축하는 데 중점을 둡니다.

영국 금융 규제 당국은 Anthropic의 최신 AI 모델인 'Claude Mythos Preview'와 관련된 잠재적 사이버 보안 위험에 대해 정부 사이버 보안 기관 및 주요 금융 기관과 긴급 회의를 가졌습니다. 이 모델이 비판적 IT 시스템의 취약점을 노출할 수 있다는 우려가 제기되었으며, 이는 AI 모델 개발의 빠른 속도와 그에 따른 보안 문제에 대한 논란을 심화시켰습니다.

영국 정부는 기업들에게 새로운 AI 모델이 소프트웨어 취약점을 발견하고 악용하는 능력을 빠르게 발전시키고 있다고 경고했습니다. 비즈니스 장관 리즈 켄달은 기업들이 사이버 위험을 핵심 전략적 우선순위로 삼고 NCSC의 지침을 따를 것을 촉구했습니다. 이는 AI가 사이버 공격의 규모와 속도를 전례 없이 증가시키고 있다는 우려를 반영합니다.

Mythos, Anthropic's most advanced AI model to date, has sparked fears about the threat to traditional software security after the AI ‌startup said the preview had uncovered "thousands" of major vulnerabilities in "every major operating system and web browser."