Anthropic은 보안상의 우려로 인해 자사의 고도화된 AI 모델인 ‘Clawed Mythos’의 일반 공개를 연기했습니다.
이 모델은 소프트웨어의 취약점을 식별할 수 있어, 오용될 경우 위험을 초래할 수 있습니다.
전문가들은 이 기술이 심각한 사이버 위협으로 이어질 수 있다고 경고하며, 잠재적 위험을 완화하기 위한 국제적 협력과 규제의 필요성을 강조하고 있습니다.
Anthropic has delayed the public release of its advanced AI model, Clawed Mythos, due to security concerns.
The model can identify software vulnerabilities, posing risks if misused.
Experts warn that this technology could lead to significant cyber threats, necessitating international cooperation and regulation to mitigate potential dangers.
사이버 보안 군비 경쟁
Anthropic의 AI 모델인 ‘Claude Mythos’는 수십 년간 인간 보안 연구자들과 수백만 건의 자동화 테스트가 탐지해내지 못했던 소프트웨어 취약점을 식별해낼 수 있습니다. 이는 모든 조직이 저렴하고 손쉽게 고도화된 해킹 도구를 이용할 수 있게 만들 잠재력을 보여주는 역량입니다.
Anthropic은 사이버 범죄자나 스파이가 이 모델에 접근할 경우 발생할 수 있는 ‘재앙적 위험’ 가능성 때문에, Claude Mythos를 일반에 공개하는 대신 엄선된 일부 기술 기업에만 테스트용으로 제공하고 있습니다. 이는 AI 기술의 역량이 의도적으로 일반 공개에서 보류되는 드문 사례로 기록됩니다.
글로벌 AI 거버넌스
Tom Freeman에 따르면, 세계 양대 기술 강국인 미국과 중국은 그 어떤 기업이나 국가도 홀로 해결할 수 없는 ‘상호 의존적인 글로벌 문제’로서 AI 보안 이슈에 접근해야 하며, 이를 위해 양국이 협력하여 AI를 공동으로 규제해야 합니다.
경제 및 사회적 파급효과
OpenAI는 현재의 AI 전환기를 대공황 시기의 경제적 격변기에 비견하며, 루즈벨트 대통령 시대의 ‘뉴딜 정책’을 모델로 삼은 ‘AI를 위한 뉴딜(New Deal for AI)’을 제안하고 있습니다. 이는 실제 일자리 혼란과 인간의 불안감을 해소할 수 있는 ‘상식적인 수준의 AI 규제’를 도입하자는 취지입니다.
보안 인프라에 대한 시사점
이 모델이 수십 년 묵은 취약점까지 찾아낼 수 있다는 점은 사이버 군비 경쟁의 가능성을 내포합니다. 즉, AI 기반 해킹 도구에 대한 접근성이 광범위하게 확대될 경우, 워싱턴과 실리콘밸리에 걸쳐 구축된 기존의 보안 인프라가 근본적으로 불안정해질 수 있다는 우려가 제기됩니다.
Cybersecurity Arms Race
Anthropic’s Claude Mythos AI model can identify software vulnerabilities that remained undetected for decades by both human security researchers and millions of automated tests, demonstrating capabilities that could enable cheap and easy access to advanced hacking tools for every organization.
Anthropic is restricting Claude Mythos to select tech companies for testing rather than public launch due to catastrophic risk potential if accessed by cybercriminals or spies, marking a rare instance of AI capability being deliberately withheld from general release.
Global AI Governance
US and China, as the two biggest tech superpowers, must cooperate and regulate AI together to address AI security as an interdependent global problem that no single company or country can solve alone, according to Tom Freeman.
Economic and Social Impact
OpenAI advocates for a “new deal for AI” modeled after the Roosevelt era to implement common-sense AI regulation addressing real job disruption and human anxiety, drawing parallels between current AI transformation and depression-era economic upheaval.
Security Infrastructure Implications
The model’s ability to find decades-old vulnerabilities creates potential for a cyber arms race where widespread access to AI-powered hacking tools could fundamentally destabilize existing security infrastructure across Washington and Silicon Valley.
