개발사까지 통제 불가라는 AI 미토스

AI 모델 ‘클로드(Claude)’의 개발사인 앤스로픽(Anthropic)은 AI의 급격한 발전 속도에 대해 경고하며, AI 기술 진보의 속도를 전 세계적으로 늦출 것을 제안했습니다.

이 회사의 새로운 모델인 ‘미토스(Mythos)’는 보안 취약점을 자율적으로 악용할 수 있어 사이버 보안에 대한 우려를 낳고 있습니다.

이에 미국 정부는 국가 안보와 금융 시스템에 미칠 잠재적 위험을 강조하며 긴급하게 대응에 나섰습니다.

Anthropic, the developer of the AI model Claude, warns about the rapid development of AI, suggesting a global slowdown in AI advancements.

Their new model, Mythos, can autonomously exploit security vulnerabilities, raising concerns about cybersecurity.

The U.S. government has reacted urgently, highlighting the potential risks to national security and financial systems.

(다른 요약:)

AI 모델 ‘클로드(Claude)’의 개발사인 앤스로픽(Anthropic)은 AI 모델 개발 속도를 늦추는 방안을 고려해야 한다고 주장했습니다.

앤스로픽은 현지 시간 4일 블로그를 통해 자사의 최첨단 모델이 급격히 발전하고 있다는 데이터를 공개하며, AI가 머지않아 인간의 개입 없이 스스로 성능을 개선할 수 있는 단계에 이를 수 있다는 우려를 제기했습니다.

이에 따라 앤스로픽은 최첨단 AI 개발 속도를 늦추거나 일시적으로 중단할 수 있는 선택지를 갖는 것이 바람직하다는 견해를 밝혔습니다.

Anthropic, the developer of the AI ​​model “Claude,” has argued that the world should consider ways to slow down the pace of AI model development.

On the 4th (local time), Anthropic published a blog post presenting data on the rapid advancement of its most sophisticated models and raised concerns that AI could soon reach a stage where it is capable of self-improvement without human intervention.

Consequently, the company stated its belief that it would be desirable for the world to have the option to slow down or temporarily halt the development of cutting-edge AI.