앤스로픽이 2일(현지시간) 제출한 수정 상장 서류(S-1/A)에서 재귀적 자기 개선(RSI) 능력을 갖춘 모델에 가까워졌을 수 있다는 취지의 위험 공시를 한 것으로 테크크런치가 전했다. 서류는 주로 매출은 늘지만 비용도 함께 늘고 있는 재무 상황으로 주목받았다.
RSI는 AI가 스스로를 훈련하는 능력이 높아져 AI 역량이 급격히 빨라지는 단계를 뜻한다. 이를 되돌릴 수 없는 분기점으로 보는 시각도 있고, 생산성과 과학 발전을 크게 끌어올릴 경로로 보는 시각도 있다. 올해 초 이 용어가 널리 퍼졌지만 모호한 구호라는 평가도 많았다.
서류에서 앤스로픽은 AI를 이용해 모델을 개발했고, 그 과정에서 당시에는 알아차리지 못한 능력 도약이 있었다고 밝혔다. 내부 추정과 향후 모델에 대한 기대를 보면 자사 책임 있는 확장 정책이 정한 'AI에 기인한 극적으로 가속된 진전' 기준을 곧 충족할 수 있다고 적었다.
다만 현재 이 기준을 넘어선 모델로 지정된 것은 없으며 관련 자료를 계속 평가하고 있다고 덧붙였다. 또 클로드가 의미 있는 사람의 감독 없이 다음 세대 최첨단 모델을 스스로 설계하고 만드는 것을 안전하게 허용할 수 있으리라고는 예상하지 않는다고 했다. 사람의 통제를 유지하기 위해 정책 개정도 검토 중이다.
테크크런치는 S-1이 법적 공시이면서 동시에 홍보 문서이기도 하므로 RSI 관련 서술에 홍보 성격이 섞였을 수 있다는 회의론이 있다고 전했다. 한편 2026년 클로드가 코딩, 수학, 사이버 보안 등에서 빠르게 향상된 점을 들어 경고를 가볍게 볼 수 없다는 지적도 소개했다.
원문: TechCrunch
이 글은 원문에 담긴 사실을 바탕으로 Raon Community가 새로 작성한 기사입니다. 원문의 저작권은 원저작자에게 있으며, 자세한 내용은 원문에서 확인해 주세요.