Anthropic이 미국 정부의 요청에 따라 AI 모델 Mythos에 대한 접근을 차단했습니다. 이는 국가 안보 관련 지침을 준수하기 위한 조치로 알려져 있습니다.
트럼프 행정부, 앤스로픽 AI 모델 해외 접근 차단 명령
AI 안전 연구 회사 앤스로픽이 트럼프 행정부의 전례 없는 명령에 따라 자사의 최첨단 AI 모델인 ‘미토스’와 ‘페이블 5’에 대한 해외 사용자의 접근을 차단했습니다. 미국 상무부는 국가 안보를 이유로 미국 내외의 모든 외국인에게 이 두 모델의 접근을 중단하라고 지시했으며, 앤스로픽은 규정 준수를 위해 모든 고객에게 이 시스템들을 폐쇄했습니다. 이는 미국 기업이 개발한 최첨단 AI 모델의 해외 접근을 제한하기 위해 미국 정부가 취한 가장 광범위한 조치입니다.
앤스로픽은 정부가 페이블 5의 보안 장치를 우회할 수 있는 ‘탈옥’ 취약점을 발견한 후 이 명령을 내렸다고 밝혔습니다. 회사는 성명에서 ‘좁은 범위의 잠재적 탈옥 발견이 수억 명의 사람들에게 배포된 상용 모델을 회수할 이유가 되어서는 안 된다’고 주장했습니다. 만약 이 기준이 업계 전체에 적용된다면 모든 최첨단 모델 제공업체의 새로운 모델 배포가 본질적으로 중단될 것이라고 앤스로픽은 지적했습니다.
이번 조치는 반도체와 슈퍼컴퓨터 같은 다른 중요 기술에 대한 해외 접근을 제한해온 트럼프 및 바이든 행정부의 기존 정책과 맥락을 같이합니다. 그러나 소프트웨어 자체에 대한 제한은 헌법적 우려와 상업적 문제를 야기하고 있습니다. 업계 지도자들은 미국 AI 시스템의 세계적 채택을 촉진하고 미국의 기술 우위를 보호해야 한다고 주장해왔습니다.
아마존 연구팀의 취약점 발견이 정부 조치 촉발
아마존의 연구팀이 앤스로픽 모델의 보안 취약점을 드러내는 탈옥 연구를 수행했으며, 이것이 정부 조치의 계기가 된 것으로 알려졌습니다. 월스트리트저널 보도에 따르면 아마존과 미국 정부는 통제 조치가 시행되기 전에 이 취약점에 대해 접촉했습니다. 아마존의 앤디 재시 최고경영자가 이러한 논의에 참여했다고 익명의 소식통들이 전했습니다.
아마존 대변인은 정부가 보안 위험에 대해 회사와 상담하는 것이 드문 일이 아니라고 말했지만, 구체적인 논의 내용은 공개하지 않았습니다. 앤스로픽의 다리오 아모데이 최고경영자는 이번 사건이 AI 기술의 영향력에 대한 경각심을 일깨웠다고 평가했습니다. 코히어의 공동 창립자 에이단 고메즈는 ‘이것이 얼마나 광범위한 영향을 미칠 수 있는지 더 이상 부인할 수 없다’고 지적했습니다.
이번 정부 조치는 OpenAI, 구글, 메타 등 주요 AI 모델 개발업체들에게 선례를 설정할 수 있는 위험성을 안고 있습니다. 엔비디아의 젠슨 황 최고경영자와 OpenAI의 샘 알트만 최고경영자는 과거 미국 정부가 미국 AI 시스템의 세계적 채택을 촉진할 것을 권장했습니다. 이번 조치는 그러한 전략과 정면으로 충돌하고 있습니다.
앤스로픽과 트럼프 행정부 간 갈등의 심화
앤스로픽은 금요일 오후 5시 21분(뉴욕 시간)에 정부 명령을 받았으며, 이는 트럼프 대통령이 최근 서명한 행정명령과 모순됩니다. 그 행정명령은 모델 검토를 위한 의무적 허가 체계를 추진하지 않겠다고 명시했었습니다. 이번 지시는 앤스로픽과 트럼프 행정부 내 일부 세력 간의 오래된 긴장을 더욱 악화시킬 것으로 보입니다.
올해 초 앤스로픽은 군사 및 감시 목적으로의 기술 사용을 둘러싸고 국방부와 충돌했습니다. 행정부는 이 사건으로 인해 앤스로픽을 미국 공급망 위험으로 선언했으며, 미국 기관들에 회사 제품의 사용을 단계적으로 중단하도록 명령했습니다. 책임감 있는 AI 개발자로 자리매김해온 앤스로픽은 4월 미토스 모델을 제한된 범위의 기업과 기관에만 공개했습니다.
트럼프 행정부의 전 AI 담당자이자 현재 대통령 과학기술 자문위원회 공동 의장인 데이비드 색스는 앤스로픽이 페이블 모델의 탈옥 문제를 해결하기를 거부했다고 주장했습니다. 그는 X에 올린 글에서 ‘행정부의 희망은 앤스로픽이 안전 문제를 해결하고 수출 통제가 해제되며 페이블이 일반 공개로 돌아가는 것’이라고 썼습니다. 색스는 앤스로픽이 자신들이 최우선 과제라고 말했던 안전 요청에 응하지 않은 것에 놀라움을 표했습니다.
AI 경쟁과 IPO 추진 속 규제 충돌
최신 정부 제한 조치는 미국 개발업체들 사이의 최첨단 AI 모델 경쟁과 투자자들에게 기술의 수익성을 입증하려는 경쟁과 충돌하고 있습니다. OpenAI와 앤스로픽 모두 올해 중 기업공개를 추진 중이며, 이는 스페이스X의 역사적 IPO에 이은 것입니다. 이러한 경쟁 속에서 앤스로픽은 지난달 정부와 AI 개발업체가 기술이 초래할 수 있는 위험을 방지하기 위해 언제 작업을 늦출지 함께 결정하는 체계 구축을 촉구하는 긴 블로그 글을 게시했습니다.
앤스로픽은 그 글에서 ‘위험할 수 있는 AI 작업을 일시적으로 중단할 수 있는 선택지를 세상이 갖는 것이 좋을 것’이라고 밝혔습니다. AI 기술이 인간의 업무 효율성을 수천 배 높이거나 심지어 대체할 수 있는 수준으로 발전하고 있으며, 이는 새로운 위험 집합을 만들어내고 있다고 회사는 설명했습니다. 유럽연합 집행위원회는 앤스로픽의 성명을 평가 중이며 강력한 새로운 AI 모델과 관련된 잠재적 위험과 사이버 보안 우려에 대해 동맹국들과 계속 대화하고 있습니다.
유럽연합은 최근 사건들이 유럽의 기술 주권 필요성을 강조한다고 덧붙였습니다. 코히어의 고메즈는 ‘이 분야의 사람으로서 이런 상황을 보는 것이 특별히 기쁘지 않다’며 ‘이것이 협력적이라고 생각하지 않으며, 지난 80년간 발전해온 광범위한 기술 동맹을 위해 올바른 일이라고 생각하지 않는다’고 말했습니다.
※ 개인 사례에 바로 적용하기 어렵습니다. 전문가 조언을 권장합니다.
