2026.07.14 화요일
검색
'탈옥' 검색결과
기간검색
-
~
검색영역
검색어
-
앤트로픽 'Fable 5' 다시 열린다…미국 AI 통제 시험대 오른 프런티어 모델 [경제일보] 미국 정부가 국가안보 우려를 이유로 일시 제한했던 앤트로픽의 최신 인공지능(AI) 모델 접근을 다시 허용하면서 프런티어 AI를 둘러싼 규제와 기업의 출시 전략이 새로운 국면을 맞고 있다. 단순한 서비스 재개를 넘어 최첨단 AI 모델의 공개 범위와 정부 개입 수준을 둘러싼 논쟁이 본격화하고 있다는 평가다. 앤트로픽은 지난 6월 30일 공식 블로그를 통해 최신 AI 모델 '클로드 페이블(Fable)5'를 7월 1일부터 전 세계 사용자에게 다시 제공한다고 밝혔다. 해당 모델은 클로드 플랫폼과 클로드.ai, 클로드 코드, 클로드 코워크 등 주요 서비스에서 이용할 수 있으며, 유료 이용자는 일정 기간 추가 비용 없이 사용할 수 있다. AWS와 구글 클라우드, 마이크로소프트 플랫폼에서도 순차적으로 서비스가 재개될 예정이다. 이번 결정은 미국 상무부가 지난 12일 Fable 5와 최상위 사이버 보안 특화 모델인 '클로드 미토스(Mythos)5'에 적용했던 수출통제를 해제하면서 이뤄졌다. 당시 앤트로픽은 외국 국적자의 접근을 제한해야 했지만 이용자의 국적을 실시간으로 식별하기 어려워 두 모델의 접근 자체를 중단했다. 두 모델의 성격은 다르다. Mythos 5는 전문가 수준의 취약점 탐지와 공격 경로 분석 능력을 갖춘 최상위 사이버 보안 모델로 평가된다. 반면 Fable 5는 일반 이용자를 위해 안전장치를 강화한 버전으로 해킹이나 무기 제조 등 민감한 영역에 대한 응답을 제한하도록 설계됐다. 수출통제의 직접적인 배경은 이른바 '탈옥(Jailbreak)' 우려였다. 앤트로픽에 따르면 아마존 연구진은 Fable 5의 안전장치를 우회해 소프트웨어 취약점을 식별하도록 만드는 기법을 발견했다. 일부 사례에서는 취약점 악용 코드까지 생성된 것으로 알려졌다. 앤트로픽은 이후 미국 정부와 아마존 등 파트너사와 공동 검토를 진행했고 문제 행동을 차단하는 새로운 안전 분류기를 학습시켰다. 회사 측은 해당 분류기가 보고된 우회 기법을 99% 이상 차단한다고 설명했다. 다만 부작용도 있다. 안전장치를 강화할수록 정상적인 코딩이나 디버깅 요청까지 차단될 가능성이 높아지기 때문이다. 보안을 강화하면 생산성이 떨어지고 개방성을 높이면 위험성이 커지는 딜레마가 AI 업계의 새로운 과제로 떠오르고 있는 셈이다. Mythos 5는 아직 전면 재개되지 않았다. 앤트로픽은 미국 정부 승인에 따라 일부 미국 기관과 기업을 대상으로만 접근을 복원했으며 향후 더 많은 국내외 파트너로 확대하기 위해 정부와 협의를 이어가고 있다고 밝혔다. 이번 사안은 경쟁사인 오픈AI에도 적지 않은 영향을 미치고 있다. 오픈AI 역시 차세대 모델 공개 과정에서 정부와 공유된 '신뢰할 수 있는 파트너'에게 우선 제공하는 방식을 검토한 것으로 알려졌다. AI 업계에서는 정부의 사전 검증 절차가 새로운 산업 표준으로 자리 잡을 가능성에 주목하고 있다. 실제로 백악관은 지난 6월 국가안보 역량을 갖춘 프런티어 AI 모델에 대해 정부와 기업이 공동으로 사전 평가 체계를 구축하는 내용의 행정명령을 발표했다. 의무적인 허가제는 아니지만 업계에서는 사실상 사전 검증 체계로 받아들이는 분위기다. 앤트로픽은 아마존과 마이크로소프트, 구글 등 주요 파트너와 함께 AI 탈옥 위험성을 평가하는 공통 산업 프레임워크 구축에도 나설 계획이다. 탈옥이 모델의 능력을 얼마나 확장하는지 실제 공격으로 이어질 가능성은 어느 정도인지 등을 공동 기준으로 평가하겠다는 구상이다. Fable 5의 재개방은 단순한 서비스 재개 이상의 의미를 갖는다. 미국 정부는 국가안보를 이유로 최상위 AI 모델에 대한 접근을 제한했고 기업은 안전장치를 보강해 다시 문을 열었다. 프런티어 AI 경쟁은 이제 성능 경쟁만으로 설명하기 어려운 단계에 접어들었다. 한편 모델을 얼마나 빨리 공개하느냐보다, 얼마나 안전하게 운영하고 정부와 시장의 신뢰를 확보할 수 있느냐가 새로운 경쟁력이 되고 있다. AI 산업은 성능 중심의 경쟁에서 안전성과 통제, 신뢰를 함께 검증받는 시대로 넘어가고 있다.2026-07-01 15:54:33
-
美정부, 오픈AI GPT-5.6 출시 제동…첨단 AI도 '사전 통제' 시대로 [경제일보] 미국 정부가 오픈AI의 차세대 인공지능 모델 GPT-5.6 공개에 제동을 걸었다. 일반 출시 전에 정부가 승인한 일부 파트너에게만 먼저 제공하도록 요청한 것으로 전해졌다. 첨단 AI 모델이 국가안보와 사이버 위험의 핵심 변수로 떠오르면서 미국의 AI 통제가 한층 구체화되는 모습이다. 악시오스는 25일 현지시간 백악관 국가사이버국과 과학기술정책실이 새 AI 모델의 보안성 평가 체계를 마련하는 과정에서 오픈AI에 GPT-5.6의 단계적 출시를 요청했다고 보도했다. 더버지도 오픈AI가 트럼프 행정부 요청에 따라 GPT-5.6의 전면 출시를 늦추고 제한된 기업 고객에게 먼저 제공할 계획이라고 전했다. 샘 올트먼 오픈AI 최고경영자는 정부 요청을 수용한 것으로 알려졌다. 외신에 따르면 올트먼 CEO는 직원들에게 GPT-5.6을 제한적으로 출시하겠다고 밝히면서도 이 방식이 장기적으로 오픈AI가 선호하는 모델은 아니라는 입장을 정부에 전달했다. 향후 모델 출시를 위해 더 지속 가능한 접근 방식을 정부와 업계가 함께 마련해야 한다는 취지다. 파이낸셜타임스는 약 두 자릿수 규모의 파트너가 초기 사용 권한을 받을 것으로 보도했다. 일부 보도에서는 20개 안팎 파트너가 아마존의 AI 플랫폼 베드록을 통해 GPT-5.6을 이용할 수 있다는 내용도 나왔다. 다만 파트너 명단과 정부 승인 기준은 공개되지 않았다. 이번 조치는 앤스로픽에 대한 접근 제한 이후 나왔다. 더버지와 파이낸셜타임스는 미 정부가 앤스로픽의 최신 모델인 Fable 5와 Mythos 5에 대해 외국인 접근 제한을 요구했고, 이 과정에서 서비스 중단과 복원 협의가 이어졌다고 보도했다. 정부는 탈옥과 보안 우회 가능성, 적대국 접근 위험을 문제 삼은 것으로 전해졌다. 미국 정부가 민간 AI 모델의 출시 방식에 개입한 배경에는 프런티어 모델의 성능 고도화가 있다. 최신 모델은 코드 작성과 취약점 분석, 생물·화학 지식 처리, 자동화된 에이전트 실행 능력이 빠르게 강화되고 있다. 기업에는 생산성 도구지만 정부 시각에서는 사이버 공격과 무기화 가능성을 함께 봐야 하는 기술이다. 트럼프 행정부는 이달 초 AI 기업들이 새 모델 출시 전 자발적 안전성 시험을 거치도록 하는 행정명령에도 서명한 것으로 보도됐다. 해당 조치는 정부와 AI 기업이 60일 안에 협력 체계를 마련하고 프런티어 모델을 정식 출시 전 사전 검토할 수 있는 절차를 담은 것으로 전해진다. AI 업계에는 부담이 커졌다. 오픈AI와 앤스로픽, 구글, 메타 등은 중국 오픈소스 모델과도 경쟁하고 있다. 모델 출시가 늦어지면 시장 선점과 개발자 생태계 확장에 영향을 받을 수 있다. 반대로 안전성 검증 없이 강력한 모델을 공개했다가 사고가 발생하면 규제는 더 강해질 수 있다. 오픈AI 입장에서도 GPT-5.6은 기술 경쟁력과 수익성을 동시에 보여줘야 하는 모델이다. 고성능 모델은 더 많은 기업 고객을 끌어올 수 있지만 추론 비용과 보안 책임도 함께 키운다. 정부가 초기 고객을 걸러내는 구조는 위험을 줄일 수 있지만 민간 기업의 출시 전략과 영업 자유를 제약할 수 있다. 첨단 AI 경쟁은 이제 모델 성능만의 싸움이 아니다. 누가 더 강한 모델을 빨리 내놓느냐와 함께 그 모델을 누가 쓸 수 있고 어떤 조건으로 배포할지가 경쟁력의 일부가 됐다. GPT-5.6 단계적 출시는 미국이 프런티어 AI를 반도체와 클라우드처럼 전략 기술로 다루기 시작했다는 신호다. 앞으로 기업들은 더 빠른 모델 개발만큼이나 정부 검증과 안전장치 설계에 무게를 둘 수밖에 없다.2026-06-26 16:30:13
-
AI도 한국 문화 맞춤 검증…KT, AI 안전성 벤치마크 'KSAFE-MM' 공개 [경제일보] KT가 한국 사회와 문화적 특성을 반영한 멀티모달 인공지능(AI) 안전성 평가 체계를 공개했다. 생성형 AI 확산으로 텍스트를 넘어 이미지와 음성까지 동시에 이해하는 멀티모달 AI 활용이 늘어나는 가운데 국내 환경에 맞는 안전성 검증 기준을 마련해 AI 신뢰성 확보에 나서겠다는 전략으로 풀이된다. 16일 KT는 고려대학교와 공동으로 개발한 멀티모달 대형언어모델(MLLM) 안전성 벤치마크 'KSAFE-MM'을 공개했다고 밝혔다. 최근 생성형 AI 시장은 텍스트 중심 서비스에서 이미지와 음성, 영상까지 통합적으로 처리하는 멀티모달 AI 중심으로 빠르게 진화하고 있다. 다만 AI 모델의 활용 범위가 확대될수록 허위정보 생성, 편향성, 유해 콘텐츠 노출, 개인정보 침해 등 안전성 이슈 역시 함께 커지고 있는 것으로 알려졌다. 특히 글로벌 AI 기업들이 개발한 안전성 평가 기준은 영어권 문화와 사회 환경을 중심으로 설계돼 국내 이용 환경과 문화적 특수성을 충분히 반영하지 못한다는 한계도 제기돼 왔다. 이에 KT와 고려대는 해당 문제를 해결하기 위해 'KSAFE-MM'을 공동 개발했다고 설명했다. 'KSAFE-MM'은 한국 사회의 문화적·사회적 맥락을 반영한 멀티모달 AI 안전성 평가 체계로, 글로벌 공통 위험 요소를 한국 문화 환경에 맞게 재구성한 'KSAFE-MM-G'와 전세 사기, 독도 분쟁 등 국내 특수 이슈를 반영한 'KSAFE-MM-C'로 구성된다. 전체 평가 데이터는 총 1만4135개 샘플 규모다. 연구진은 해당 벤치마크를 활용해 구글의 '젬마'와 네이버의 '하이퍼클로바 X'를 비롯한 12개 글로벌 멀티모달 AI 모델의 안전성을 검증했다. 이번 연구의 가장 큰 특징은 벤치마크 구축 과정을 자동화한 것이다. 기존 AI 안전성 벤치마크는 전문가가 데이터를 수집하고 검수하는 방식이 대부분으로 많은 비용과 시간이 필요했다. 반면 KSAFE-MM은 현지 커뮤니티 기반 민감 주제 수집, 템플릿 기반 질의 생성, 합성 이미지 제작, 탈옥 질의 생성까지 전 과정을 자동화한 4단계 파이프라인을 구축했다. KT와 고려대 연구진은 동일한 파이프라인을 일본어 환경에 적용한 파일럿 프로젝트 'JSAFE-MM-C'도 진행했다. 연구진은 이를 통해 해당 프레임워크가 한국뿐 아니라 다양한 국가와 문화권에서도 활용 가능한 범용 안전성 평가 체계임을 확인했다고 설명했다. 업계에서는 생성형 AI 규제 논의가 본격화되는 가운데 AI 안전성 평가 체계의 중요성이 더욱 커질 것으로 전망하고 있다. 특히 기업들은 AI 서비스 출시 전 위험 요소를 점검하는 레드팀 테스트와 가드레일 모델 검증 수요가 늘어나고 있어 실질적인 활용도가 높을 것으로 분석된다. KT는 이번 연구 결과를 실제 AI 서비스 안전성 검증과 모델 평가, 위험 분석 등에 활용할 계획이다. 연구 결과와 벤치마크 데이터는 '아카이브'와 '허깅페이스'를 통해 공개돼 학계와 산업계가 자유롭게 활용할 수 있다. KT는 최근 다국어 AI 안전성 벤치마크 'XL-세이프티벤치'를 공개한 데 이어 KSAFE-MM을 선보이며 한국형 AI 안전성 평가 체계 구축을 확대하고 있다. KT는 책임 있는 AI 전담 조직을 중심으로 안전성 분류 체계와 평가 로직 개발 등 관련 연구를 지속 추진한다는 방침이다. 박재형 KT AX미래기술원 프론티어 AI Lab장 상무는 "안전성 벤치마크의 공개는 단순한 데이터 배포를 넘어 AI 안전성 연구 생태계 전반이 함께 발전할 수 있는 기반을 만드는 일"이라며 "KSAFE-MM이 학계와 산업계에서 한국어·한국 문화 맥락의 AI 안전성을 검증하는 공통 기준으로 자리잡길 기대한다"고 말했다.2026-06-16 14:07:30
-
![[데스크칼럼] 페이블5가 멈춘 날, 한국 AI의 시간이 시작됐다](https://image.ajunews.com//content/image/2026/06/14/20260614154334283754.jpg)
페이블5가 멈춘 날, 한국 AI의 시간이 시작됐다 앤트로픽의 최신 인공지능(AI) 모델 페이블5와 미토스5가 멈췄다. 표면적인 이유는 보안이다. 안전장치를 우회하는 이른바 '탈옥' 가능성이 있고 이를 통해 소프트웨어 취약점 탐색이 사이버 공격에 악용될 수 있다는 논리다. 미국 정부는 국가안보를 이유로 외국 국적자의 접근을 차단했고 앤트로픽은 결국 전체 고객을 대상으로 해당 모델 사용을 비활성화했다. 여기까지 보면 하나의 보안 사고처럼 보인다. 그러나 이 말도 안 되는 상황은 미국이 인공지능을 반도체 다음의 전략물자로 공식 편입한 장면이다. 예전에는 칩을 막았다. 그다음에는 첨단 장비를 막았다. 이제는 AI 모델을 막는다. 더 정확히 말하면 최상위 AI의 지능에 접근할 권리 자체를 통제하기 시작한 것이다. 이번 조치의 핵심은 기술이 아니라 국적이었다. 미국 밖 이용자뿐 아니라 미국 내 외국인과 앤트로픽 내부의 외국 국적 직원까지 대상에 포함됐다. API 키와 결제 정보로 사용자를 구분하던 시대는 끝났다. 여권이 로그인 화면 위로 올라온 셈이다. "당신은 누구인가"가 아니라 "당신은 어느 나라 사람인가"가 인공지능 접근권의 마지막 질문이 된 것이다. 미국의 행태는 낯설지 않다. 미국은 늘 개방의 언어로 세계시장을 열어왔다. 자유무역을 말했고 혁신 생태계를 말했으며 글로벌 표준을 이야기했다. 그러나 결정적 기술이 안보와 연결되는 순간 문을 닫았다. 반도체에서 그랬고 첨단 장비에서 그랬으며 이제 AI에서도 같은 일이 벌어지고 있다. 미국 기업의 서비스라고 해서 끝까지 시장 논리로만 움직일 것이라고 믿는 것은 순진한 일이다. 마지막 스위치는 결국 워싱턴에 있다. 물론 미국에도 명분은 있다. 최상위 AI 모델은 더 이상 검색창의 연장선이 아니다. 긴 코드베이스를 읽고 취약점을 찾으며 생명과학 연구를 돕고 복잡한 업무를 대신 수행하는 에이전트로 진화하고 있다. 방어자에게 유용한 능력은 공격자에게도 유용하다. 미국 정부가 이를 안보 자산으로 보는 것은 자연스러운 흐름이다. 문제는 방식이다. 특정 위험을 정밀하게 통제하는 대신 국적이라는 거친 잣대를 꺼내 들었다. 글로벌 업무 환경에서는 버튼을 누른 사람과 결과물을 받은 사람이 다를 수 있다. 한국 국적자가 미국 법인에서 일하고 싱가포르 법인이 결제하며 유럽 고객 데이터를 다루는 시대다. 국적만으로 접근권을 자르는 방식은 현실의 업무 흐름을 따라가지 못한다. 더 큰 문제는 신뢰다. AI 인프라는 성능만으로 선택되지 않는다. 계속 사용할 수 있어야 한다. 기업의 업무 시스템에 한 번 들어간 모델은 전기나 통신망처럼 안정적으로 작동해야 한다. 그런데 어느 날 정부 지침 하나로 막힐 수 있다는 사실이 확인됐다. 페이블5가 언제 다시 열릴지는 부차적인 문제다. 이미 세계 각국의 정부와 기업은 새로운 질문을 던지기 시작했다. 우리 핵심 업무가 미국 모델 하나에 얼마나 묶여 있는가. 내일 더 강력한 모델이 국적이나 용도, 외교 문제로 막히면 무엇이 멈추는가. 대체 모델은 있는가. 자체 튜닝은 가능한가. 오픈 모델로 버틸 수 있는가. 이 질문이 시작된 순간 미국은 일부 신뢰 자본을 잃었다. 기술 패권국이 가장 경계해야 할 것은 경쟁자의 추격만이 아니다. 고객이 "이 인프라는 언제든 끊길 수 있다"고 느끼는 순간이다. 최고 성능보다 더 중요한 것이 생겼다. 지속 가능성이다. 한국은 바로 이 지점에서 길을 찾아야 한다. 소버린 AI는 더 이상 관료적 구호가 아니다. 산업 보험이자 디지털 안보이며 국가 경쟁력의 하부 구조다. 행정, 금융, 제조, 의료, 국방이 AI 위에서 돌아가기 시작하면 모델 접근권은 선택재가 아니라 필수재가 된다. 남의 나라 안보 판단에 따라 멈출 수 있는 AI에 핵심 업무를 모두 맡기는 것은 위험하다. 그렇다고 한국이 닫힌 모델의 작은 미국이 되자는 뜻은 아니다. 미국이 "누구는 못 쓴다"고 말할 때 한국은 "여기서는 만들 수 있다"고 말해야 한다. 한국에서 개발하고 한국에서 검증하며 한국의 인프라 위에서 세계가 함께 활용할 수 있는 개방형 AI 생태계를 구축해야 한다. 한국에는 그럴 자산이 있다. 메모리 반도체와 제조 공급망이 있고 초고속 통신망과 데이터센터 운영 경험이 있다. 금융·제조·의료·공공행정처럼 규제가 복잡하고 품질 검증이 중요한 산업 현장도 갖추고 있다. AI가 진짜 돈을 버는 곳은 화려한 시연장이 아니라 이런 현장이다. 거대 모델 하나를 자랑하는 데 그쳐서는 안 된다. 산업 데이터를 안전하게 연결하고 성능을 평가하며 보안을 통제하고 규제를 통과시키는 운영 체계를 만들어야 한다. 앞으로 기업이 원하는 것은 가장 똑똑한 모델 하나가 아니다. 모델이 바뀌어도 업무가 멈추지 않는 구조다. 오늘은 미국 모델을 쓰고 내일은 한국형 모델을 쓰며 특정 업무에는 오픈웨이트 모델을 적용하더라도 전체 시스템이 흔들리지 않는 환경이다. 모델 라우팅, 품질 평가, 비용 최적화, 보안 통제, 감사 기록, 데이터 주권을 묶은 운영층이 진짜 승부처가 된다. 한국 AI 산업이 잡아야 할 곳도 바로 그 지점이다. 정부의 역할도 달라져야 한다. 국산 모델 이름 몇 개를 지정하고 지원금을 배분하는 수준으로는 부족하다. 충분한 컴퓨팅 자원과 저렴한 추론 인프라, 안정적인 전력과 데이터센터, 공공 데이터의 안전한 개방, 산업별 평가 기준, 해외 개발자와 연구자가 들어올 수 있는 제도까지 함께 설계해야 한다. AI 주권은 연구실에서만 생기지 않는다. 전력망과 통신망, 클라우드, 법·제도, 인재 정책이 함께 움직일 때 비로소 완성된다. 기업도 선택해야 한다. 미국 모델을 붙여 업무 효율을 조금 높이는 수준에 머물 것인가. 아니면 제조 공정과 고객 상담, 금융 심사, 네트워크 운용, 보안 관제 같은 실제 업무에 AI를 깊숙이 심고 그 과정에서 축적되는 데이터와 평가 체계를 자산으로 만들 것인가. 앞으로의 해자는 모델 크기가 아니라 현장에서 쌓이는 경험에서 만들어진다. 매일 축적되는 업무 데이터와 사람이 고친 흔적, 실패 사례, 규정 해석, 산업별 언어가 진짜 경쟁력이다. 페이블5 사태는 불편한 현실을 보여줬다. 우리가 사용하는 최고 수준의 AI 상당수는 남의 나라 법과 남의 나라 안보 판단 아래 있다. 오늘은 앤트로픽이고 내일은 다른 회사일 수 있다. 미국이 동맹이라고 해서 모든 지능을 끝까지 나눠줄 것이라고 믿어서는 안 된다. 국가는 결국 자국의 이익을 먼저 본다. 그것이 국제질서의 냉정한 얼굴이다. 그러나 이 사건은 동시에 기회이기도 하다. 미국이 통제의 언어를 강화할수록 세계는 대체지를 찾게 된다. 중국 모델을 쓰기에는 안보가 불안하고 미국 모델에만 기대기에는 접근권이 불안한 나라들이 늘어날 것이다. 한국이 그 사이에서 신뢰할 수 있는 개방형 AI 인프라 국가로 자리 잡는다면 새로운 길은 열린다. 반도체를 수출하던 나라에서 AI 운영 인프라를 제공하는 나라로 도약할 수 있다. 페이블5가 멈춘 날, 한국 AI가 가야 할 길도 분명해졌다. 닫힌 제국의 주변부가 될 것인가. 열린 항구가 될 것인가. 남의 모델이 허락한 만큼만 일할 것인가. 우리가 만든 인프라 위에서 세계가 일하게 할 것인가. AI 주권은 선언으로 오지 않는다. 끊겨도 버틸 수 있는 능력, 세계가 믿고 들어오는 생태계에서 온다. 미국은 페이블5를 잠그며 힘을 과시했다. 동시에 세계에 불안을 심었다. 한국이 해야 할 일은 그 불안을 기회로 바꾸는 것이다. AI 시대의 승자는 가장 높이 성을 쌓은 나라가 아니라 가장 많은 사람이 드나드는 항구를 만든 나라가 될 것이다.2026-06-14 15:45:33
-
앤트로픽 최신 AI 멈췄다…美정부, 외국인 접근 전면 차단 [경제일보] 미국 인공지능(AI) 기업 앤트로픽이 최신 AI 모델 ‘Fable 5’와 ‘Mythos 5’ 서비스를 전면 중단했다. 미국 정부가 국가안보 우려를 이유로 외국 국적자의 접근을 금지하는 수출통제 지침을 내리면서다. AI 모델 자체가 반도체처럼 전략 기술 통제 대상에 오를 수 있음을 보여준 사건이다. 앤트로픽은 12일 공식 성명을 통해 미국 정부가 Fable 5와 Mythos 5에 대해 외국 국적자의 접근을 중단하라는 지침을 내렸다고 밝혔다. 적용 대상은 미국 밖 이용자뿐 아니라 미국 내 외국 국적자, 앤트로픽 소속 외국인 직원까지 포함된다. 회사는 규정 준수를 위해 일부 이용자만 제한하는 대신 전체 고객을 대상으로 두 모델 접근을 비활성화했다. 이번 조치의 발단에는 아마존의 문제 제기가 있었던 것으로 알려졌다. 월스트리트저널은 앤디 재시 아마존 최고경영자(CEO)가 스콧 베센트 미 재무장관 등 정부 고위 관계자에게 앤트로픽 모델의 보안 위험을 전달했다고 보도했다. 로이터통신도 아마존이 앤트로픽의 최신 모델과 관련한 보안 우려를 미 정부에 제기했다고 전했다. 핵심 쟁점은 ‘탈옥’ 가능성이다. 정부는 Fable 5의 안전장치를 우회해 소프트웨어 취약점을 찾는 방식이 사이버 공격에 악용될 수 있다고 본 것으로 전해졌다. 고성능 AI 모델이 보안 결함 탐지와 코드 분석 능력을 갖추면 방어 목적뿐 아니라 공격 준비에도 활용될 수 있다는 우려다. 앤트로픽은 정부 판단에 반발했다. 회사는 정부가 구체적이고 충분한 기술 근거를 제시하지 않았으며, 자사가 확인한 사례는 이미 알려진 소수의 경미한 취약점을 찾는 수준이라고 밝혔다. 또 다른 공개 AI 모델들도 비슷한 정보를 제공할 수 있어 Fable 5와 Mythos 5만 특별히 위험하다고 보기 어렵다는 입장이다. 앤트로픽은 Fable 5 출시 전 미국 정부, 영국 AI안전연구소, 민간 보안기관과 함께 수천 시간의 레드팀 검증을 진행했다고 설명했다. 또 광범위한 안전장치 우회, 이른바 범용 탈옥은 아직 확인되지 않았다고 주장했다. 다만 완벽한 탈옥 방지는 현재 어떤 모델 제공자에게도 쉽지 않다는 점은 인정했다. 이번 사태는 AI 안전 논쟁이 ‘자율 규제’에서 ‘국가안보 통제’로 넘어가는 신호로 해석된다. 미국은 그동안 첨단 AI 반도체와 장비 수출을 통제해 왔지만 이번에는 AI 모델 접근 자체를 제한했다. 모델의 성능이 사이버 안보와 생물학 연구, 소프트웨어 자동화 등 이중용도 영역으로 확장되면서 규제의 초점이 하드웨어에서 소프트웨어와 이용자 접근권으로 넓어진 셈이다. 아마존과 앤트로픽의 관계도 주목된다. 아마존은 앤트로픽의 주요 투자자이자 클라우드·AI 칩 인프라 협력사다. 양사는 AWS 트레이니움 칩을 활용한 대규모 컴퓨팅 협력을 확대하고 있다. 그런 아마존이 보안 우려를 정부에 전달했고 결과적으로 앤트로픽의 핵심 모델 중단으로 이어졌다는 점은 AI 생태계 내부의 긴장도 보여준다. 앤트로픽 입장에서는 타격이 작지 않다. Fable 5는 일반 이용자에게 개방된 최상위급 모델이고 Mythos 5는 사이버 방어와 생명과학 연구 등 제한된 파트너에게 제공되는 고성능 모델이다. 두 모델은 앤트로픽이 오픈AI와 정면 경쟁하기 위해 내세운 핵심 무기였다. 출시 직후 정부 통제로 서비스가 중단되면서 기술력보다 규제 리스크가 먼저 부각됐다. 기업공개(IPO)를 앞둔 투자심리에도 부담이 될 수 있다. 앤트로픽은 최근 미국 증시 상장을 위한 절차에 들어간 것으로 알려져 있다. 투자자들은 고성능 모델의 매출 성장성과 기업 고객 확장을 기대해 왔지만 이번 사태는 AI 기업의 성장성이 정부 규제와 안보 판단에 따라 순식간에 흔들릴 수 있음을 보여줬다. 반사이익은 경쟁사로 향할 가능성이 있다. 오픈AI, 구글, xAI 등 경쟁 업체들은 같은 수준의 규제가 적용될지 촉각을 곤두세우고 있다. 앤트로픽만 규제 대상이 되는 경우 기업 고객 일부가 대체 모델로 이동할 수 있다. 반대로 미국 정부가 같은 기준을 전 업계에 적용하면 프런티어 AI 모델 출시 속도 자체가 느려질 수 있다. 이번 사태의 본질은 한 모델의 취약점 논란에 그치지 않는다. AI가 코드를 쓰고 취약점을 찾고 과학 연구를 보조하는 단계에 들어서면서 모델 성능은 곧 안보 자산이자 통제 대상이 되고 있다. 앤트로픽은 “오해”라고 말하고 정부는 “국가안보”를 말한다. 어느 쪽이 옳은지는 후속 검증이 필요하지만 분명한 것은 AI 산업의 규칙이 바뀌고 있다는 점이다. 이번 앤트로픽의 Fable 5 중단은 AI 시대의 성장 공식이 기술 혁신과 규제 대응을 동시에 요구하는 국면으로 접어들었음을 보여주는 사건이다.2026-06-14 11:06:57
-
AI 모델 겨냥 공격 증가…S2W, 새로운 보안 전략 공개 [경제일보] 인공지능(AI) 기술 확산과 함께 기존 보안 체계를 우회하는 새로운 유형의 사이버 공격이 증가하면서 기업들의 보안 전략 전환 필요성이 커지고 있다. 특히 AI 모델 자체를 겨냥한 공격이 늘어나면서 기존 시스템 중심 보안에서 AI 특화 대응 체계 구축이 중요해지고 있는 것으로 분석된다. 16일 빅데이터 분석 인공지능 기업 S2W는 성남 판교 본사에서 'AI 시대의 새로운 보안 전략: 실사례로 알아보는 대응책'을 주제로 고객사 대상 프라이빗 세미나를 개최하고 AI 기반 보안 위협 사례와 대응 방안을 지난 15일 공유했다고 밝혔다. S2W에 따르면 AI 기술 확산과 함께 기존과 다른 방식의 공격이 등장하고 있다. 대표적인 AI 특화 공격 방식으로는 '입력 조작', '무결성 침해', '에이전트 연계', '합성 신원' 등이 제시됐다. '입력 조작'은 프롬프트 인젝션이나 탈옥 기법을 통해 대형언어모델(LLM)의 보호 장치를 우회하고 민감 정보 유출이나 의도하지 않은 명령 수행을 유도하는 방식이다. 공격자는 모델의 응답 논리를 교란해 시스템 내부 정보를 확보하거나 추가 공격을 시도하는 것으로 알려졌다. '무결성 침해'는 학습 데이터나 검색 증강 생성(RAG) 지식베이스를 오염시키는 데이터 포이즈닝 및 백도어 공격이다. 특정 조건에서만 오작동하도록 조작해 장기간 탐지를 회피하는 것이 특징이다. '에이전트 연계' 공격은 이메일이나 웹 페이지 등 외부 데이터를 처리하는 AI 에이전트를 활용해 간접적으로 공격을 수행하는 방식이다. 숨겨진 명령을 전달해 API 호출이나 데이터 삭제 등 2차 공격을 유도하는 사례가 증가하고 있다. '합성 신원' 공격은 딥페이크와 음성 클로닝 기술을 활용해 정교한 가짜 신원을 생성하는 방식이다. 생체 인증을 우회하거나 피싱 공격의 신뢰도를 높이는 데 활용되며 기업 보안 체계를 위협하고 있다. AI 모델을 직접 공격하는 실제 사례도 등장하고 있다. 사용자가 다양한 프롬프트 엔지니어링 기법을 활용해 AI 모델의 보호 장치를 우회하고 내부 정보를 확보하는 행위가 반복되고 있다. 특히 역할 부여나 우회 질문 등 단순 대화만으로도 AI 모델이 취약해질 수 있다는 점이 확인됐다고 S2W는 설명했다. 또한 S2W는 공격자가 내부 식별자 추출, 시스템 프롬프트 탈취, 쿠폰 코드 노출 등을 통해 무료 항공권 예약까지 수행하는 사례도 공개했다. AI 모델뿐 아니라 AI와 연결된 전체 시스템 구조가 공격 대상이 될 수 있는 것으로, 특히 멀티모달 환경에서 이미지 조작만으로 검증 시스템이 무력화될 수 있는 것이다. AI 환경에서는 기존 보안 방식만으로는 대응이 어려운 것으로 확인되고 있다. 기존 보안이 시스템 취약점과 버그를 중심으로 방어하는 구조였다면 AI 보안은 모델의 판단 논리와 인지 구조의 취약점을 방어해야 한다는 것이 특징이다. AI 모델은 학습 데이터와 프롬프트 입력에 따라 결과가 달라지기 때문에 공격자가 논리적 허점을 활용할 가능성이 높다. 이에 차단 중심 보안에서 실시간 탐지와 대응 중심 보안 체계로 전환이 필요한 것으로 분석된다. 또한 완벽한 방어가 어려운 AI 특성상 지속적인 모의 해킹과 취약점 관리가 중요해지고 있다. 기업들은 AI 서비스 운영 과정에서 발생할 수 있는 위험을 사전에 점검하는 방식으로 대응 전략을 강화해야 할 전망이다. 양종헌 S2W 오펜시브부문장은 "AI를 활용한 보안의 목표는 우회 시도를 신속하게 탐지해 정책을 지속적으로 업데이트하는 동적 방어체계를 구축함으로써 공격자의 공격 비용과 포기 가능성을 높이는 데 있다"며 "향후에도 공격자 관점에서의 취약점 발굴과 시나리오 검증을 수행하는 오펜시브 연구를 더욱 고도화하며, AI 시대에 불안감을 해소할 수 있는 액션 아이템을 제공하는 데 주력할 것"이라고 말했다.2026-04-16 16:01:56
많이 본 뉴스
영상
Youtube 바로가기
![[사설] 800조 수퍼 재정, 미래를 위한 투자인가 미래를 담보 잡는 도박인가](https://image.ajunews.com/content/image/2026/07/14/20260714122102289150_518_323.jpg)