2026.07.14 화요일
검색
'AI 안전성' 검색결과
기간검색
-
~
검색영역
검색어
-
KT, AI 신뢰 인프라 구축 나선다…UN·ITU와 글로벌 표준 협력 [경제일보] 사람을 대신해 스스로 판단하고 업무를 수행하는 '에이전틱 AI(인공지능)' 시대가 다가오면서 AI의 신원과 권한, 책임을 검증하는 '디지털 신뢰' 구축이 글로벌 핵심 과제로 떠오르고 있다. 이에 KT는 유엔(UN)과 국제전기통신연합(ITU)이 주관하는 국제 행사에 참여해 AI 신뢰 체계 구축과 글로벌 표준화 방향을 구상하고 있다. 9일 KT는 스위스 제네바에서 열린 'AI 포 굿 글로벌 서밋'과 UN '글로벌 AI 거버넌스 대화'에 참석해 책임감 있는 AI와 글로벌 AI 표준 협력 방안을 논의했다고 밝혔다. AI 포 굿 글로벌 서밋은 UN 산하 정보통신기술(ICT) 전문기구인 ITU가 주관하는 행사로, 정부와 산업계, 국제 표준기구 관계자들이 AI 기술의 발전 방향과 글로벌 협력 방안을 논의하는 자리다. 올해는 스스로 판단하고 행동하는 에이전틱 AI 시대를 맞아 디지털 신뢰와 AI 인프라 구축이 핵심 의제로 다뤄졌다. KT는 'AI 파운데이션: 모두를 위한 디지털 신뢰와 AI 인프라' 라운드테이블 세션에서 에이전틱 AI 시대에 필요한 '신뢰 기본 요소' 구축 방안을 제안했다고 설명했다. 신뢰 기본 요소는 AI가 누구를 대신해 행동하는지 확인하는 '신원', 어떤 권한을 위임받았는지에 대한 '동의', 수행한 행위를 객관적으로 증명할 수 있는 '검증 가능성' 등을 의미한다. 특히 KT는 향후 AI 서비스의 중심이 사람과 시스템 간 상호작용에서 AI 에이전트 중심으로 이동할 것으로 전망했다. 이에 따라 AI가 안전하게 의사결정을 수행하기 위해서는 특정 기업이나 플랫폼에 종속되지 않는 개방형 상호운용 표준과 중립적인 신뢰 인프라가 필요하다고 강조했다. 같은 날 열린 UN '글로벌 AI 거버넌스 대화'에도 참석해 AI 거버넌스 구축 방안과 국제 협력 방향을 논의했다. 지난해 출범한 글로벌 AI 거버넌스 대화는 각국 정부와 산업계, 학계가 안전하고 포용적인 AI 생태계 조성을 위한 협력 방안을 논의하는 국제 협의체다. 이번 행사에는 안토니오 구테흐스 UN 사무총장을 비롯해 튜링상 수상자인 요슈아 벤지오 교수, 브래드 스미스 마이크로소프트 사장 등 글로벌 AI 정책과 기술 분야 주요 인사들이 참석했다. KT는 '인권 존중·보호·증진: 투명성, 책임성 및 인간 개입' 세션에서 AI 기술이 발전하더라도 UN이 제시한 인권 원칙이 지속적으로 보장돼야 한다는 점을 강조했다. 또한 AI 안전성 확보를 위한 자체 정책과 거버넌스 체계를 구축해 운영하고 있으며, 이를 지니TV AI 에이전트 등 자사 AI 서비스에 적용하고 있다고 소개했다. 향후 UN과 협력해 AI 안전성과 관련한 예방·보호·감시 체계 마련에도 참여할 계획이다. 최근 글로벌 AI 산업에서는 생성형 AI를 넘어 에이전틱 AI 시대로 전환이 본격화되면서 AI의 안전성과 투명성, 책임성을 확보하기 위한 국제 표준 논의도 활발해지고 있다. AI가 금융과 의료, 공공서비스 등 다양한 영역에서 사람을 대신해 의사결정을 수행하는 사례가 늘어나면서 디지털 신뢰 체계 구축이 AI 산업 경쟁력을 좌우할 핵심 요소로 부상할 것으로 분석된다. 박완진 KT AX미래기술원 테크전략담당 상무는 "에이전트가 사람을 대신하는 시대에는 기술 혁신의 속도와 함께, 인간의 권리를 보장하고 상호 운용 가능한 디지털 신뢰를 구축하는 것이 무엇보다 중요하다"며 "KT는 AI 모델을 직접 개발하면서도 중립적인 신뢰 인프라를 함께 제공할 수 있는 사업자로서 글로벌 표준 논의에 책임 있게 기여하겠다"고 말했다.2026-07-09 10:05:26
-
네이버, AI 안전망 넓힌다…'모델' 넘어 이용자 경험까지 점검 [경제일보] 네이버가 인공지능(AI) 안전성 관리 범위를 모델에서 서비스와 이용자 경험으로 넓힌다. AI가 검색과 쇼핑, 추천, 에이전트 기능으로 들어오는 상황에서 단순히 모델 성능만 보는 방식으로는 안전성을 담보하기 어렵다는 판단이다. 네이버(대표이사 최수연)는 8일 서울 강남구에서 열린 인공지능안전 서울 포럼에서 AI 안전성 관리 체계 ‘ASF(AI Safety Framework) 2.0’을 공개했다. ASF 2.0은 네이버가 2024년 AI 서울 서밋에서 공개한 ASF를 고도화한 버전이다. 기존 ASF가 AI 기술 모델의 성능과 위험 수준을 중점적으로 관리했다면 ASF 2.0은 이용자가 실제로 접하는 AI 서비스까지 관리 범위를 확장했다. AI가 하나의 모델로 작동하던 단계에서 여러 모델과 기능이 결합된 서비스로 진화하면서 안전성 관리 방식도 바뀌어야 한다는 문제의식이 반영됐다. 송대섭 네이버 AI Safety Policy 리더는 “AI를 둘러싼 기술과 서비스, 정책·제도 환경이 변화하며 하나의 모델을 안전하게 만드는 문제를 넘어 수천만 명이 사용하는 서비스를 어떻게 안전하게 설계하고 운영할 것인지의 문제로 확장되고 있다”고 말했다. 이번 체계에는 네이버의 ‘On-service AI’ 전략도 반영됐다. 네이버는 AI탭과 쇼핑 AI 에이전트 등 기존 서비스 안에 AI 기능을 깊게 결합하고 있다. 또 글로벌 AI 생태계에서 멀티 모델 환경이 확산되고 국내에서도 AI기본법 제정 등 제도 변화가 이어지는 점을 고려했다. ASF 2.0의 핵심은 서비스 전 주기 관리다. AI 서비스의 출시 전 설계 단계부터 출시 이후 운영 과정까지 위험을 점검한다. 평가 기준도 단순 성능 중심에서 맥락, 활용 사례, 영향으로 세분화됐다. 같은 AI 기능이라도 어떤 서비스에 쓰이는지 어떤 이용자가 영향을 받는지에 따라 위험 수준이 달라질 수 있기 때문이다. 구체적으로 네이버는 AI 위험 분류 체계를 통해 서비스에서 발생할 수 있는 위험을 유형화한다. 이어 AI 영향 평가 매트릭스로 활용 영역과 범위에 따른 영향을 평가한다. 이후 지속적인 안전성 점검과 사용자 피드백을 반영해 AI 서비스가 안정적으로 운영되도록 관리한다. 전사 실행 체계도 마련했다. 네이버는 ASF 2.0이 실제 서비스 출시 과정에 일관되게 적용될 수 있도록 ‘CHEC 2.0’을 운영한다. CHEC 2.0은 인간 중심 AI 윤리와 안전성을 검토하는 내부 실행 체계다. 지난 6월 선보인 ‘AI탭’도 설계부터 출시 단계까지 CHEC 2.0을 통해 안전성 점검을 거쳤다. 네이버는 앞으로 AI탭을 포함해 출시 예정이거나 이미 운영 중인 AI 기반 서비스의 안전성을 CHEC 2.0으로 지속 점검할 방침이다. 외부 전문가와 학계, 정책 기관과의 협업도 확대한다. 이번 업데이트는 AI 서비스 경쟁이 빨라질수록 안전성 관리가 기업의 신뢰 경쟁력으로 바뀌고 있음을 보여준다. 검색 결과, 쇼핑 추천, 에이전트 실행이 이용자의 판단과 소비에 직접 영향을 미치는 만큼 플랫폼 기업은 기술 성능뿐 아니라 잘못된 답변, 편향, 과도한 자동화, 개인정보 위험까지 함께 관리해야 한다. 한편 네이버의 ASF 2.0은 AI를 더 많이 붙이기 위한 안전장치이기도 하다. 이용자가 체감하는 서비스 안으로 AI가 들어갈수록 작은 오류도 큰 불신으로 번질 수 있다. AI 시대의 플랫폼 경쟁은 누가 더 빠르게 기능을 내놓느냐만으로 결정되지 않는다. 수천만 이용자가 쓰는 서비스에서 위험을 예측하고 설명하며 수정할 수 있는 체계를 갖췄는지가 다음 신뢰의 기준이 된다.2026-07-08 11:28:44
-
![[데일리 뱅킹 브리프] KB금융, 긱워커 맞춤형 금융 지원 확대 추진 外](https://image.ajunews.com//content/image/2026/06/30/20260630160139129300.jpg)
KB금융, 긱워커 맞춤형 금융 지원 확대 추진 外 [경제일보] KB금융, 긱워커 맞춤형 금융 지원 확대 추진 KB금융그룹이 다음달 1일부터 플랫폼 종사자(긱워커)를 위한 맞춤형 금융지원 체계를 마련하고 제도권 금융 접근성 확대에 나선다고 30일 밝혔다. 이번 지원은 △배달라이더 △대리운전기사 △물류업 종사자 △크리에이터 등 플랫폼 기반 경제활동 종사자를 대상으로 그룹 차원의 금융 생태계를 구축하는 것이 핵심이다. KB국민은행은 긱워커 전용 파킹통장인 'KB 프리N통장'을 출시한다. 플랫폼 정산금 등 비정기 소득을 관리할 수 있도록 설계했으며 결산기 평균잔액 200만원까지 최고 연 1.4% 특별금리를 제공한다. 플랫폼 정산금도 급여 실적으로 인정해 급여이체 고객과 동일한 금융 우대 혜택을 제공한다. 올해 3분기에는 서민금융진흥원과 협업해 청년 배달 종사자를 위한 미소금융 상품도 선보인다. 배달용 이륜차 구입자금을 최대 500만원까지 지원하며 친환경 이륜차 구매자와 금융교육 이수자에게는 금리 우대 혜택을 제공할 예정이다. 국민은행은 비금융 대안정보와 머신러닝 기반 신용평가를 활용해 금융이력 부족 고객에 대한 신용대출 심사도 확대한다. 이와 함께 배달 플랫폼 종사자를 위한 KB리브모바일 전용 요금제도 출시한다. KB국민카드는 이동이 많은 긱워커를 위한 'KB On the Go 체크카드'를 선보인다. 주유·통신·식음료 할인과 함께 KB손해보험의 자동차·이륜차 보험료 할인 혜택을 제공한다. KB손해보험은 지난 26일부터 산업안전보건공단 온라인 안전교육을 이수한 이륜차 배달 운전자에게 자동차보험료를 5% 할인하는 '라이더 안전교육 할인특약'을 운영하고 있다. KB금융 관계자는 "긱워커는 플랫폼 경제와 디지털 전환을 이끌어가는 새로운 경제 주체이자 미래 금융의 중요한 고객군"이라며 "맞춤형 금융서비스를 통해 포용금융을 확대하고 고객과 함께 성장하는 금융 생태계를 만들어 나가겠다"고 말했다. 우리은행·서금원, 영세자영업자 '인정가게' 프로젝트 실시 우리은행이 서민금융진흥원과 함께 성장 잠재력을 갖춘 영세자영업자를 발굴해 지원하는 ‘인정가게’ 프로젝트를 다음달 1일부터 실시한다고 30일 밝혔다. 인정가게는 우리미소금융재단 이용자와 사단법인 선한영향력가게 회원 중 지역사회 공헌 의지가 있는 영세자영업자 20명을 선정해 매장 경쟁력 강화를 돕는 사업이다. 선정된 가게에는 공식 인증 현판과 매장 부착용 스티커가 제공된다. 온라인 마케팅을 위한 홍보 비용과 사회관계망서비스(SNS)·보도자료 등을 활용한 홍보 기회도 지원된다. 우리은행은 전문 컨설턴트를 통해 매출 증대와 법무·세무·노무 등 사업 운영 전반에 대한 맞춤형 컨설팅도 제공한다. 선한영향력가게 회원 멘토와 연결해 매장 운영 노하우와 지역사회 공헌 활동 방법도 공유할 예정이다. 고객 참여형 이벤트도 진행한다. 인정가게 이용 고객이 영수증 리뷰 이벤트에 참여하면 매월 가게별 1명을 추첨해 30만원의 당첨금을 지급한다. 신청 접수는 다음달 1일부터 13일까지 진행된다. 우리은행 관계자는 "이번 프로젝트가 영세자영업자의 자생력 강화와 지역사회 내 선한 영향력 확산에 도움이 되길 기대한다"며 "앞으로도 소상공인과 함께 성장하는 포용금융 생태계 조성을 위해 다양한 지원을 이어가겠다"고 말했다. 카카오뱅크, 금융 AI 보안 연구 국제학회 논문 4편 채택 카카오뱅크가 자사의 금융 인공지능(AI) 분야 연구 논문 4편이 올해 상반기 국제 학술대회에서 채택됐다고 30일 밝혔다. 카카오뱅크 금융기술연구소는 AI 분야 학회 ICLR과 ACL, 자연어처리 분야 학회 LREC에서 생성형 AI 안전성과 금융 특화 AI 성능 향상 관련 연구 성과를 인정받았다. 지난 4월 ICLR 2026에서는 금융·법률 등 전문 분야 생성형 AI를 대상으로 한 유해 콘텐츠 주입 및 우회 공격 탐지 기술을 발표했다. 카카오뱅크와 KAIST가 공동 구축한 약 5만9000건 규모 데이터셋을 활용했다. 지난달 LREC 2026에서는 금융 AI의 보안성과 정확성을 높이는 연구 2편을 발표했다. 이미지가 포함된 멀티모달 환경의 프롬프트 공격 탐지 기술과 복잡한 금융 데이터 처리 과정에서 숫자 계산 오류를 찾아내는 기술이다. ACL 2026 산업 분야 트랙에는 KAIST와 공동 수행한 금융 AI 안전성 평가 연구가 채택됐다. 보이스피싱, 금융사기, 개인정보 탈취 등 금융 분야 위험 유형을 정리한 AI 안전성 평가 기준과 위험 답변 회피 학습 기술을 제안했다. 카카오뱅크 관계자는 "이번 연구는 학술적 성과를 넘어 금융 AI 서비스의 안전성과 정확성을 높이는 실질적인 기술이라는 점에서 의미가 크다"며 "앞으로도 금융 환경에 특화된 AI 보안 및 기술 연구를 지속하겠다"고 말했다.2026-06-30 16:04:02
-
AI 성능 넘어 '안전' 경쟁...KT 클라우드·카카오 AI 세이프티 맞손 [경제일보] 생성형 인공지능(AI)이 기업 업무 전반으로 확산되면서 AI 성능뿐 아니라 안전성과 신뢰성을 확보하기 위한 경쟁도 본격화되고 있다. 유해 콘텐츠 생성과 개인정보 유출, 프롬프트 공격 등 새로운 보안 위협이 부상하면서 AI를 실제 서비스에 적용하기 위해서는 'AI 세이프티'가 핵심 경쟁력으로 떠오른 것으로 분석된다. 26일 KT 클라우드와 카카오는 안전한 생성형 AI 서비스 구현을 위한 AI 세이프티 협력 체계를 구축했다고 밝혔다. 양사는 KT 클라우드의 AI 인프라 플랫폼과 카카오의 AI 세이프티 기술을 결합해 공공과 민간 분야에서 신뢰할 수 있는 AI 활용 환경을 구축한다는 계획이다. 최근 생성형 AI 도입이 빠르게 늘면서 AI 서비스의 안전성 확보가 기업들의 새로운 과제로 떠오르고 있다. AI가 허위 정보를 생성하는 '환각' 현상은 물론 '프롬프트 인젝션'을 통한 악성 명령 실행, 개인정보 유출, 유해 콘텐츠 생성 등의 위험성이 실제 서비스 운영 과정에서 잇따라 제기되고 있기 때문이다. 특히 공공기관과 금융권, 대기업을 중심으로 AI 도입이 확대되면서 모델 성능만큼 보안성과 신뢰성, 규제 대응 능력을 함께 검증하려는 움직임도 강화되고 있다. AI를 업무 시스템과 연계하는 기업이 늘어날수록 안전성을 확보할 수 있는 운영 체계가 필수 요소로 자리 잡고 있는 것이다. 이에 양사는 AI 서비스 개발부터 운영까지 전 과정에서 활용할 수 있는 AI 세이프티 기술 고도화에 나선다. 협력의 첫 단계로 KT 클라우드는 지난 4월 공개한 공공기관 대상 생성형 AI 플랫폼 'RAG Suite 2.0'에 카카오의 AI 가드레일 모델인 '카나나 세이프가드'를 적용할 예정이다. 카나나 세이프가드는 한국어와 국내 문화·법률 환경을 반영해 개발된 AI 세이프티 모델이다. 생성형 AI가 부적절하거나 유해한 답변을 생성하는 것을 방지하고 프롬프트 공격이나 정책 위반 가능성을 탐지하는 역할을 수행한다. 현재 카카오의 주요 AI 서비스에도 적용되고 있다. 양사는 가드레일 기술 적용을 시작으로 AI 모델 안전성 평가 시스템과 다양한 공격 시나리오를 기반으로 취약점을 점검하는 '레드티밍' 시스템도 단계적으로 제공할 계획이다. AI 모델이 실제 서비스 환경에서 예상하지 못한 공격이나 악용 시도에 얼마나 안정적으로 대응하는지를 검증하는 체계까지 함께 구축한다는 구상이다. 향후에는 AI 세이프티 도구를 통합 관리하는 운영 플랫폼 구축으로 협력을 확대한다. KT 클라우드 환경에서 축적되는 운영 데이터와 고객 피드백을 기반으로 AI 안전성 관리 기능을 고도화하고, 생성형 AI 서비스의 개발과 배포, 운영, 모니터링까지 아우르는 통합 운영 체계를 마련할 계획이다. IT 업계에서는 AI 시장 경쟁이 모델 성능 중심에서 안전성과 신뢰성을 확보하는 방향으로 빠르게 이동하고 있는 것으로 전망한다. 생성형 AI 기술이 기업 핵심 업무에 적용될수록 모델의 정확도뿐 아니라 보안과 컴플라이언스, 운영 안정성 확보 여부가 AI 도입을 결정하는 핵심 요소로 자리 잡고 있기 때문이다. 이에 AI 가드레일과 레드티밍, 모델 평가 체계 등 AI 세이프티 기술도 AI 인프라의 필수 요소로 부상하고 있는 것으로 평가된다. KT 클라우드와 카카오는 이번 협력을 계기로 공공기관과 금융권을 비롯한 다양한 산업 분야에서 신뢰할 수 있는 생성형 AI 서비스 구축을 지원하는 한편, 국내 AI 생태계 전반의 안전성 확보에도 기여한다는 방침이다. 김봉균 KT 클라우드 대표는 "생성형 AI가 본격적으로 확산되면서 성능뿐 아니라 책임 있는 AI 활용 기반을 마련하는 것이 중요한 과제가 되고 있다"며 "카카오와의 협력을 통해 AI 인프라와 안전성 기술을 결합하고, 공공과 민간 고객이 보다 신뢰할 수 있는 환경에서 AI 서비스를 개발·운영할 수 있도록 지원하겠다"고 말했다. 김세웅 카카오 AI 시너지 성과리더는 "카카오의 AI 세이프티 기술과 KT 클라우드의 인프라 역량이 만나는 이번 협력이 국내 AI 생태계의 안전성을 한 단계 높이는 계기가 되길 바란다"며 "앞으로도 이용자가 안심하고 사용할 수 있는 AI 환경을 만들기 위해 지속적으로 노력하겠다"고 말했다.2026-06-26 10:15:27
-
정부, 美 AI 통제 속...앤트로픽과 안전·보안 동맹 [경제일보] 미국 정부가 국가 안보를 이유로 첨단 인공지능(AI) 모델 접근을 제한하고 나선 가운데 한국 정부가 앤트로픽과 AI 안전·사이버보안 협력에 나섰다. 고성능 AI 모델이 사이버 공격과 방어 양쪽에 모두 활용될 수 있다는 우려가 커지는 상황에서 한국이 글로벌 AI 안전망의 핵심 파트너로 자리 잡을 수 있을지 주목된다. 과학기술정보통신부는 18일 앤트로픽과 AI 안전성 확보 및 사이버보안 협력 업무협약을 체결했다고 밝혔다. 양측은 AI가 사이버 공격과 방어에 미치는 영향을 분석하고 한국어 맥락에서의 AI 모델 안전성 및 오남용 위험을 평가하는 데 협력할 예정이다. 자율형 AI 에이전트에 대한 레드팀 평가도 협력 대상에 포함됐다. 앤트로픽은 챗봇 ‘클로드’와 코딩 특화 도구, AI 에이전트 기술로 빠르게 성장한 프런티어 AI 기업이다. 최근에는 사이버보안 특화 고성능 모델인 ‘미토스’와 관련한 글로벌 논란의 중심에도 섰다. 앤트로픽의 프로젝트 글래스윙은 미토스 계열 모델을 활용해 핵심 소프트웨어의 취약점을 찾고 고치는 방어 목적의 AI 보안 협력체다. 한국에서는 KISA와 주요 기업들이 이 프로젝트에 참여한 것으로 알려졌다. 협약의 의미는 단순한 기술 교류를 넘어선다. AI 모델이 고도화되면서 보안 위험은 두 방향으로 커지고 있다. 방어자는 AI로 취약점을 더 빨리 찾을 수 있지만 공격자 역시 AI를 활용해 악성코드 변형, 취약점 탐색, 피싱 자동화, 침투 시나리오 생성을 시도할 수 있다. 정부가 앤트로픽과 손잡은 것은 이 같은 양면성을 제도권 안에서 평가하고 통제하려는 시도로 볼 수 있다. 과기정통부는 한국 AI 안전연구소와 앤트로픽 간 협력을 통해 AI 모델 및 자율형 AI 에이전트 안전성 평가를 추진할 방침이다. 금융 분야 등 국가적 파급력이 큰 영역에서 AI 기반 취약점 발굴과 사이버 위협 정보 공유도 실무적으로 논의한다. 한국어 환경에서 발생할 수 있는 모델 오남용, 허위정보 생성, 보안 우회 가능성 등을 함께 점검하는 것도 주요 과제다. 정부는 이번 협약을 글로벌 AI 협력 벨트의 한 축으로 보고 있다. 그동안 AI 인프라, 프런티어 모델, 연구 협력 분야에서 글로벌 기업과 접점을 넓혀왔다면 앤트로픽과의 협력은 안전성과 보안 분야를 보강하는 성격이 강하다. AI 산업 경쟁력이 커질수록 모델 성능 못지않게 안전성 평가와 사이버 복원력이 국가 경쟁력의 기준으로 떠오르고 있기 때문이다. 검증대에 오른 부분은 미국의 AI 기술 통제 기조다. 외신에 따르면 미국 정부는 최근 앤트로픽의 고성능 모델 미토스 5와 페이블 5에 대해 외국 국적자의 접근을 제한하는 조치를 내렸다. 앤트로픽은 적용 범위를 선별하기 어렵다는 이유로 해당 모델 접근을 광범위하게 중단한 것으로 전해졌다. 이 조치가 이어질 경우 한국 정부와 기업이 프로젝트 글래스윙을 통해 확보하려던 미토스 접근권에도 제약이 생길 수 있다. 과기정통부는 앤트로픽과 소통하며 상황을 예의주시하고 있다는 입장이다. 앤트로픽 역시 신중한 태도를 보이고 있다. 한국 입장에서는 미국의 첨단 AI 모델에 대한 접근권을 확보하는 동시에 미국 정부의 수출통제와 기술 주권 기조에 따른 불확실성도 관리해야 하는 상황이다. 이번 협약은 한국 AI 정책의 방향을 보여준다. 단순히 해외 모델을 쓰는 것을 넘어 고성능 AI가 초래할 수 있는 위험을 평가하고 방어 기술을 확보하려는 움직임이다. 특히 AI 에이전트가 실제 시스템을 조작하고 코드를 작성하며 업무를 수행하는 단계로 넘어가면 모델 안전성과 사이버보안은 분리하기 어려운 과제가 된다. 성과는 접근권과 실행력에서 갈릴 전망이다. 미토스 같은 첨단 모델에 대한 안정적 접근이 보장되지 않으면 협력은 제한적일 수밖에 없다. 반대로 한국어 환경의 안전성 평가, 금융·공공 분야 취약점 발굴, 국내 보안 인력과 글로벌 모델의 결합이 실질 성과로 이어진다면 한국은 AI 안전·보안 분야에서 독자적 입지를 넓힐 수 있다.2026-06-18 16:09:55
-
AI도 한국 문화 맞춤 검증…KT, AI 안전성 벤치마크 'KSAFE-MM' 공개 [경제일보] KT가 한국 사회와 문화적 특성을 반영한 멀티모달 인공지능(AI) 안전성 평가 체계를 공개했다. 생성형 AI 확산으로 텍스트를 넘어 이미지와 음성까지 동시에 이해하는 멀티모달 AI 활용이 늘어나는 가운데 국내 환경에 맞는 안전성 검증 기준을 마련해 AI 신뢰성 확보에 나서겠다는 전략으로 풀이된다. 16일 KT는 고려대학교와 공동으로 개발한 멀티모달 대형언어모델(MLLM) 안전성 벤치마크 'KSAFE-MM'을 공개했다고 밝혔다. 최근 생성형 AI 시장은 텍스트 중심 서비스에서 이미지와 음성, 영상까지 통합적으로 처리하는 멀티모달 AI 중심으로 빠르게 진화하고 있다. 다만 AI 모델의 활용 범위가 확대될수록 허위정보 생성, 편향성, 유해 콘텐츠 노출, 개인정보 침해 등 안전성 이슈 역시 함께 커지고 있는 것으로 알려졌다. 특히 글로벌 AI 기업들이 개발한 안전성 평가 기준은 영어권 문화와 사회 환경을 중심으로 설계돼 국내 이용 환경과 문화적 특수성을 충분히 반영하지 못한다는 한계도 제기돼 왔다. 이에 KT와 고려대는 해당 문제를 해결하기 위해 'KSAFE-MM'을 공동 개발했다고 설명했다. 'KSAFE-MM'은 한국 사회의 문화적·사회적 맥락을 반영한 멀티모달 AI 안전성 평가 체계로, 글로벌 공통 위험 요소를 한국 문화 환경에 맞게 재구성한 'KSAFE-MM-G'와 전세 사기, 독도 분쟁 등 국내 특수 이슈를 반영한 'KSAFE-MM-C'로 구성된다. 전체 평가 데이터는 총 1만4135개 샘플 규모다. 연구진은 해당 벤치마크를 활용해 구글의 '젬마'와 네이버의 '하이퍼클로바 X'를 비롯한 12개 글로벌 멀티모달 AI 모델의 안전성을 검증했다. 이번 연구의 가장 큰 특징은 벤치마크 구축 과정을 자동화한 것이다. 기존 AI 안전성 벤치마크는 전문가가 데이터를 수집하고 검수하는 방식이 대부분으로 많은 비용과 시간이 필요했다. 반면 KSAFE-MM은 현지 커뮤니티 기반 민감 주제 수집, 템플릿 기반 질의 생성, 합성 이미지 제작, 탈옥 질의 생성까지 전 과정을 자동화한 4단계 파이프라인을 구축했다. KT와 고려대 연구진은 동일한 파이프라인을 일본어 환경에 적용한 파일럿 프로젝트 'JSAFE-MM-C'도 진행했다. 연구진은 이를 통해 해당 프레임워크가 한국뿐 아니라 다양한 국가와 문화권에서도 활용 가능한 범용 안전성 평가 체계임을 확인했다고 설명했다. 업계에서는 생성형 AI 규제 논의가 본격화되는 가운데 AI 안전성 평가 체계의 중요성이 더욱 커질 것으로 전망하고 있다. 특히 기업들은 AI 서비스 출시 전 위험 요소를 점검하는 레드팀 테스트와 가드레일 모델 검증 수요가 늘어나고 있어 실질적인 활용도가 높을 것으로 분석된다. KT는 이번 연구 결과를 실제 AI 서비스 안전성 검증과 모델 평가, 위험 분석 등에 활용할 계획이다. 연구 결과와 벤치마크 데이터는 '아카이브'와 '허깅페이스'를 통해 공개돼 학계와 산업계가 자유롭게 활용할 수 있다. KT는 최근 다국어 AI 안전성 벤치마크 'XL-세이프티벤치'를 공개한 데 이어 KSAFE-MM을 선보이며 한국형 AI 안전성 평가 체계 구축을 확대하고 있다. KT는 책임 있는 AI 전담 조직을 중심으로 안전성 분류 체계와 평가 로직 개발 등 관련 연구를 지속 추진한다는 방침이다. 박재형 KT AX미래기술원 프론티어 AI Lab장 상무는 "안전성 벤치마크의 공개는 단순한 데이터 배포를 넘어 AI 안전성 연구 생태계 전반이 함께 발전할 수 있는 기반을 만드는 일"이라며 "KSAFE-MM이 학계와 산업계에서 한국어·한국 문화 맥락의 AI 안전성을 검증하는 공통 기준으로 자리잡길 기대한다"고 말했다.2026-06-16 14:07:30
-
SK쉴더스 EQST, AI 레드팀 대회 1위…판단 오류 취약점 공략 [경제일보] SK쉴더스 화이트해커 그룹 EQST가 글로벌 AI 레드팀 해킹대회에서 우승하며 인공지능 보안 역량을 입증했다. 생성형 AI가 산업 현장과 공공서비스 전반으로 확산되는 가운데 AI의 판단 오류를 유도하는 새로운 위협에 대응할 전문성이 중요해지고 있다는 평가다. SK쉴더스는 글로벌 AI 레드팀 해킹대회 ‘Judgement Day’에서 EQST 소속 김병현 선임이 최종 1위를 차지했다고 15일 밝혔다. 같은 팀의 마준영 선임과 김신우 선임도 각각 5위와 7위에 올라 상위권에 이름을 올렸다. 이번 대회는 AI 에이전트가 금지된 행동을 수행하거나 필수 안전 조치를 누락하도록 유도하는 공격 기법을 평가하는 방식으로 진행됐다. 단순히 시스템을 침투하는 기존 해킹과 달리 AI의 의사결정 과정을 교란하는 데 초점을 맞췄다. 시나리오는 실제 산업 환경을 반영했다. 응급환자 분류 오류, 댐 수위 판단 왜곡, 항공기 이상 징후 미탐지 등 8개 과제가 제시됐다. AI 판단이 잘못될 경우 응급실에서 중증 환자의 우선순위가 뒤바뀌거나 항공기 이상 신호가 정상으로 인식되는 등 금전적 손실을 넘어 인명 피해로 이어질 수 있음을 보여준 것이다. 김병현 선임은 이미지, 음성, 영상 등 여러 형태의 입력을 활용하는 멀티모달 프롬프트 인젝션 공격으로 높은 점수를 얻었다. 이미지 안에 잘못된 행동을 유도하는 문구를 숨기거나 실제 시스템 로그처럼 보이는 입력을 설계해 AI가 기존 규칙을 따르지 않도록 유도했다. 동일한 문제를 다양한 방식으로 빠르게 공략한 점도 높은 평가를 받았다. EQST는 국내외 주요 해킹대회에서 꾸준히 성과를 내 온 SK쉴더스의 화이트해커 조직이다. 폰투온 오토모티브, 블랙햇, 데프콘, 드림핵 등 글로벌 보안 무대에서 실전 역량을 축적해왔다. 최근에는 AI 시스템을 겨냥한 레드팀 서비스와 위협 분석 역량을 강화하고 있다. SK쉴더스는 EQST가 다양한 산업에서 축적한 침해 대응 경험과 위협 인텔리전스를 바탕으로 고객사의 AI 시스템 취약점 사전 식별을 지원하고 있다고 설명했다. 글로벌 기준인 ‘OWASP Top 10 for LLM’을 반영한 자체 프레임워크를 통해 AI 보안 점검과 대응 전략도 제공하고 있다. 김병현 SK쉴더스 EQST Lab팀 선임은 “AI 판단을 교란하는 공격 가능성을 실제로 검증하고 그 결과가 AI 안전성 연구로 이어진다는 점에서 큰 보람을 느낀다”며 “앞으로도 새로운 AI 위협에 대응하는 연구를 지속하겠다”고 말했다. 김병무 SK쉴더스 사이버보안부문장 부사장은 “생성형 AI가 산업 전반으로 확산되면서 AI 보안은 선택이 아닌 필수 역량이 되고 있다”며 “이번 대회에서 검증한 AI 레드팀 역량을 바탕으로 고객이 AI를 안전하고 신뢰성 있게 활용할 수 있도록 지원하겠다”고 밝혔다. 이번 성과는 AI 보안의 무게중심이 침입 차단에서 판단 검증으로 옮겨가고 있음을 보여준다. AI가 의료, 항공, 재난 대응처럼 사람의 생명과 직결된 의사결정에 활용될수록 공격자는 시스템의 벽보다 판단의 틈을 노릴 가능성이 크다. SK쉴더스 EQST의 우승은 국내 보안업계가 이 새로운 전장에서도 경쟁력을 갖추고 있음을 보여준 사례다.2026-06-15 09:55:44
-
정부, 오픈AI GTAC 참여 공식화...앤스로픽 '글래스윙'도 가시권 [경제일보] 우리 정부가 오픈AI의 사이버보안 협력 프로그램에 참여하며 고성능 인공지능(AI)이 불러온 새로운 보안 위협 대응에 나선다. 앤트로픽의 ‘클로드 미토스’처럼 취약점 탐지와 공격 경로 분석 능력을 갖춘 AI 모델이 등장하면서, 국가 핵심 시스템 방어를 위해 글로벌 AI 기업과의 협력을 확대하는 흐름이다. 과학기술정보통신부는 오픈AI의 ‘신뢰 기반 사이버 접근 프로그램’(TAC)에 참여한다고 27일 밝혔다. 일부에서는 정부·기관 협력 성격을 강조해 GTAC로 부르지만, 공개된 설명상 공식 명칭은 TAC다. 이 프로그램은 검증된 정부·공공기관과 보안 조직이 고성능 AI 모델의 사이버보안 기능을 제한적으로 활용할 수 있도록 하는 협력 체계다. 류제명 과기정통부 2차관은 제이슨 권 오픈AI 최고전략책임자(CSO) 등 오픈AI 핵심 관계자들과 만나 AI 보안위협 대응과 안전성 확보 방안을 논의했다. 정부는 이번 협력을 통해 오픈AI의 고성능 사이버보안 모델이 탐지한 주요 소프트웨어 취약점 정보를 공유받고, 이를 국가 기간시스템과 주요 민간 인프라 방어에 활용할 계획이다. 국내 실무 운영은 한국인터넷진흥원(KISA)이 맡는다. 이번 협력은 앤트로픽의 ‘미토스 쇼크’와 맞물려 있다. 미토스는 대규모 코드에서 보안 취약점을 찾아내고 악용 가능성을 분석하는 능력으로 주목받았다. 앤트로픽은 ‘프로젝트 글래스윙’을 통해 미토스 접근권을 일부 기업과 기관에 제한적으로 제공하고 있다. 그러나 미토스급 모델은 공격과 방어 양쪽에 활용될 수 있는 이중용도 기술인 만큼 해외 기관 참여에는 높은 문턱이 있는 것으로 알려졌다. 정부가 오픈AI와 협력을 공식화한 것은 이 같은 제약 속에서 AI 보안 공조의 우회로를 확보했다는 의미가 있다. AI가 취약점 탐색과 공격 시나리오 분석 속도를 높이면, 방어 측도 같은 수준의 AI 도구와 정보 공유망을 갖춰야 한다. 취약점 정보를 얼마나 빨리 확보하고 패치하느냐가 금융·통신·공공망 방어의 성패를 가를 수 있기 때문이다. 다만 글로벌 AI 기업의 보안 프로그램에 참여하는 것만으로 국내 사이버 방어 체계가 완성되는 것은 아니다. 공유받은 취약점 정보를 국내 시스템에 맞게 검증하고, 패치 우선순위를 정하며, 주요 기반시설과 민간 기업에 신속히 전파하는 체계가 함께 마련돼야 한다. KISA와 금융보안원, 인공지능안전연구소, 국가정보원 등 관계기관 간 역할 분담도 중요하다. AI 자체의 안전성 평가도 협력 과제다. 과기정통부는 국내 AI안전연구소와 오픈AI가 공동 연구를 진행하고 AI 안전성 평가 체계를 함께 만드는 방안도 제안했다. 고성능 AI가 보안 방어에 도움을 주는 동시에 오용될 경우 공격 능력을 키울 수 있는 만큼, 접근 통제와 사용 기록 감사, 위험 모니터링이 병행돼야 한다. 류제명 과기정통부 2차관은 “이번 협력으로 한국이 AI 보안 위협에 선제적으로 대응할 수 있는 기반을 마련했다”며 “글로벌 AI 기업들과 실무 논의를 지속해 국내 사이버 보안 역량을 세계 최고 수준으로 끌어올리겠다”고 밝혔다.2026-05-27 10:29:40
-
"서울대·카이스트 AI 석학 다 모였다" 카카오가 멘토단 꾸린 진짜 이유 [경제일보] 카카오(대표 정신아)가 국내 최고 수준의 인공지능(AI) 석학들과 손잡고 자사 AI 경쟁력 고도화에 나선다. 카카오는 학계 전문가 및 미래 인재와의 교류를 위한 AI 협력 프로그램 '카나나 스칼라'를 출범하고 전문가 자문 그룹 발족식을 진행했다고 9일 밝혔다. 이번에 꾸려진 카나나 스칼라 전문가 자문 그룹은 국내 주요 대학의 AI 및 컴퓨팅 분야 교수진 7명으로 구성됐다. 자문 그룹에는 김선주 연세대학교 첨단컴퓨팅학부 교수를 비롯해 김승룡 카이스트 교수와 신진우 카이스트 석좌교수 이주호 카이스트 교수 장준혁 한양대학교 교수 주한별 서울대학교 교수 최종현 서울대학교 교수 등 국내 AI 연구를 주도하는 핵심 인물들이 대거 합류해 카카오의 기술과 서비스 전반에 대한 자문을 제공한다. 카카오는 앞서 지난 3월6일 발족식을 열고 자문 방향과 연간 아젠다를 확정했다. 이들은 향후 카나나 파운데이션 모델을 기반으로 기기 자체에서 구동되는 온디바이스 AI와 스스로 목표를 설정하고 과업을 수행하는 에이전틱 AI 그리고 최근 글로벌 규제 핵심으로 떠오른 AI 안전성 등 주요 기술 전략을 집중적으로 점검한다. 카카오는 정기적인 교류를 바탕으로 전략 실행력을 끌어올리고 급변하는 산업 변화에 대응할 통찰력을 확보한다는 방침이다. 발족식에 참여한 교수진은 AI가 서비스와 플랫폼 전반에 빠르게 확산하며 기업의 현안과 학계의 연구 주제가 점점 더 밀접해지고 있다며 산업계의 문제의식과 학계 연구가 유기적으로 연결될 때 실질적인 성과로 이어질 수 있을 것이라고 뜻을 모았다. 카카오의 이번 산학 협력 행보는 치열해지는 글로벌 AI 패권 경쟁 속에서 자체 기술 생태계를 방어하고 미래 인재를 선점하기 위한 전략적 포석으로 풀이된다. 2026년 현재 글로벌 빅테크들은 천문학적인 자본을 투입해 초거대 AI 모델 고도화와 에이전트 서비스 선점에 사활을 걸고 있다. 국내에서도 경쟁 플랫폼과 통신사들이 자체 모델과 특화 서비스를 쏟아내는 가운데 카카오 역시 메신저 플랫폼 기반의 카나나 서비스 안착을 위해 학계의 객관적인 검증과 기술적 돌파구가 절실한 상황이다. 특히 AI 안전성과 윤리 문제가 각국 정부의 규제 대상으로 부상하면서 학계와의 공조를 통한 투명성 확보는 기업의 필수 생존 요건이 됐다. 카카오는 이러한 흐름에 발맞춰 국내 석학들의 지식을 서비스 설계 초기 단계부터 반영해 리스크를 최소화하고 신뢰도를 높이려는 의도를 뚜렷하게 드러내고 있다. 이에 더해 카카오는 전문가 자문 그룹 운영에 그치지 않고 대학생 및 청년층을 대상으로 한 학계 교류 프로그램도 확대 운영할 예정이다. 다양한 분야의 외부 연사를 초빙한 강연과 소통 프로그램을 통해 만성적인 구인난에 시달리는 첨단 기술 산업계에서 우수 인재와의 접점을 넓히고 잠재적인 채용 파이프라인을 구축하겠다는 계획이다. 카카오 관계자는 국내 최고 수준의 AI 및 ICT 전문가들과 지속적인 논의를 거쳐 카카오 AI의 강점과 방향성을 더욱 정교하게 다듬어 갈 것이라며 학계 전반을 아우르는 다양한 프로그램을 통해 기술과 서비스의 발전 방향을 모색하겠다고 말했다.2026-03-09 17:38:16
-
카카오, S&P '지속가능성 연례보고서' 4년 연속 상위 기업 등재 [이코노믹데일리] 카카오는 글로벌 신용평가사 S&P 글로벌의 '기업 지속가능성 평가'에서 4년 연속 상위 기업에 선정됐다고 20일 밝혔다. S&P 글로벌은 매년 전 세계 기업을 대상으로 환경, 사회, 지배구조 전반을 평가하는 기업 지속가능성 평가를 실시하고 산업군별 우수 기업을 '지속가능성 연례보고서'에 등재한다. 올해는 59개 산업군, 9200여 개 기업 가운데 848개 기업만이 이름을 올렸다. 카카오는 인터랙티브 미디어·서비스&홈 엔터테인먼트 산업군에서 76점을 기록했다. 이는 전년 70점 대비 6점 상승한 수치로 해당 산업군 148개 기업 중 1점 차이로 2위에 올랐다. 이는 상위 5%에 포함되는 수치로 산업군별 상위 5%에 오른 국내 기업은 5곳에 불과하고 해당 산업군에서는 카카오가 유일하다. 다만 순위 구간은 지난해까지 3년 연속 유지해온 상위 1%에서 올해 상위 5%로 다소 조정됐다. 점수는 상승했지만 다른 글로벌 기업들도 ESG 관리 체계를 강화하면서 전반적인 평가 기준과 경쟁 강도가 높아진 영향으로 풀이된다. 업계 전반의 상향 평준화 속에서도 상위 5%의 우수한 성과를 거뒀다는 평가다. 카카오는 거버넌스와 환경, 사회 전반에서 고른 평가를 받았다. 내부 감사 체계 강화, 데이터센터 에너지 효율 개선, 환경영향 관리 체계 공시 고도화, 인권영향평가 범위 확대 등 ESG 관리 체계를 지속적으로 정비해왔다. 또한 AI 안전성 강화, 준법·윤리경영 체계 개선, 재생에너지 조달 확대 등을 통해 책임 경영 기반을 다져왔다. 카카오는 글로벌 평가 기준이 높아지는 상황에서도 점수를 끌어올린 것은 공시 신뢰성과 실행력 측면에서의 개선이 반영된 결과라고 설명했다. 카카오는 앞으로도 ESG 전반의 관리 수준을 지속적으로 고도화해 글로벌 기준에 부합하는 지속가능 경영을 이어가겠다는 방침이다. 카카오 관계자는 "ESG 관리 체계를 지속적으로 고도화해 온 노력과 성과를 인정받은 결과"라며 "비록 (산업군) 2위를 했음에도 상위 5%라는 우수한 성적을 거뒀다"고 말했다.2026-02-20 10:48:07
-
전 세계로 번진 xAI '그록' 딥페이크 논란…美 캘리포니아 조사 착수 [이코노믹데일리] 일론 머스크가 이끄는 xAI의 인공지능 모델 '그록'을 둘러싼 논란이 전 세계로 확산되고 있다. 단순한 기술 경쟁을 넘어 발언 수위와 안전성, 데이터 활용 방식, 법적 책임 문제까지 겹치며 각국 정부와 사법 당국이 동시에 대응에 나서는 양상이다. 14일(현지시간) 롭 본타 캘리포니아주 법무장관은 "AI 모델 그록을 이용해 제작된 성적으로 노골적인 이미지 확산에 대한 조사를 개시한다"며 그록의 성적 이미지 생성 논란에 대한 조사에 나섰다. 이어 그는 "xAI가 소셜미디어 플랫폼 엑스(X·옛 트위터)를 포함한 인터넷 전반에서 여성과 소녀들을 괴롭히는 데 사용되는 대규모 딥페이크 이미지 제작을 가능하게 하는 것으로 보인다"며 "최근 몇 주간 이런 이미지들에 대한 폭로가 쏟아지고 있는 상황은 충격적"이라고 강조했다. 그록은 X와 연동된 대화형 AI로, 실시간성에 가까운 데이터 접근과 직설적인 응답 스타일을 강점으로 내세웠다. 그러나 이 같은 특징은 곧바로 논란으로 이어졌다. 일부 국가와 지역에서 정치적 민감 사안, 폭력적 표현, 허위 정보에 가까운 답변이 노출되며 AI 안전성 논쟁의 중심에 섰다. 한국 정부도 이번 문제에 민감한 반응을 보였다. 방송미디어통신위원회는 14일 소셜 플랫폼 X에 공문을 보내며 안전장치 마련, 청소년 접근 제한, 관리 조치 등을 요청하며 경고에 나섰다. 또한 정부는 학습 데이터의 출처, 유해 콘텐츠 차단 기준, 국내 이용자 대상 서비스 제공 시 책임 구조 등에 대한 설명과 개선을 요청한 것으로 알려졌다. 김종철 방미통위원장은 "새롭게 도입되는 신기술이 건전하고 안전하게 발전하는 데 도움이 되도록 적극 지원하겠다"며 "AI 서비스 제공자를 대상으로 성범죄물 등 불법정보 유통 방지 및 청소년 보호 의무를 부과하는 제도 개선을 추진하겠다"고 말했다. 동남아시아에서도 파장이 컸다. 인도네시아에서는 그록이 종교·사회적으로 민감한 주제에 대해 부적절하거나 편향된 답변을 내놓았다는 지적이 제기되며, 정부 차원의 검토가 이뤄졌다. 인도네시아 당국은 해외 AI 모델이 자국 내 사회적 갈등을 증폭시킬 가능성을 우려하며 콘텐츠 관리 체계와 현지 법규 준수 여부를 점검한 것으로 알려졌다. 일부에서는 서비스 제한이나 규제 가능성까지 거론된다. 기술적 논란도 여전히 현재진행형이다. 일부 전문가들은 그록의 응답 패턴과 결과물이 기존 대형언어모델과 유사하다는 점을 들어 학습 과정의 투명성을 요구하고 있다. 이에 대해 xAI는 독자적인 모델 설계와 학습 방식을 강조하고 있지만 외부 검증 요구는 쉽게 가라앉지 않는 분위기다. 업계에서는 그록 논란을 특정 모델의 일탈이 아니라 차세대 AI 경쟁이 맞닥뜨린 구조적 문제로 해석하는 시각이 많다. 실시간 데이터와 결합된 AI가 확산될수록, 성능보다 안전성과 규제 대응 능력이 핵심 경쟁력이 되고 있기 때문이다. 국가와 지역별로 다른 법·문화적 기준을 어떻게 반영할지도 주요 과제로 떠오르고 있다. 이번 논란에 대해 일론 머스크 X 대표는 자신의 X 계정 게시물에 "나는 그록이 생성한 미성년자 노출 이미지에 대해 전혀 알지 못한다"며 "말 그대로 '제로'"라고 강조했다. 이어 "분명히 그록은 스스로 이미지를 생성하지 않으며 오직 사용자 요청에 따라 생성한다"며 "이미지 생성을 요청받을 때 그록은 해당 국가나 주(州)의 법률을 준수하는 운영 원칙에 따라 어떤 불법적인 것도 생성하기를 거부할 것"이라고 설명했다.2026-01-15 07:53:55
많이 본 뉴스
영상
Youtube 바로가기
![[사설] 환율 안정에 안주할 때 아니다…외환 방어력 키울 골든 타임이다](https://image.ajunews.com/content/image/2026/07/13/20260713092838404021_518_323.jpg)