2026.07.14 화요일
검색
'인간 중심 AI' 검색결과
기간검색
-
~
검색영역
검색어
-
네이버, AI 안전망 넓힌다…'모델' 넘어 이용자 경험까지 점검 [경제일보] 네이버가 인공지능(AI) 안전성 관리 범위를 모델에서 서비스와 이용자 경험으로 넓힌다. AI가 검색과 쇼핑, 추천, 에이전트 기능으로 들어오는 상황에서 단순히 모델 성능만 보는 방식으로는 안전성을 담보하기 어렵다는 판단이다. 네이버(대표이사 최수연)는 8일 서울 강남구에서 열린 인공지능안전 서울 포럼에서 AI 안전성 관리 체계 ‘ASF(AI Safety Framework) 2.0’을 공개했다. ASF 2.0은 네이버가 2024년 AI 서울 서밋에서 공개한 ASF를 고도화한 버전이다. 기존 ASF가 AI 기술 모델의 성능과 위험 수준을 중점적으로 관리했다면 ASF 2.0은 이용자가 실제로 접하는 AI 서비스까지 관리 범위를 확장했다. AI가 하나의 모델로 작동하던 단계에서 여러 모델과 기능이 결합된 서비스로 진화하면서 안전성 관리 방식도 바뀌어야 한다는 문제의식이 반영됐다. 송대섭 네이버 AI Safety Policy 리더는 “AI를 둘러싼 기술과 서비스, 정책·제도 환경이 변화하며 하나의 모델을 안전하게 만드는 문제를 넘어 수천만 명이 사용하는 서비스를 어떻게 안전하게 설계하고 운영할 것인지의 문제로 확장되고 있다”고 말했다. 이번 체계에는 네이버의 ‘On-service AI’ 전략도 반영됐다. 네이버는 AI탭과 쇼핑 AI 에이전트 등 기존 서비스 안에 AI 기능을 깊게 결합하고 있다. 또 글로벌 AI 생태계에서 멀티 모델 환경이 확산되고 국내에서도 AI기본법 제정 등 제도 변화가 이어지는 점을 고려했다. ASF 2.0의 핵심은 서비스 전 주기 관리다. AI 서비스의 출시 전 설계 단계부터 출시 이후 운영 과정까지 위험을 점검한다. 평가 기준도 단순 성능 중심에서 맥락, 활용 사례, 영향으로 세분화됐다. 같은 AI 기능이라도 어떤 서비스에 쓰이는지 어떤 이용자가 영향을 받는지에 따라 위험 수준이 달라질 수 있기 때문이다. 구체적으로 네이버는 AI 위험 분류 체계를 통해 서비스에서 발생할 수 있는 위험을 유형화한다. 이어 AI 영향 평가 매트릭스로 활용 영역과 범위에 따른 영향을 평가한다. 이후 지속적인 안전성 점검과 사용자 피드백을 반영해 AI 서비스가 안정적으로 운영되도록 관리한다. 전사 실행 체계도 마련했다. 네이버는 ASF 2.0이 실제 서비스 출시 과정에 일관되게 적용될 수 있도록 ‘CHEC 2.0’을 운영한다. CHEC 2.0은 인간 중심 AI 윤리와 안전성을 검토하는 내부 실행 체계다. 지난 6월 선보인 ‘AI탭’도 설계부터 출시 단계까지 CHEC 2.0을 통해 안전성 점검을 거쳤다. 네이버는 앞으로 AI탭을 포함해 출시 예정이거나 이미 운영 중인 AI 기반 서비스의 안전성을 CHEC 2.0으로 지속 점검할 방침이다. 외부 전문가와 학계, 정책 기관과의 협업도 확대한다. 이번 업데이트는 AI 서비스 경쟁이 빨라질수록 안전성 관리가 기업의 신뢰 경쟁력으로 바뀌고 있음을 보여준다. 검색 결과, 쇼핑 추천, 에이전트 실행이 이용자의 판단과 소비에 직접 영향을 미치는 만큼 플랫폼 기업은 기술 성능뿐 아니라 잘못된 답변, 편향, 과도한 자동화, 개인정보 위험까지 함께 관리해야 한다. 한편 네이버의 ASF 2.0은 AI를 더 많이 붙이기 위한 안전장치이기도 하다. 이용자가 체감하는 서비스 안으로 AI가 들어갈수록 작은 오류도 큰 불신으로 번질 수 있다. AI 시대의 플랫폼 경쟁은 누가 더 빠르게 기능을 내놓느냐만으로 결정되지 않는다. 수천만 이용자가 쓰는 서비스에서 위험을 예측하고 설명하며 수정할 수 있는 체계를 갖췄는지가 다음 신뢰의 기준이 된다.2026-07-08 11:28:44
-
앤트로픽 고위 인사 방한…'미토스 쇼크' 이후 AI 보안 협력 부상 [경제일보] 미국 인공지능 기업 앤트로픽의 고위 인사가 다음주 한국을 찾아 정부와 AI 보안 대응 방안을 논의한다. 소프트웨어 취약점 탐지에 특화된 AI 모델 ‘미토스’를 둘러싼 논란이 확산된 이후 한국과 글로벌 AI 기업 간 보안 협력 논의가 구체적으로 논의할 전망이다. 6일 정부와 업계에 따르면 마이클 셀리토 앤트로픽 글로벌 정책 총괄은 오는 11일 서울에서 류제명 과학기술정보통신부 2차관과 만날 예정이다. 면담은 앤트로픽 측 요청으로 성사된 것으로 알려졌다. 앤트로픽은 국가AI전략위원회와의 별도 회동도 추진 중이다. 셀리토 총괄은 앤트로픽의 글로벌 정책과 대외협력을 맡고 있다. 백악관 국가안보회의에서 사이버보안 정책을 담당했고 스탠퍼드대 인간중심AI연구소 부소장을 지낸 이력이 있다. 이번 방한에서도 기술 협력뿐 아니라 AI 보안 규범과 정책 대응이 주요 의제로 다뤄질 가능성이 크다. 논의의 핵심은 미토스다. 미토스는 소프트웨어 취약점 탐지와 사이버 보안 업무에 특화된 앤트로픽의 AI 모델로 알려졌다. 복잡한 코드 결함을 찾아내고 다단계 공격 시나리오를 분석할 수 있다는 점에서 보안 연구 활용 가능성이 크다. 동시에 공격 자동화 수단으로 악용될 수 있다는 우려도 제기됐다. 앤트로픽은 미토스를 일반 공개하지 않고 제한적으로 제공하는 방식으로 관리하고 있다. 구글 마이크로소프트 애플 등 주요 빅테크와 함께 ‘프로젝트 글래스윙’을 구성해 접근 권한을 제한하고 공동 대응 체계를 구축하는 방안도 추진 중이다. 현재 국내 기업의 참여는 없는 것으로 전해졌다. 정부는 이번 면담에서 국내 기업의 글래스윙 참여 가능성과 AI 보안 협력 방안을 논의할 것으로 보인다. 과기정통부는 AI가 사이버 공격과 방어 체계를 동시에 바꾸고 있다는 점을 감안해 보안 분야의 AI 활용과 통제 방안을 검토해 왔다. 국내 보안 기업과 AI 기업이 글로벌 협력망에 참여할 경우 기술 검증과 공동 대응 경험을 확보할 수 있다는 기대도 나온다. 다만 실제 협력까지는 검토해야 할 사안이 적지 않다. 미토스의 구체적 성능과 접근 권한 범위 데이터 처리 기준 책임 소재 등이 명확해야 한다. AI 보안 모델은 방어 역량을 높일 수 있지만 활용 범위가 넓어질수록 오남용 위험도 커진다. 정부와 업계가 기술 도입 속도와 안전장치를 함께 따져야 하는 이유다. 국내 보안 산업에는 기회와 부담이 동시에 생길 수 있다. AI 기반 취약점 탐지와 대응 자동화 수요가 커지면 보안관제 취약점 진단 침해대응 시장도 변화를 맞을 가능성이 있다. 반면 글로벌 AI 기업 중심으로 표준과 플랫폼이 형성될 경우 국내 기업의 기술 종속 우려도 제기될 수 있다. 향후 관건은 논의가 실제 협력으로 이어질지 여부다. 이번 면담이 글래스윙 참여 타진과 국내 기업 협력 논의로 확대될 경우 한국은 글로벌 AI 보안 협력 체계에 처음 진입하는 계기를 마련할 수 있다. 반대로 원론적 의견 교환에 그칠 경우 국내 참여 논의는 중장기 과제로 남을 전망이다. 과기정통부 고위 관계자는 “앤트로픽이 한국 시장 진출을 적극 추진하는 상황에서 정부도 AI 보안 협력 필요성을 인식하고 있다”며 “글래스윙 참여를 포함해 다양한 협력 방안이 논의될 것”이라고 말했다.2026-05-06 17:59:14
-
"제조 혁신은 로보틱스·AI"…정의선 현대차 회장, 美 260억달러 투자 확대 [경제일보] 정의선 현대차그룹 회장이 로보틱스와 인공지능(AI)을 제조 혁신의 핵심 축으로 재차 제시했다. 미국에 오는 2028년까지 260억달러(38조원)를 투자해 생산과 기술, 공급망 기반을 동시에 강화하겠다는 계획도 밝혔다. 기술 전환과 지역 전략을 결합해 중장기 경쟁력을 확보하겠다는 구상이다. 13일 업계에 따르면 정 회장은 최근 미국 매체 세마포와의 인터뷰에서 로보틱스와 피지컬 AI를 그룹 전략의 중심에 두겠다고 밝혔다. 그는 "로보틱스와 피지컬 AI는 모빌리티를 넘어서는 핵심 영역"이라며 인간과 협업하는 기술을 기반으로 생산성과 품질을 동시에 높이는 전략을 제시했다. 현대차그룹은 이를 제조 현장에 직접 적용하는 단계로 전환하고 있다. 올해 초 CES에서 공개한 인간 중심 AI 로보틱스 전략을 기반으로, 보스턴다이내믹스의 휴머노이드 로봇 '아틀라스'를 생산 공정에 투입하는 계획을 재확인했다. 목표 시점은 2028년이며, 2030년까지 연간 최대 3만대 생산 체계 구축이 제시됐다. 로봇을 단순 자동화 설비가 아닌 협업형 생산 자원으로 활용하는 구조다. 기존에는 자동차 생산 체계가 설비 중심이었다면, 향후에는 소프트웨어와 데이터 기반으로 공정 운영 방식이 재편되는 구조다. 인간과 로봇, AI가 동시에 작업에 참여하는 형태가 전제된다. 핵심 거점은 HMGMA다. 이 공장은 소프트웨어 기반 생산 시스템을 적용한 차세대 제조 거점으로, 전동화와 디지털 공정이 결합된 형태로 운영된다. 이를 통해 생산 유연성과 효율성을 동시에 확보하겠다는 전략이다. 정 회장은 지정학적 변수와 공급망 재편에 대응하기 위해 지역별 생산과 운영 역량을 강화하고 있다. 글로벌 시장이 규제와 공급망 기준에 따라 분절되는 흐름 속에서 각 지역별 대응 체계를 구축하는 것이 핵심이다. 한국 생산기지, 미국 HMGMA, 미국 내 하이브리드 생산 확대, 인도 및 아시아태평양 지역 신규 거점 구축이 병행된다. 지역별 수요와 정책 환경에 맞춘 생산 구조를 통해 변동성에 대응하는 전략이다. 에너지 전략에서는 수소 사업을 주요 축으로 제시했다. 정 회장은 AI 인프라와 데이터센터 확대로 전력 수요가 증가하는 상황에서 수소가 대안이 될 수 있다고 설명했다. 현대차그룹은 수소 생산부터 저장, 운송, 활용까지 전 과정을 포괄하는 체계를 구축 중이다. 수소 사업 브랜드인 HTWO를 중심으로 밸류체인 확대를 추진하고 있다. 수소는 전기차와 경쟁 관계가 아니라 보완적 기술로 다양한 에너지 선택지를 제공하는 구조가 필요하다는 입장이다. 탄소중립 전략도 병행된다. 정 회장은 차량 생산뿐 아니라 원자재 조달, 공정, 재활용까지 전 과정에서 배출을 줄이는 구조를 구축하겠다고 밝혔다. 생산 단계 중심의 대응에서 벗어나 전 밸류체인으로 범위를 확장하는 접근이다. 정 회장은 현대차그룹 DNA를 기반으로 향후 경영과제를 극복하겠다는 계획도 밝혔다. 그는 "현대차, 기아, 제네시스 브랜드를 통해 연간 700만대 이상의 차량을 판매하고 있고, 200개국에 판매망과 16개의 글로벌 생산시설을 갖추고 있다"며 "국내외 환경 변화는 회복력과 유연성을 기반으로 대응해 나갈 것"이라고 말했다.2026-04-13 10:43:05
-
AI 경쟁 '모델 규모'에서 '효율'로…노타, LLM 경량화 기술 개발 [경제일보] 수천억개의 파라미터를 갖춘 인공지능 모델을 구동하기 위해 필요한 대규모 GPU 인프라와 막대한 메모리가 기업의 AI 도입 장벽으로 작용하면서 대형 언어모델(LLM)의 운영 비용이 인공지능 산업의 새로운 과제로 떠오르고 있다. 이에 글로벌 AI 기업들이 모델 성능을 유지하면서도 비용을 낮추기 위한 경량화·최적화 기술 경쟁에 속도를 내는 가운데 국내 기업들도 관련 기술 개발에 나서고 있다. 5일 AI 경량화 및 최적화 전문 기업 노타는 업스테이지의 대형 언어모델 '솔라'의 모델 크기를 대폭 압축해 추론 비용을 줄이고 처리 속도를 높이면서도 높은 정확도를 유지하는 차세대 양자화 기술을 개발했다고 밝혔다. 이번 개발은 과학기술정보통신부가 추진하는 '독자 AI 파운데이션 모델 프로젝트'의 일환으로 진행됐다. 노타는 업스테이지의 '솔라 오픈 100B' 모델에 자체 경량화·최적화 기술을 적용해 성능은 유지하면서 메모리 효율을 크게 개선했다고 설명했다. 해당 프로젝트는 국내 독자 AI 모델 생태계 구축을 목표로 추진되는 사업으로 모델 개발뿐 아니라 학습·추론 효율을 높이기 위한 핵심 기술 확보도 중요한 과제로 꼽힌다. 특히 이번 기술은 최근 차세대 LLM 구조로 확산되고 있는 'MoE(전문가 혼합 구조)' 모델의 기술적 난제를 해결하는 데 초점을 맞췄다. MoE는 입력에 따라 일부 전문가 모델만 선택적으로 작동하는 방식으로 구글과 메타 등 글로벌 빅테크들이 차세대 LLM 구조로 채택하고 있는 기술로 알려졌다. 모델 전체가 동시에 작동하는 기존 방식보다 연산 효율을 높일 수 있어 초대형 모델 설계에 유리하지만, 구조 특성상 기존 양자화 방식으로는 성능 저하가 발생하기 쉽다는 한계가 있었다. 노타는 MoE 구조에 최적화된 독자 알고리즘 '노타 MoE 양자화' 방법론을 개발해 해당 문제를 해결했다고 설명했다. 모델 전체를 일괄적으로 압축하는 기존 방식과 달리 연산 중요도에 따라 정밀도를 차등 적용해 양자화 과정에서 발생하는 성능 저하를 최소화했다. 즉, 성능에 영향을 크게 미치는 연산은 정밀도를 유지하고 상대적으로 영향이 작은 부분만 압축해 효율성과 정확도를 동시에 확보하는 방식이다. 노타에 따르면 100B(1000억개) 파라미터 규모의 솔라 모델에 해당 기술을 적용해 기존 약 191.2GB(기가바이트) 수준이던 메모리 사용량을 약 72.8% 감소한 51.9GB까지 줄인 것으로 나타났다. 성능 지표인 PPL은 6.81을 기록해 원본 모델의 6.06과 큰 차이를 보이지 않는 수준을 유지했다. 일부 범용 양자화 기법이 적용될 경우 성능이 크게 저하되는 것과 비교하면 메모리 효율과 정확도를 동시에 확보한 결과라는 설명이다. 이 같은 경량화 기술은 향후 온디바이스 AI와 피지컬 AI 확산에도 중요한 기반이 될 전망이다. 그동안 초대형 LLM은 막대한 GPU 자원을 요구해 데이터센터 중심으로 운영될 수밖에 없었다. 그러나 모델을 경량화하면 로봇, 자율주행차, 스마트 디바이스 등 다양한 엣지 환경에서도 고성능 AI를 구현할 수 있는 가능성이 커진다. 스탠퍼드대학교 인간중심 AI 연구소가 발간한 'AI 인덱스 리포트'에 따르면 최근 인공지능 산업에서는 모델 성능 경쟁과 함께 추론 비용과 연산 효율성이 주요 경쟁 지표로 부상하고 있다. 보고서는 초대형 모델 규모가 빠르게 커지면서 이를 운영하기 위한 GPU 인프라와 전력 비용이 급증하고 있으며 이에 글로벌 AI 기업들이 모델 압축, 양자화, 추론 최적화 등 효율성 기술 확보에 투자를 확대하고 있다고 분석했다. 앞으로는 LLM 경쟁이 단순한 모델 성능 경쟁을 넘어 효율성 경쟁으로 확장될 전망이다. 미국과 중국을 중심으로 모델 경량화와 엣지 AI 기술 연구가 활발하게 진행되는 가운데 국내에서도 파운데이션 모델 개발과 함께 최적화 기술 확보가 중요한 과제로 떠오르고 있다. 채명수 노타 대표는 "이번 성과는 한국형 AI 파운데이션 모델인 솔라 100B에 노타만의 양자화 기법을 적용해 메모리를 대폭 줄이면서도 성능을 유지했다는 점에서 의미가 크다"며 "디바이스에 대규모 모델을 구현해야 하는 수요가 커질수록 노타의 경량화·최적화 기술이 고성능 AI를 실현하는 핵심적인 역할을 해나갈 것"이라고 말했다.2026-03-05 09:54:56
많이 본 뉴스
영상
Youtube 바로가기
![[사설] 800조 수퍼 재정, 미래를 위한 투자인가 미래를 담보 잡는 도박인가](https://image.ajunews.com/content/image/2026/07/14/20260714122102289150_518_323.jpg)