2026.04.13 월요일
검색
'책임 있는 AI' 검색결과
기간검색
-
~
검색영역
검색어
-
AI가 전장 '무기'로…군사 AI 활용 범위 기준 시험대 [경제일보] 아이작 아시모프가 제시한 '로봇 공학 3원칙' 중 제1원칙으로서 '인간에게 해를 끼치지 말 것'이 가장 우선순위로 꼽히고 있다. 인공지능이 인간 사회에 본격적으로 도입되기 전 제시된 이 원칙은 기술이 지켜야 할 최소한의 윤리 기준으로 여겨져 왔다. 다만 실제 전장과 안보 영역에서 활용되는 인공지능의 역할이 빠르게 확대되면서 이러한 원칙이 현실에서 제대로 작동하고 있는지에 대한 의문도 커지고 있다. 지난 9일(현지시간) 앤트로픽은 미 행정부를 상대로 자사 AI를 국방에 지나치게 사용한 것에 '공급망 위험' 기업으로 지정한 조치를 취소해 달라고 소송을 제기했다. 군사 기술 활용 범위를 둘러싸고 정부와 AI 기업이 정면 충돌한 것이다. 미국 인공지능 기업 앤트로픽의 AI 모델 '클로드'는 미군의 기밀 시스템에서 사용됐지만 앤트로픽은 자사 AI 모델이 대규모 국내 감시 체계나 자율 살상 무기에 사용되는 것을 허용할 수 없다는 입장을 고수해 미 국방부와 갈등을 빚어 왔다. 미 국방부는 인공지능 기술이 '합법적인 모든 용도'에서 제한 없이 사용될 수 있어야 한다는 입장을 고수했고 지난달 27일 앤트로픽은 '공급망 위험' 기업으로 지정됐다. AI가 실제 전장에서 활용되는 사례도 빠르게 늘고 있다. 최근 중동 지역 군사 작전에서도 인공지능은 핵심 정보 분석 도구로 사용된 것으로 알려졌다. 외신에 따르면 미국과 이스라엘이 전쟁 초기 수행한 공습 작전에서 인공지능이 이란의 군 지휘부의 이동 경로 및 동선을 분석하는 데 활용됐다. AI는 위성 영상과 통신 정보, 공개 데이터를 빠르게 분석해 목표를 식별하고 공격 우선순위를 정하는 데 사용됐다. 기존에는 사람이 수행하던 정보 분석 과정을 알고리즘이 대체하거나 보조하면서 군사 작전의 속도와 정확도를 크게 높인 것으로 평가된다. 문제는 이러한 기술이 어디까지 허용돼야 하느냐다. 정보 분석이나 작전 지원을 넘어 무기 체계가 스스로 공격 대상을 선택하고 실행하는 '자율 살상 무기' 단계로 발전할 경우 윤리적 논쟁은 훨씬 복잡해질 수 있다. 국내에서도 국방에 AI 적용을 위한 노력이 진행되고 있다. 국가 AI 전략위원회가 공개한 '2026년 AI 재정사업 현황'에 따르면 올해 국방 분야에 배정된 예산은 감시정찰, 정보분석, 군수지원 등 국방에 필요한 AI 기술 개발 목표의 'AI응용제품 신속 상용화 지원사업'에 350억원 등 약 1000억원에 달한다. 이에 국내에서도 막대한 예산이 들어간 만큼 AI 윤리적 문제를 사전에 방지하고자 목소리를 내고 있다. 기술 경쟁력 확보와 산업 생태계 조성뿐 아니라 책임 있는 AI 활용을 위한 제도적 장치가 함께 논의돼야 한다는 지적이다. 지난 1월 27일 여·야 국회의원 33인은 국내의 경우 기존 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'에 국방 분야가 그 적용 대상에서 제외되어 있어 국방 인공지능 기술의 개발·운용·안전관리 등을 체계적으로 규율할 수 있는 별도의 법적 기반이 부재하다는 이유로 '국방 인공지능 법안'을 발의했다. 국방 인공지능의 책임 있는 활용과 지속 가능한 발전을 뒷받침할 제도적 장치를 마련하자는 취지다. 유용원 국민의당 의원은 법안을 제안하며 "이 법은 국방 AI를 국가 안보의 핵심 역량으로 체계화하기 위한 기본 틀로서 인공지능이 국방 현장에서 안정적으로 활용되고 지속 가능하게 발전하도록 할 것"이라고 말했다. 인간에게 해를 끼치지 말라는 로봇 공학의 오래된 원칙이 현실의 군사 기술 속에서 어디까지 규제해야 할지 정해야 할 시기가 다가오고 있다. AI가 전장의 '두뇌' 역할을 맡기 시작한 지금, 기술의 발전 속도에 맞춰 윤리와 규범도 함께 진화해야 할 필요성이 점점 커질 전망이다.2026-03-11 09:46:15
-
LG유플러스, AI 기본법 대응 체계 가동... "투명성 확보가 핵심" [이코노믹데일리] LG유플러스(대표 홍범식)가 지난 22일 본격 시행된 '인공지능(AI) 기본법'에 발맞춰 전사적 리스크 관리 체계를 가동했다. AI가 생성한 결과물에 식별 표시를 의무화하고 서비스 약관을 개정하는 등 법적 불확실성을 선제적으로 해소해 '신뢰받는 AI' 입지를 굳히겠다는 전략이다. 25일 LG유플러스는 자사가 운영 중인 고객센터 및 멤버십 통합 앱 ‘U+one’을 비롯한 생성형 AI 서비스 전반에 대한 점검을 완료했다고 밝혔다. 이번 조치의 핵심은 '이용자 알 권리'와 '투명성'이다. LG유플러스는 AI 기본법 적용 대상 서비스의 경우 이용 약관에 'AI 기반 제공' 사실을 명시해 사전 고지가 이뤄지도록 조치했다. 또한 AI가 생성한 답변이나 콘텐츠에는 별도의 식별 표시를 부착해 이용자가 기계가 만든 결과물임을 명확히 인지할 수 있도록 했다. 이는 딥페이크나 허위 정보 확산을 막기 위한 정부의 규제 가이드라인을 충실히 이행한 것이다. 내부 통제 시스템도 강화했다. CTO(최고기술책임자), 정보보안센터, 법무실 등 유관 부서가 참여하는 'AI 리스크 관리 협의체'를 통해 기획부터 개발, 운영에 이르는 전 주기를 감시한다. 앞서 LG유플러스는 지난해 6월 국제표준인 'ISO/IEC 42001(인공지능경영시스템)' 인증을 획득하며 글로벌 수준의 AI 윤리 체계를 검증받은 바 있다. 업계는 LG유플러스의 행보를 '책임 있는 AI(Responsible AI)' 트렌드의 일환으로 보고 있다. AI 기본법 시행을 기점으로 통신사들의 경쟁 축이 '기술 속도전'에서 '신뢰성과 안전성'으로 이동하고 있기 때문이다. 실제로 SK텔레콤은 최근 'AI 거버넌스 포털'을 고도화해 사내 규제 준수 여부를 체크하고 있으며 KT는 전담 조직인 'RAIC'를 신설하고 최고책임자(CRAIO)를 선임했다. LG유플러스 역시 전사 대응 체계를 공식화함에 따라 통신 3사의 'AI 안전망' 구축 경쟁은 더욱 치열해질 전망이다. 전문가들은 2026년이 AI 서비스의 옥석이 가려지는 해가 될 것으로 내다본다. 법적 규제가 강화됨에 따라 단순한 기능 구현을 넘어 데이터 투명성과 윤리적 기준을 충족하지 못한 서비스는 시장에서 도태될 가능성이 높다. LG유플러스 관계자는 "AI 기본법 시행은 기술 혁신과 더불어 책임 있는 활용이 요구되는 시점임을 시사한다"며 "고객 신뢰를 기반으로 차별화된 AI 경험을 제공해 미래 경쟁력을 확보하겠다"고 강조했다. 향후 LG유플러스는 '익시오(ixi-O)' 등 B2C 에이전트 서비스와 B2B 솔루션 전반에 걸쳐 강화된 컴플라이언스 기준을 적용할 방침이다.2026-01-25 14:39:31
-
'AI 기본법' 오늘 시행... 통신사들 "속도보다 안전, 책임지는 AI 만든다" [이코노믹데일리] 세계 최초의 포괄적 인공지능 규제법인 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'이 22일 본격 시행됐다. 이에 맞춰 SK텔레콤과 KT 등 국내 이동통신사들이 전사적 AI 거버넌스 체계를 재정비하고 '책임 있는 AI(Responsible AI)' 실현을 위한 구체적인 행동에 나섰다. AI 기술 경쟁이 '성능' 위주에서 '안전과 신뢰' 중심으로 패러다임이 전환되고 있음을 보여준다. ◆ SKT '거버넌스 포털' 고도화, KT 'CRAIO' 중심 조직 개편 SK텔레콤은 이날 전사적인 AI 거버넌스 체계를 강화하고 사내 캠페인 '굿 AI(Good AI)'를 시행한다고 밝혔다. 핵심은 지난해 9월 개설한 'AI 거버넌스 포털'의 고도화다. 이 시스템은 SK텔레콤의 자체 AI 원칙인 'T.H.E. AI(Telco, Humanity, Ethics)'를 기반으로 기획 단계부터 서비스의 위험 요인을 분석하고 준수 여부를 판별한다. AI 기본법 시행에 맞춰 법적 요구사항을 시스템에 반영하고 구성원들이 이를 내재화하도록 프로세스를 강화했다. 차호범 SK텔레콤 CPO(정보보호최고책임자)는 "책임감 있고 신뢰할 수 있는 AI 개발을 위해 전사 역량을 결집하겠다"고 강조했다. KT는 조직 신설과 최고책임자 임명으로 대응 수위를 높였다. KT는 이미 2024년 전담 조직인 '책임감 있는 AI 센터(RAIC)'를 구축하고 국내 통신사 최초로 최고책임자인 CRAIO(Chief Responsible AI Officer) 직책을 신설했다. 배순민 상무가 초대 CRAIO를 맡아 AI 윤리 원칙 'ASTRI'를 제정하고 기획부터 운영까지 전 과정에 적용하고 있다. 또한 외부 전문가로 구성된 자문위원회를 운영하며 객관적인 검증 체계를 갖췄다. ◆ 법 시행 배경은 '통제 가능한 AI'... "신뢰가 곧 경쟁력" 이번 AI 기본법 시행과 기업들의 발 빠른 대응은 생성형 AI의 급격한 확산과 맞물려 있다. 딥페이크, 가짜 뉴스, 알고리즘 편향성 등 AI의 부작용이 사회적 문제로 대두되면서 '통제 가능하고 설명 가능한 AI'에 대한 요구가 폭발했기 때문이다. 특히 AI 에이전트가 쇼핑, 금융, 예약 등 실생활의 의사결정을 대신하는 단계로 진입하면서 안전성 확보는 기업의 생존과 직결된 문제가 됐다. 정부는 이번 법 시행을 통해 고영향 AI에 대한 사업자의 책임을 명문화하고 투명성 확보를 의무화했다. 이를 어길 경우 과태료 등 제재가 따르지만 초기 혼란을 줄이기 위해 1년의 계도 기간을 뒀다. 통신사들이 법 시행 첫날부터 선제적인 조치를 발표한 것은 규제 대응을 넘어 '안전한 AI'라는 브랜드 이미지를 선점하기 위한 전략으로 풀이된다. 향후 AI 시장의 경쟁 포인트는 '누가 더 똑똑한가'에서 '누가 더 안전한가'로 이동할 전망이다. 기업용(B2B) AI 시장에서는 보안과 신뢰성이 솔루션 도입의 최우선 기준이 되고 있다. 이에 따라 통신사들은 자체 거버넌스 체계를 글로벌 표준 수준으로 끌어올리고 'AI 가드레일(안전장치)' 기술 개발에 투자를 확대할 것으로 보인다. 업계 관계자는 "AI 기본법 시행은 국내 AI 산업이 '무한 속도전'에서 '지속 가능한 성장'으로 태세를 전환하는 분기점"이라며 "통신사들이 구축한 AI 신뢰성 검증 체계가 향후 금융, 제조 등 타 산업군으로 확산되는 표준 모델이 될 가능성이 높다"고 분석했다.2026-01-22 11:01:13
많이 본 뉴스
영상
Youtube 바로가기
![[데스크 칼럼] 종합특검 대북송금 겨냥…검사 공백에 동력 흔들리나](https://image.ajunews.com/content/image/2026/04/13/20260413090023950317_518_323.jpg)