검색결과 총 7건
-
뤼튼, 사용자위원회 출범…AI 윤리·안전성 강화
[경제일보] 생성형 인공지능(AI) 서비스 경쟁이 성능 중심에서 안전성과 신뢰 확보로 확대되고 있다. AI가 일상 속 서비스로 빠르게 자리 잡으면서 허위정보와 개인정보 보호, 편향성 등 다양한 사회적 이슈가 부각되자 국내 AI 기업들도 윤리 체계와 거버넌스 강화에 속도를 내는 것으로 풀이된다. 13일 AI 서비스 플랫폼 기업 뤼튼테크놀로지스는 사용자 보호와 서비스 신뢰성 강화를 위한 '사용자위원회'를 지난 10일 공식 출범했다고 밝혔다. 사용자위원회는 AI 서비스 정책과 제품 개발 과정에 외부 전문가의 의견을 반영하기 위해 마련됐다. AI 윤리와 철학, 심리학, 법률 등 다양한 분야 전문가들이 사용자 관점에서 서비스를 점검하고 개선 방향을 제안하는 역할을 맡는다. 이를 통해 기술 중심의 의사결정에서 벗어나 이용자 보호와 신뢰성을 고려한 서비스 운영 체계를 구축한다는 구상이다. 위원장은 이상욱 한양대 철학과 교수가 맡았으며, 선지원 한양대 법학전문대학원 교수, 이윤형 영남대 심리학과 교수, 황혜진 법무법인 디엘지 변호사가 위원으로 참여한다. 각 위원은 AI 윤리와 법·제도, 이용자 심리 등 전문 분야를 바탕으로 서비스 정책과 제품 개발 과정에서 발생할 수 있는 다양한 이슈를 검토하고, 사용자 보호 관점에서 개선 방향을 제시할 예정이다. 최근 생성형 AI 서비스는 빠른 확산과 함께 신뢰성 확보가 핵심 과제로 떠오르고 있다. AI가 생성한 허위정보와 개인정보 보호, 편향성, 청소년 보호 등 다양한 문제가 제기되면서 글로벌 빅테크는 물론 국내 AI 기업들도 자체 안전 기준과 윤리 체계를 강화하고 있다. IT 업계에서는 단순히 모델 성능을 높이는 것을 넘어 이용자가 안심하고 서비스를 사용할 수 있는 환경을 구축하는 것이 경쟁력으로 이어질 것으로 평가하고 있다. 이에 뤼튼은 사용자위원회를 통해 서비스 정책과 제품 개발 전반에 외부 전문가의 시각을 선제적으로 반영하고, 사용자 보호 체계를 한층 강화한다는 방침이다. 특히 AI 윤리와 법률, 심리 등 다양한 분야의 전문성을 바탕으로 이용자 관점에서 서비스를 점검하고, 위원회에서 제시된 의견을 실제 제품과 정책 개선에 적극 반영해 AI 서비스의 신뢰성을 높여 나간다는 계획이다. 뤼튼은 향후 사용자위원회를 정기적으로 운영하며 AI 서비스의 안전성과 신뢰성을 높이기 위한 정책과 제품 개선을 지속 추진할 계획이다. 위원회에서 논의된 의견을 서비스 운영과 기능 개선 과정에 반영하고, 변화하는 AI 환경에 맞춰 이용자 보호 체계도 지속 고도화한다는 방침이다. 이세영 대표는 "뤼튼은 지난 몇 년간 빠르게 성장했지만, 성장의 속도가 붙을수록 '기술의 편리함 뒤에서 놓치고 있는 책임은 없는가'라는 질문이 무거워졌고, 이에 부응해 책임을 다해야 한다고 믿는다"며 "모두가 AI를 자연스럽게 삶의 일부로 사용하는 세상에서, 누구에게나 안전하고 신뢰 가능한 서비스를 지향하고 있다"고 말했다. 이어 "외부 전문가 위원 분들의 소중한 목소리를 경청하고 실제 제품과 정책에 성실히 반영하겠다"고 덧붙였다.
2026-07-13 08:19:15
-
AI도 한국 문화 맞춤 검증…KT, AI 안전성 벤치마크 'KSAFE-MM' 공개
[경제일보] KT가 한국 사회와 문화적 특성을 반영한 멀티모달 인공지능(AI) 안전성 평가 체계를 공개했다. 생성형 AI 확산으로 텍스트를 넘어 이미지와 음성까지 동시에 이해하는 멀티모달 AI 활용이 늘어나는 가운데 국내 환경에 맞는 안전성 검증 기준을 마련해 AI 신뢰성 확보에 나서겠다는 전략으로 풀이된다. 16일 KT는 고려대학교와 공동으로 개발한 멀티모달 대형언어모델(MLLM) 안전성 벤치마크 'KSAFE-MM'을 공개했다고 밝혔다. 최근 생성형 AI 시장은 텍스트 중심 서비스에서 이미지와 음성, 영상까지 통합적으로 처리하는 멀티모달 AI 중심으로 빠르게 진화하고 있다. 다만 AI 모델의 활용 범위가 확대될수록 허위정보 생성, 편향성, 유해 콘텐츠 노출, 개인정보 침해 등 안전성 이슈 역시 함께 커지고 있는 것으로 알려졌다. 특히 글로벌 AI 기업들이 개발한 안전성 평가 기준은 영어권 문화와 사회 환경을 중심으로 설계돼 국내 이용 환경과 문화적 특수성을 충분히 반영하지 못한다는 한계도 제기돼 왔다. 이에 KT와 고려대는 해당 문제를 해결하기 위해 'KSAFE-MM'을 공동 개발했다고 설명했다. 'KSAFE-MM'은 한국 사회의 문화적·사회적 맥락을 반영한 멀티모달 AI 안전성 평가 체계로, 글로벌 공통 위험 요소를 한국 문화 환경에 맞게 재구성한 'KSAFE-MM-G'와 전세 사기, 독도 분쟁 등 국내 특수 이슈를 반영한 'KSAFE-MM-C'로 구성된다. 전체 평가 데이터는 총 1만4135개 샘플 규모다. 연구진은 해당 벤치마크를 활용해 구글의 '젬마'와 네이버의 '하이퍼클로바 X'를 비롯한 12개 글로벌 멀티모달 AI 모델의 안전성을 검증했다. 이번 연구의 가장 큰 특징은 벤치마크 구축 과정을 자동화한 것이다. 기존 AI 안전성 벤치마크는 전문가가 데이터를 수집하고 검수하는 방식이 대부분으로 많은 비용과 시간이 필요했다. 반면 KSAFE-MM은 현지 커뮤니티 기반 민감 주제 수집, 템플릿 기반 질의 생성, 합성 이미지 제작, 탈옥 질의 생성까지 전 과정을 자동화한 4단계 파이프라인을 구축했다. KT와 고려대 연구진은 동일한 파이프라인을 일본어 환경에 적용한 파일럿 프로젝트 'JSAFE-MM-C'도 진행했다. 연구진은 이를 통해 해당 프레임워크가 한국뿐 아니라 다양한 국가와 문화권에서도 활용 가능한 범용 안전성 평가 체계임을 확인했다고 설명했다. 업계에서는 생성형 AI 규제 논의가 본격화되는 가운데 AI 안전성 평가 체계의 중요성이 더욱 커질 것으로 전망하고 있다. 특히 기업들은 AI 서비스 출시 전 위험 요소를 점검하는 레드팀 테스트와 가드레일 모델 검증 수요가 늘어나고 있어 실질적인 활용도가 높을 것으로 분석된다. KT는 이번 연구 결과를 실제 AI 서비스 안전성 검증과 모델 평가, 위험 분석 등에 활용할 계획이다. 연구 결과와 벤치마크 데이터는 '아카이브'와 '허깅페이스'를 통해 공개돼 학계와 산업계가 자유롭게 활용할 수 있다. KT는 최근 다국어 AI 안전성 벤치마크 'XL-세이프티벤치'를 공개한 데 이어 KSAFE-MM을 선보이며 한국형 AI 안전성 평가 체계 구축을 확대하고 있다. KT는 책임 있는 AI 전담 조직을 중심으로 안전성 분류 체계와 평가 로직 개발 등 관련 연구를 지속 추진한다는 방침이다. 박재형 KT AX미래기술원 프론티어 AI Lab장 상무는 "안전성 벤치마크의 공개는 단순한 데이터 배포를 넘어 AI 안전성 연구 생태계 전반이 함께 발전할 수 있는 기반을 만드는 일"이라며 "KSAFE-MM이 학계와 산업계에서 한국어·한국 문화 맥락의 AI 안전성을 검증하는 공통 기준으로 자리잡길 기대한다"고 말했다.
2026-06-16 14:07:30
-
-
-
KB국민·우리은행, AI 전환 가속…금융서비스·보안 혁신 동시에
[경제일보] 국내 은행권이 인공지능(AI)을 활용한 업무 혁신을 본격화하며 'AX(AI Transformation·인공지능 전환)' 도입을 빠르게 확대하고 있다. 고객 대상 금융서비스는 물론 내부통제와 금융사기 예방 등 업무 전반에 AI를 적용하며 디지털 경쟁력을 강화하는 모습이다. 다만 금융당국은 신기술 활용 과정에서 발생할 수 있는 법령 위반이나 운영 리스크에 대한 관리 필요성도 함께 강조하고 있어 체계적인 관리가 요구된다. 16일 금융권에 따르면 주요 시중은행들은 최근 AI 기술을 기반으로 금융서비스 혁신과 업무 효율화에 속도를 내고 있다. 대출, 자산관리, 계좌이체 등 고객 서비스 영역뿐 아니라 내부통제와 금융사기 예방 등 리스크 관리 분야까지 AI 활용 범위를 확대하는 것이 특징이다. KB국민은행은 최근 AI 기반 금융서비스를 통해 고객 편의성을 높이고 있다. 대표적으로 '금리인하요구권 대행 서비스'를 도입해 고객이 직접 은행을 방문하거나 별도 신청을 하지 않아도 신용 상태 개선 여부를 자동으로 분석해 금리 인하 신청을 대신 진행하도록 했다. 해당 서비스는 마이데이터를 기반으로 고객의 신용 상태 변화를 지속적으로 점검하고 조건 충족 시 자동으로 금리 인하를 신청하는 방식이다. 국민은행은 금융사기 예방 분야에서도 AI 활용을 확대하고 있다. 최근 LG유플러스와 협업해 AI 기반 보이스피싱 실시간 대응 체계를 구축하고 통신사와 은행 시스템을 연동해 사기 의심 정황을 실시간으로 탐지하는 시스템을 선보였다. 이를 통해 보이스피싱 의심 통화가 감지되면 관련 정보가 즉시 은행 모니터링 시스템으로 전달돼 계좌 지급정지 등 선제 대응이 가능해질 것으로 기대된다. 우리은행 역시 전사적 AI 전환 전략을 추진하며 금융권 AX 경쟁에 뛰어들었다. 우리은행은 최근 금융권 최초로 엔터프라이즈 레벨 AI 에이전트 기반 AX 프로젝트에 착수해 은행 업무 전반을 AI 중심으로 재편하는 작업을 진행 중이다. 기업여신, 자산관리, 고객상담, 내부통제 등 주요 업무 영역에 AI 에이전트를 적용해 업무 처리 속도를 높이고 의사결정 효율성을 개선한다는 계획이다. 또한 우리은행은 AI 영상분석 기술을 활용한 내부통제 및 안전관리 시스템도 구축했다. 영업점 CCTV 영상을 중앙에서 실시간 모니터링하고 고액 인출이나 계좌이체 등 주요 거래에서 이상 징후를 탐지해 금융사고 예방 효과를 높이는 방식이다. 이를 통해 영업점 점검 부담을 줄이면서도 24시간 상시 모니터링 체계를 구축할 수 있을 것으로 보인다. 은행권의 이 같은 AX 전환 흐름은 금융서비스 편의성을 높이고 업무 효율성을 개선하는 데 긍정적 효과를 낼 것으로 평가된다. 특히 AI 기반 데이터 분석과 자동화 기술을 활용해 대출 심사, 리스크 관리, 금융사기 예방 등 다양한 영역에서 정교한 의사결정이 가능해질 전망이다. 다만 금융당국은 AI 활용 확대에 따른 새로운 리스크에도 주목하고 있다. 금융감독원은 최근 금융상품 판매 과정 전반에 대한 소비자 보호 체계 점검과 함께 AI 및 빅데이터 활용 확대에 따른 규제 리스크를 점검하겠다고 밝혔다. 금감원은 특히 은행권 금융사고가 지속적으로 증가하는 상황에서 내부통제 강화와 금융소비자 보호 체계 확립이 중요하다고 강조했다. 실제 은행권 금융사고 발생 건수는 2023년 61건에서 2024년 128건, 2025년 184건으로 증가하는 추세다. 금융권 관계자는 "AI 기술을 활용하면 금융서비스 혁신과 효율성 개선이 가능하지만 데이터 보호, 모델 편향성, 내부통제 등 새로운 리스크도 함께 관리해야 한다"며 "기술 도입과 규제 준수 사이의 균형을 맞추는 것이 AX 전환의 핵심 과제가 될 것"이라고 말했다.
2026-03-16 14:16:03
-
-