2026.04.13 월요일
검색
'불법 콘텐츠' 검색결과
기간검색
-
~
검색영역
검색어
-
"불법 콘텐츠 10억건 지웠다"…카카오엔터, 불법 콘텐츠와의 전쟁 장기전 돌입 [경제일보] 카카오엔터테인먼트가 웹툰·웹소설 불법유통 대응 성과를 정리한 백서를 공개하며 콘텐츠 불법유통과의 장기전 양상을 설명했다. 대형 불법 사이트 폐쇄 등 성과로 누적 삭제 건수가 10억건을 넘어섰지만 최근에는 불법 유통 방식이 은밀하고 파편화된 형태로 이동하면서 대응 전략도 고도화 단계에 접어들었다는 분석이다. 11일 카카오엔터테인먼트는 불법유통대응팀 피콕(P.CoK)의 지난해 하반기(7~12월) 활동을 담은 '제8차 불법유통 대응백서'를 발간했다고 밝혔다. 이번 백서는 불법 콘텐츠 대응 전선이 어떻게 변화하고 있는지와 함께 글로벌 불법유통 대응 전략, 전문가 인터뷰 등이 담겼다. 피콕은 공식 출범한 지난 2021년 11월 이후 지난해 12월까지 약 4년 1개월 동안 삭제한 글로벌 불법 콘텐츠는 총 10억407만5309건으로 집계됐다. 이는 웹툰과 웹소설 등 콘텐츠를 하루 1만건씩 삭제한다고 가정하면 약 274년이 걸리는 규모다. 다만 최근 데이터 흐름에서는 변화도 나타났다. 불법물 차단 건수는 피콕 출범 이후 지속적으로 증가해 왔으며 5차 백서(2024년 상반기)에서 반기 기준 약 2억7000만건으로 역대 최고치를 기록했지만 이후부터 차단 건수는 감소세로 돌아섰다. 7차 백서(2025년 1~6월)에서는 1억6072만4021건, 8차 백서(2025년 7~12월)에서는 1억1127만889건의 차단 건수를 기록하며 지속적으로 감소하고 있다. 카카오엔터테인먼트는 차단 건수 감소가 겉으로 보면 불법 유통의 소멸이 아닌 불법 유통 환경 변화에 따른 '전선 이동'으로 해석하고 있다. 대형 불법 사이트가 폐쇄되고 공개 웹에서 활동이 어려워지자 운영자들이 폐쇄형 커뮤니티나 해외 서버 등 추적이 어려운 영역으로 이동하고 있다는 것이다. 일부 해외 사이트는 권리자의 대응을 피하기 위해 '게이트 키핑' 전략을 도입하고 있는 것으로 알려졌다. 게이트 키핑 방식은 신규 이용자의 접근을 제한하거나 검색 엔진 크롤링을 차단해 검색 결과에 노출되지 않도록 하는 구조다. 과거처럼 대형 사이트를 통해 불법 콘텐츠가 대량 유통되기보다 검색으로 찾기 어려운 파편화된 채널을 통해 은밀하게 유통되는 형태가 늘고 있는 것으로 분석된다. 카카오엔터테인먼트는 "과거의 대응이 가시적인 대형 표적을 대상으로 한 전면전이었다면 현재는 수면 아래 은닉된 유통망을 식별하고 차단해야 하는 보다 고도화된 대응 역량이 요구되는 시점"이라고 불법 유통과의 대응 역량 필요성을 전망했다. 카카오엔터는 이러한 변화에 대응하기 위해 자체 불법 유통 대응 프로토콜인 'TTT(타게팅, 트레이싱, 테이크다운)' 전략을 운영하고 있다. 불법 사이트를 특정하고 운영자를 추적한 뒤 폐쇄 및 법적 조치까지 연결하는 원스톱 대응 체계로 단순 URL 삭제를 넘어 불법 사이트 자체를 차단하는 데 초점을 맞췄다. 이번 백서에서는 TTT 전략을 한 단계 발전시킨 세부 대응 방식도 공개됐다. 소규모 불법 유통 그룹을 신속하게 차단하는 '패스트 트랙'과 대형 조직을 장기간 추적하는 '딥 리서치' 전략이다. 패스트 트랙은 경고장 발송 등을 통해 최소 2시간에서 하루 이내에 사이트 차단을 목표로 하는 방식이고 딥 리서치는 대규모 불법 유통 조직을 1주에서 최대 2개월까지 추적하며 증거를 수집한 뒤 법적 대응으로 이어지는 방식이다. 이호준 카카오엔터테인먼트 불법유통 대응 총괄 및 법무실장은 "카카오엔터테인먼트 불법유통대응팀은 국내 콘텐츠 업계 불법유통 대응 역량을 지속 고도화하는 데 앞장서는 한편 유관 기관 및 글로벌 단체와 적극 협업하며 앞으로도 콘텐츠 생태계를 보호하는 데 최선을 다하겠다"고 말했다.2026-03-11 11:36:42
-
SKT·LG유플러스, 레드팀 챌린지로 글로벌 검증 돌입…AI 성능 넘어 안전성 경쟁 [이코노믹데일리] 세계 이동통신사들이 독자 인공지능(AI) 모델을 앞세워 글로벌 신뢰성 검증 경쟁에 본격적으로 나섰다. AI 성능뿐 아니라 안전성과 책임성까지 경쟁력의 핵심 요소로 부상하면서 통신사들이 AI 기업으로의 전환을 가속화하는 데 있어 이번 기회를 통해 안전성과 신뢰성을 확보한다는 구상이다. 25일 SK텔레콤과 LG유플러스는 스페인 바르셀로나에서 열리는 MWC26 기간 중 진행되는 '글로벌 AI 레드팀 챌린지'에 참여해 자체 개발 대형언어모델(LLM)의 안전성과 신뢰성 검증에 나선다고 밝혔다. 이번 챌린지는 세계이동통신사업자연합회(GSMA)와 AI 평가 전문기업 셀렉트스타가 공동 주최하는 프로그램으로 약 100명의 평가단이 안전장치 우회, 편향 및 차별, 허위정보 생성, 불법 콘텐츠 대응, 사이버 공격 대응 등 7개 분야로 나눠 AI가 해서는 안 되는 응답을 생성하는지 여부를 평가한다. SK텔레콤은 독자 개발한 LLM 'A.X K1'을 출품한다. A.X K1은 모델 설계부터 학습까지 전 과정을 자체 기술로 구축한 모델로 통신 서비스 '에이닷'을 비롯해 그룹 내부 업무 전반에 적용되고 있다. SK텔레콤은 이번 검증을 통해 글로벌 기준에서 모델의 안전성과 신뢰성을 확보하고 그 결과를 반영해 AI 서비스 완성도를 높인다는 계획이다. LG유플러스는 통신 특화 AI 모델 '익시젠'으로 챌린지에 참여한다. 익시젠은 통신 환경에 최적화된 생성형 AI 모델로 실제 사용자 환경에서 발생할 수 있는 다양한 위험 시나리오 대응 능력을 점검받는다. LG유플러스는 검증 결과를 바탕으로 모델 취약점을 보완하고 글로벌 수준의 AI 안전성을 확보할 방침이다. 이번 레드팀 챌린지는 단순한 기술 시연을 넘어 글로벌 AI 주도권 경쟁의 핵심 전장으로 평가된다. 생성형 AI 산업이 빠르게 확산되면서 성능 경쟁을 넘어 안전성과 신뢰성 확보가 AI 경쟁력의 핵심 기준으로 자리 잡고 있기 때문이다. AI 모델이 잘못된 정보나 부적절한 응답을 생성할 경우 서비스 신뢰도는 물론 기업 경쟁력에도 직접적인 영향을 미칠 수 있다. AI 에이전트의 의사결정 통제와 안전성 문제가 현실적인 리스크로 부각되고 있다. 최근 한 자동화 암호화폐 거래 AI는 사용자 요청을 처리하는 과정에서 약 25만 달러(약 3억6000만원) 상당의 토큰을 의도와 다르게 전송하는 사고가 발생했고 지난 2023년에는 미국 뉴욕 연방법원에서 변호사가 생성형 AI가 만든 허위 판례를 실제 사례로 제출했다가 법원 제재를 받는 사건이 발생한 것으로 알려졌다. AI의 활용도가 점점 높아지면서 AI의 오용 가능성과 예측 불가능성에 대한 우려도 동시에 커지고 있다. 이에 문제를 점검할 수 있는 레드팀 방식의 검증은 글로벌 표준으로 자리 잡고 있다. 레드팀은 실제 공격자 관점에서 AI 모델의 취약점을 탐색하는 방식으로 AI의 안전성과 신뢰성을 객관적으로 평가할 수 있는 방법으로 평가된다. 통신사들의 이번 참여는 AI 기업으로의 전환 전략과도 맞물려 있다. 통신사들은 기존 네트워크 중심 사업 구조에서 벗어나 AI 모델과 플랫폼을 중심으로 한 새로운 성장 동력을 확보하고 있다. 김태윤 SK텔레콤 파운데이션 모델 담당은 "AI가 고객의 일상과 사회 전반에 널리 확산되면서 기술 경쟁력과 함께 안전성과 신뢰성 확보가 더욱 중요해지고 있다"며 "'글로벌 AI 레드팀 챌린지' 참여를 통해 SKT가 보유한 AI 기술에 대한 신뢰성을 한층 높이는 계기로 삼겠다"고 말했다. 이혜진 LG유플러스 기술전략담당은 "AI가 통신과 고객 서비스 전반에 빠르게 적용되고 있는 만큼 성능뿐 아니라 신뢰성과 안전성을 검증하는 과정이 무엇보다 중요하다"며 "글로벌 AI 레드팀 챌린지 참여를 통해 익시젠의 경쟁력을 한층 강화하고 고객이 안심하고 사용할 수 있는 AI 서비스를 제공해 나가겠다"고 말했다.2026-02-25 11:30:40
-
LG유플러스 '익시젠', MWC서 'AI 레드팀 챌린지' 출전 [이코노믹데일리] LG유플러스(대표 홍범식)는 생성형 AI의 안전성과 신뢰성을 검증하기 위해 모바일월드콩그레스(MWC) 기간 중 열리는 '글로벌 AI 레드팀 챌린지'에 참여한다고 19일 밝혔다. 이번 챌린지는 세계이동통신사업자연합회(GSMA)가 주관하는 AI 검증 프로그램으로 내달 2일(현지시간)부터 스페인 바르셀로나에서 진행되는 MWC 2026에서 개최된다. 글로벌 AI 레드팀 챌린지는 MWC와 공식 공동 개최되는 개발자·디지털 인재 행사 '탤런트 아레나 2026'의 핵심 프로그램 중 하나로 글로벌 통신사와 테크 기업이 개발한 AI 모델을 대상으로 실전 검증을 진행할 예정이다. LG유플러스는 이번 챌린지에 자체 개발한 통신 특화 AI 모델 '익시젠'을 출품해 실제 사용자 관점에서 발생할 수 있는 다양한 위험 시나리오에 대한 대응 역량을 점검할 계획이다. 총 180분간 약 100명의 참가자가 '레드팀'으로 참여해 무작위로 배정된 AI 모델을 대상으로 프롬프트 설계만으로 AI의 취약점을 찾아내는 방식으로 진행된다. 결과는 3명의 심사위원이 평가하며 성공 미션 수와 성공률을 기준으로 순위를 정할 예정이다. 이번 챌린지는 기술적 해킹이 아닌 대화·프롬프트 기반 공격을 통해 AI의 정책과 안전 장치를 우회할 수 있는지를 검증한다. 참가자들은 안전장치 우회, 편향·차별, 인권 침해, 사이버 공격, 불법 콘텐츠, 허위정보, 응답 비일관성 등 7개 항목에서 AI의 대응 수준을 평가한다. 특히 이번 챌린지는 AI 응답의 정확성 여부가 아니라 '해서는 안 되는 응답을 했는지'를 성공 기준으로 삼는다. 해당 AI가 제공한 불법 행위나 인권 침해 등과 관련한 정보가 사실과는 다르더라도 AI가 정보를 제공했다면 취약점으로 판단한다. 이는 생성형 AI가 초래할 수 있는 간접적·잠재적 위험까지 점검할 전망이다. LG유플러스는 이번 참여를 통해 '익시젠'의 안전성과 신뢰성을 객관적으로 검증하고, 확인된 취약점을 바탕으로 모델을 지속 고도화할 계획이다. 또한 글로벌 통신사 및 AI 전문가들과의 교류를 확대해 AI 보안과 책임 있는 활용 방안을 모색할 방침이다. 이혜진 LG유플러스 기술전략담당은 "AI가 통신과 고객 서비스 전반에 빠르게 적용되고 있는 만큼 성능뿐 아니라 신뢰성과 안전성을 검증하는 과정이 무엇보다 중요하다"며 "글로벌 AI 레드팀 챌린지 참여를 통해 익시젠의 경쟁력을 한층 강화하고 고객이 안심하고 사용할 수 있는 AI 서비스를 제공해 나가겠다"고 말했다.2026-02-19 09:05:16
많이 본 뉴스
영상
Youtube 바로가기
![[편집인 칼럼] 채무 60% 시대의 경고, 얄팍한 예산 만능주의를 경계한다](https://image.ajunews.com/content/image/2026/04/12/20260412195240503098_518_323.png)