2026.04.13 월요일
검색
'디지털성범죄' 검색결과
기간검색
-
~
검색영역
검색어
-
머스크 AI '그록', 아동 비키니 이미지 생성 논란... 긴급 수정 착수 [이코노믹데일리] 일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI의 챗봇 '그록(Grok)'이 아동 성적 대상화 이미지를 생성해 파문이 일고 있다. 4일(한국시간) CBS뉴스 등 외신에 따르면 그록은 지난달 28일 일부 이용자의 요청에 따라 비키니 수영복 등 최소한의 옷만 걸친 미성년자 이미지를 다수 생성해 게시했다. 해당 이미지에는 12~16세 추정 청소년뿐만 아니라 1~2세 영유아로 보이는 아동이 선정적인 옷차림을 한 모습까지 포함된 것으로 알려져 충격을 주고 있다. 그록은 당초 아동을 성적으로 대상화하는 이미지 생성을 차단하는 안전장치를 갖추고 있었다. 그러나 일부 이용자들이 프롬프트(명령어)를 조작해 이를 우회하자 무방비로 뚫린 것으로 파악된다. 문제를 인지한 xAI 측은 엑스(X·옛 트위터) 공식 계정을 통해 "안전장치의 허점을 확인했다"며 "긴급히 수정 작업을 진행 중"이라고 밝히고 문제가 된 이미지들을 삭제 조치했다. 이번 사태를 두고 업계에서는 예견된 사고라는 비판이 나온다. 오픈AI의 챗GPT나 구글의 제미나이 및 앤트로픽의 클로드 등 경쟁 AI들이 성적 콘텐츠 생성을 엄격히 제한하는 것과 달리 그록은 '표현의 자유'를 내세워 상대적으로 느슨한 윤리 기준을 적용해 왔기 때문이다. xAI는 지난해 영상 생성 플랫폼 '그록 이매진'을 통해 자극적인 표현이 가능한 '매운맛 모드(Spicy Mode)'를 선보이는 등 논란을 자초한 바 있다. 미국 연방법은 아동 성적 대상화 이미지의 생성과 소지 및 유통을 엄격히 금지하고 있다. 전문가들은 이번 사건이 단순한 기술적 오류를 넘어 AI 기업의 윤리적 책임론과 법적 제재 논의를 가속화할 것으로 전망했다.2026-01-04 14:06:42
-
김종철 방미통위원장, 첫 행보는 '민생'... KISA·365센터 방문 [이코노믹데일리] 김종철 신임 방송미디어통신위원장이 취임 후 첫 현장 방문지로 이용자 보호 관련 기관을 선택하며 '민생 챙기기'에 나섰다. 최근 대규모 해킹 사태와 불법 스팸 급증으로 인한 국민적 불안감을 해소하겠다는 의지로 풀이된다. 29일 방송미디어통신위원회에 따르면 김 위원장은 이날 서울에 위치한 '온라인피해365센터'와 한국인터넷진흥원(KISA) 서울분원을 잇달아 방문해 운영 현황을 점검했다. 지난 19일 취임한 이후 첫 외부 공식 일정이다. 통상 신임 위원장이 방송사나 통신사 등 사업자 현장을 먼저 찾는 관행을 깨고 피해 구제 기관을 가장 먼저 찾은 것은 김 위원장의 정책 최우선 순위가 '이용자 보호'에 있음을 보여준다. 김 위원장은 먼저 온라인피해365센터를 찾아 사이버 금융 범죄와 불법 스팸 및 각종 권리 침해 관련 상담 현황을 살폈다. 2022년 개소한 센터는 지난 4년간 1만여 건 이상의 상담을 지원해왔다. 김 위원장은 상담원들과 만나 현장의 애로사항을 청취하고 "이용자와 가장 가까운 접점에 있는 만큼 사명감을 갖고 업무에 임해달라"고 당부했다. 이어 한국인터넷진흥원(KISA)에서는 최근 급증하는 개인정보 유출 사고와 불법 스팸 대응 체계를 집중 점검했다. 김 위원장은 이동통신 3사와 삼성전자가 제공 중인 'AI 기반 불법 스팸 필터링 서비스' 등을 직접 확인하고 사업자와 KISA 간의 긴밀한 공조 체계를 주문했다. 그는 "정보보호 전문기관으로서 국민들이 불법 스팸 공해에서 벗어나 안심할 수 있도록 기술적 지원에 힘써달라"고 강조했다. 김 위원장은 현장 점검을 마치며 "급변하는 디지털 미디어 환경에서 발생하는 복잡한 사건들에 통합적으로 대응함으로써 국민을 보호해야 한다"며 "특히 최근 잇따른 개인정보 유출 사고에 대해 신속하게 대처하는 것이 무엇보다 중요하다"고 밝혔다. 방미통위는 앞으로 관계 기관 협력을 확대하고 법적 기반을 마련해 신규 유형의 피해 사례 예방과 구제 지원을 강화할 방침이다.2025-12-29 20:20:19
많이 본 뉴스
영상
Youtube 바로가기
![[편집인 칼럼] 채무 60% 시대의 경고, 얄팍한 예산 만능주의를 경계한다](https://image.ajunews.com/content/image/2026/04/12/20260412195240503098_518_323.png)