초등생 딸, AI 챗봇과 나눈 은밀한 내용에 충격…성적 대화에 노출된 아이들 (PD수첩)

오는 23일 방송하는 MBC 'PD수첩'에서는 AI 기술 이면에 숨겨진 위험성을 파헤친다.

12살 딸을 둔 어머니 A 씨는 밤마다 핸드폰을 붙들고 사는 아이가 늘 못마땅했다. 그러던 어느 날, 목욕하겠다며 화장실에 들어간 아이가 1시간이 넘도록 물만 틀어놓은 채 나오지 않았다. 의심스러운 마음에 아이의 핸드폰을 열어본 A 씨는 충격을 감출 수 없었다.

아이가 밤낮없이 빠져있던 것은 가상의 상황에서 캐릭터들과 채팅을 할 수 있는 AI 캐릭터 챗봇 ‘제타(Zeta)’. 대한민국에서 가장 사용자 수가 많은 건 ChatGPT지만, 가장 ‘오래’ 사용하는 앱은 단연 '제타'다. 제타의 월 평균 이용 시간은 ChatGPT의 두 배인 1억 1,341만 시간, 국내 AI앱 중 압도적 1위를 기록하고 있다. 현재 제타의 국내 누적 가입자 수는 약 500만 명. 이 가운데 30%는 10대 청소년이다.

문제는 이 거대한 가상 세계가 어른들의 눈을 피한 청소년들의 ‘성적 사각지대’가 되어 독버섯처럼 퍼지고 있다는 점이다. 제타 앱의 인기순위 상위권에 있는 콘셉트 중에는 [제발 저 좀 혼내주실래요...주인님?], [여행도 셋. 술자리도 셋. 침대도 셋...?], [찐따였던 애가 일진이랑 사귀더니 나대기 시작한다] 등 선정적이고 폭력적인 설정들이 가득한 상황. 실제 제작진이 미성년자 계정으로 접속했을 때, AI 캐릭터는 거부감 없이 성행위를 적나라하게 묘사하는가 하면 한 걸음 더 나아가 먼저 성적인 대화로 유도하기까지 했다.

가짜 생년월일만 입력하면 초등학생도 쉽게 통과하는 허술한 규제 속에서, 아이들은 매일 밤 위험한 유혹에 노출되고 있었다. 청소년이 AI를 안전하게 사용할 수 있도록 대책 마련을 위한 본격적인 논의가 시급한 상황이다.

나를 무조건 지지해 주는 완벽한 존재. 하지만 그 다정한 위로의 이면에는 철저하게 계산된 AI 기업의 상업적 수익 구조가 자리 잡고 있다. 기술은 무서운 속도로 폭주하며 사람들의 마음을 뺏어 가는데 우리 사회의 법과 제도는 여전히 무방비 상태다. 화려한 AI 기술 이면에 숨겨진 위험성을 심도 깊게 파헤친 MBC 'PD수첩'은 오는 23일 밤 10시 20분 방송한다.