[뉴스클레임]

전국중등교사노동조합(이하 중등교사노조)이 최근 청소년들이 AI 기반 캐릭터 챗봇을 통해 성적으로 부적절한 대화에 무방비로 노출되고 있는 현실에 대해 강한 우려를 표했다. 특히 "만 14세 이상이면 가입 가능한 이들 서비스에서 성인 인증 없이도 성적 대화를 생성·진행할 수 있다는 점은 중학생과 고등학생을 포함한 청소년들에게 심각한 해악이 될 수 있다"고 꼬집었다.

중등교사노조는 10일 입장문을 내고 "청소년기는 성에 대한 인식과 태도가 형성되는 매우 중요한 시기"라며 "중등교사들은 교육 현장에서 성평등과 존중, 책임의식을 기반으로 한 성교육을 충실히 실천하고 있다. 그러나 학교 밖에서 교육을 무너뜨리는 콘텐츠에 노출된다면, 학생들은 왜곡된 성 개념을 받아들이고 인간관계와 성에 대한 그릇된 인식을 형성할 위험에 처하게 된다"고 밝혔다.

이어 "일부 커뮤니티에서는 AI 캐릭터와 성적인 대화를 주고받는 사례가 공유되고 있다. AI가 사용자의 요청에 따라 자극적이고 왜곡된 장면을 구현하는 등 성적 대상화가 가능한 구조로 설계돼 있다는 점이 문제의 본질"이라며 "이러한 콘텐츠에 장기간 노출될 경우, 청소년들의 성인지 감수성 및 건강한 성 가치관 형성에 부정적인 영향을 줄 수 있음은 명백하다"고 주장했다.

현행 관련 서비스들이 자율적 필터링에만 의존하고 있으며, 청소년 보호를 위한 실효성 있는 사전 규제 장치는 사실상 전무한 상태라는 지적도 나왔다.

노조는 "디지털 환경에서의 청소년 보호를 기업의 선의에만 의존하고 있는 현실을 그대로 보여주는 것이며, 정부의 역할과 책무를 방기하는 것과 다름없다"고 말했다.

그러면서 "이전까지와 마찬가지로 이에 대한 책임을 학교 교육에 전가해 ‘소잃고 외양간 고치는 격’이 될 가능성이 크다"면서 "지금까지 기술 개발 등 사회적 변화에 대한 부작용을 정책이 감당하지 못한 것에 대한 책임을 학교 교육이 뒷수습하도록 하고, 그 책임을 전가하는 악순환이 계속돼 왔기에 이번 사태에 대한 책임있는 예방적 대응이 반드시 필요하다"고 강조했다. 

이와 함께 ▲정부와 국회는 신기술 기반 대화형 서비스에 대해 청소년 접근 제한, 성인 인증 의무화, 성적 콘텐츠 검출 필터 강화 등 실질적 보호 대책 및 명확한 법적 규제를 마련해야 하고 ▲서비스 제공 기업은 사회적 책임을 인식하고, 청소년 사용자 보호를 위한 강력한 가이드라인과 기술적 장치 도입에 나서야 한다고 요구했다. 

노조는 "기술 발전이 청소년들에게 유익한 방향으로 작용하도록 제도의 정비가 이뤄져야 한다고 본다. 우리의 아이들이 왜곡된 정보로부터 안전하게 보호받고, 건강한 성 가치관을 지닌 시민으로 성장할 수 있도록 정부 및 사회 전체가 협력할 것을 촉구한다"고 덧붙였다