오픈AI와 메타, 구글 등 주요 인공지능(AI) 업체들이 AI 기반의 성착취 콘텐츠로부터 아이들을 보호하기 위한 새로운 조치에 합의했다.

이에 따르면 비영리 단체 '올 테크 이즈 휴먼'(All Tech Is Human)과 함께 이번 합의를 이끈 아동 보호 단체 '쏜'(Thorn)은 몇몇 AI 업체와 생성형 AI 도구의 위험을 최소화하기 위한 원칙을 시행하기로 합의했다고 밝혔다.

이 단체는 아동 성 관련물이 담겼을 수 있는 데이터 세트를 피하고 AI 학습용 자료에서 아동 성 관련물 삭제를 AI 연구소들에 요청했다고 설명했다.

또 새로운 AI 도구로 인한 법 집행의 어려움을 해소하기 위해 콘텐츠가 AI에 의해 만들어졌는지를 확인할 수 있도록 표식을 추가하기로 AI 업체들과 합의했다고 이 단체는 소개했다.

합의에 참여한 AI 업체 경영진들은 자사 AI 도구가 아동 성착취물 생성에 이용되게 하지 않을 것이라는 입장을 밝혔다.

이들은 다만 새로운 안전조치가 이행되면 관련 규제기관과의 합의 및 일부 기술적인 진전이 필요할 수도 있다고 지적했다.

미 실종학대아동방지센터(NCMEC)에 따르면 지난해(2023년)에만 3천600만 건에 이르는 아동 착취물에 대한 보고가 있었다.