네이버, 성인 이미지 필터링에 AI 적용

네이버는 자체 개발한 음란물 필터링 인공지능 기술 ‘네이버 X-eye(이하 X아이)’를 이미지 부분에 적용한다고 31일 밝혔다.

네이버 X아이는 부적절한 내용을 담은 음란물 이미지가 네이버에 등록될 경우 이를 실시간으로 감지해 검색 노출을 막아준다. 적용에 앞서 네이버는 축적된 이미지를 형태별로 분류, 10개월 동안 인공지능을 학습시켰다. 최근 버전에서 400만장의 이미지를 실험한 결과 98.1%의 적중률을 나타냈다.

이번 적용으로 연중 24시간 성인 이미지 실시간 감지 시스템이 가동된다. 감지 못한 극히 일부 성인 이미지의 경우 인공지능이 학습을 통해 진화하면서 극복될 예정이라고 회사 측은 설명했다.

오경수 네이버 UGC운영정책 리더는 “이번 출시로 성인 이미지에 대한 연중무휴 실시간 대응이 가능해졌다”며 “향후 동영상 필터링에도 확대 적용할 방침이며, 건전한 인터넷 이용환경 조성을 위해 외부에도 손쉽게 사용할 수 있는 인공지능 필터링 프로그램 제공을 검토하고 있다”고 말했다.