2024년 07월 18일 목요일

  • 서울 24℃

  • 인천 24℃

  • 백령 24℃

  • 춘천 24℃

  • 강릉 24℃

  • 청주 27℃

  • 수원 24℃

  • 안동 27℃

  • 울릉도 25℃

  • 독도 25℃

  • 대전 26℃

  • 전주 28℃

  • 광주 29℃

  • 목포 27℃

  • 여수 28℃

  • 대구 29℃

  • 울산 28℃

  • 창원 28℃

  • 부산 27℃

  • 제주 26℃

IT "AI 악용 막는다"···네이버, 안정성 실천 체계 공개

IT 인터넷·플랫폼

"AI 악용 막는다"···네이버, 안정성 실천 체계 공개

등록 2024.06.17 10:45

강준혁

  기자

그래픽=박혜수 기자그래픽=박혜수 기자

네이버는 자체 기술 채널인 '채널 테크'를 통해 '네이버 ASF(AI Safety Framework)를 발표했다고 17일 밝혔다. AI 시스템을 개발하고 배포하는 과정의 모든 단계에서의 잠재적 위험을 인식하고 평가·관리하기 위한 조치다.

네이버는 AI 시스템이 초래할 수 있는 위험을 각각 '통제력 상실 위험'과 '악용 위험'으로 정의하고, 이에 대응하기 위한 방법을 설계하고자 했다.

먼저 네이버는 인간이 AI 시스템에 영향을 미치지 못하게 되는 '통제력 상실 위험'을 완화하기 위해, 'AI 위험 평가 스케일'을 통해 AI 시스템의 위험을 주기적으로 평가하고 관리하겠다는 방침이다.

악용 가능성에 대해서는 'AI 위험 평가 매트릭스'를 적용한다. AI 위험 평가 매트릭스는 AI 시스템의 사용 목적과 안전 조치의 필요성 정도에 따라 각각 다른 방법으로 위험을 관리하는 식으로 운영된다.

네이버는 문화적 다양성을 반영한 AI 안전성 체계로 네이버 ASF를 발전시켜 나갈 계획이다. 한국 외 다른 지역의 정부 및 기업과 소버린(Sovereign) AI를 공동 개발하며 특정 문화권에서 성립될 수 있는 AI 시스템의 위험을 식별하고, 위험의 정도를 측정하는 벤치마크(benchmark)도 문화권의 특성을 반영해 고도화할 예정이다.

최수연 네이버 대표이사는 "네이버는 한국에서 '하이퍼클로바X'라는 소버린 AI를 개발한 경험을 통해, 문화적·지정학적 상황과 지역적 이해가 AI의 성능뿐만 아니라 안전성에도 영향을 미친다는 점을 실증했다"며 "향후 글로벌 시장에서도 소버린 AI를 개발하면서 네이버 ASF를 지속적으로 개선해 나갈 계획이고, 이를 통해 다양한 지역의 문화와 가치를 반영하는 다수의 AI 모델이 안전하게 사용되며 공존하는 지속 가능한 AI 생태계에 네이버가 적극적으로 기여할 것"이라고 말했다.
ad

댓글