AI 기본법 시행령 초안 공개···"고영향AI 결과물 표시 의무"

26일 국회 본회의에서 인공지능발전과 신뢰 기반 조성 등에 관한 기본법안(대안)이 통과되고 있다. 사진=연합뉴스 제공

내년 1월 시행을 앞둔 인공지능(AI) 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법) 시행령 초안이 공개됐다. AI 관련 법은 유럽연합(EU)에 이어 세계 두 번째로 제정될 예정이다.

8일 과학기술정보통신부(이하 과기정통부)에 따르면 AI 기본법 하위법령은 시행령 1개와 고시 2개, 가이드라인 5개로 구성된다. 구체적으로는 ▲시행령 ▲고영향AI 기준·예시 가이드 ▲고영향AI 사업자책무 고시 및 가이드 ▲AI 안전성 확보 의무 고시 및 가이드 ▲AI 투명성 확보 가이드 ▲AI 영향평가 가이드 등이다

AI 기본법 시행령은 AI 사용에서 투명성을 확보하기 위해 인간 기본권에 막대한 영향을 주는 '고영향' 인공지능에 대해서는 이용자에 대한 사전 고지와 AI에 의한 결과물임을 워터마크 등으로 표시할 것을 규정했다.

약관, 사용자 환경(UI) 등을 통한 사전 고지와 함께 사람 눈에 보이지 않지만, 기계가 AI 생성물임을 자동으로 알아차리는 비가시적 워터마크도 표식으로 인정된다. 딥페이크 결과물에 대해선 연령이나 장애 여부 등 이용자의 신체적 조건을 고려해 딥페이크임을 표시해야 한다.

다만, 사업자 내부 업무용이거나 생성형·고영향 AI 기반이 명백한 경우에는 표시 의무가 면제된다.

안정성 확보 대상인 고성능 AI 모델은 아직 국내외에 존재하지 않는 거대 규모인 10의 26제곱플롭스 이상(누적 연산량 기준)으로, 사람의 생명, 신체의 안전, 기본권에 광범위하고 중대한 영향을 미칠 수 있는 AI 시스템으로 규정됐다.

에너지, 보건·의료, 원자력, 교통, 교육 등에서 활용되는 고영향 AI는 신뢰성 확보를 위한 구체적 이행 방안을 마련해야 한다. 신뢰성 확보 조치란 위험 관리 교육 방안이나 관리 조직 운영안, 오작동 방지나 보안 대책 등의 이용자 보호 방안을 말한다.

사업자가 고영향 AI 서비스를 제공할 경우 이용자 의견·문의에 대한 피드백 절차도 마련해야 한다. 다만 고영향 AI는 일괄적인 적용보다는 사용 맥락에 따라 규정한다는 설명이다.

AI 사전 고지를 이행하지 않거나 일정 기준 이상인 해외사업자가 국내 대리인을 지정하지 않았을 경우, 또는 AI 기본법 위반에 따른 시정 명령을 따르지 않았을 때 3천만원 이하의 과태료가 부과된다.

다만, 과태료 계도 기간이 운영되며 계도 기간을 얼마로 둘지는 AI 관련 기업 등 이해당사자 의견을 모으기로 했다.

아울러 AI 산업 육성을 목표로 R&D, 데이터 구축, AI 도입·활용 등에서 정부 지원의 근거 규정이 AI 기본법에 마련됐다.

과기정통부는 내달 중 입법예고를 거쳐 오는 12월 말 시행령과 고시 제정을 완료하고 가이드라인을 확정할 계획이다.