"사고 나면 AI 탓인가"··· 자율주행 'E2E', 규제 앞 멈칫

글로벌 트렌드 전환 속 법적 리스크 부상AI 블랙박스 문제로 사고 책임 소재 불명확

25일 제주 서귀포 제주신화월드에서 열린 '모빌리티 산업 자율주행·AI 신규 트렌드와 규제 방향' 세미나에서 유병용 오토노머스에이투지 부사장이 발표하고 있다. 사진=권지용 기자

자율주행 기술이 완전 무인 운행을 의미하는 레벨4 단계로 속도를 높이고 있지만, 산업 현장에서는 기술 진보보다는 책임과 규제가 더 큰 과제로 부상하고 있다. 특히 최근 글로벌 트렌드로 자리 잡은 엔드투엔드(E2E) 방식이 사고 원인 규명을 어렵게 만들면서, 업계 전반의 고민이 깊어지는 양상이다.

26일 제주 서귀포시 제주신화월드에서 열린 '모빌리티 산업 자율주행·AI 신규 트렌드와 규제 방향' 세미나에서도 이 같은 문제의식이 핵심 의제로 다뤄졌다. 법무법인 세종이 주관한 이번 행사에는 유병용 오토노머스에이투지 부사장, 김건우 카카오모빌리티 미래플랫폼경제연구소 소장, 이정기 한국교통안전공단 자동차안전연구원 부원장 등이 참석해 기술과 규제 간 간극을 짚었다.

전문가들은 자율주행 기술 패러다임이 기존 '룰 베이스(명령어 기반)'에서 AI가 주행 전 과정을 학습하는 E2E 구조로 빠르게 이동하고 있다고 진단했다. 다만 이 과정에서 '블랙박스' 문제가 가장 큰 걸림돌로 떠올랐다. AI가 어떤 판단 과정을 거쳐 특정 행동을 했는지 인간이 명확히 설명하기 어려운 구조로 인해 사고 발생 시 책임 소재를 가리는 데 한계가 있다는 지적이다.

이 같은 이유로 글로벌 기업들도 완전한 E2E 전환에 신중한 모습이다. 제조사 입장에서는 "AI가 그렇게 판단해서 사고가 났다"는 설명만으로는 보험 처리나 법적 책임을 감당하기 어렵기 때문이다. 이정기 부원장은 "궁극적으로 E2E가 지향점인 것은 맞지만, 현 단계에서는 룰 베이스와 결합한 '하이브리드 방식'이 당장은 현실적인 대안"이라고 설명했다.

규제 환경 역시 빠르게 변화하고 있다. 한국은 세계에서 두 번째로 AI 기본법을 시행하며 제도 정비에 속도를 내고 있다. 특히 사람의 생명·안전에 중대한 영향을 미치는 '고영향 AI'에 대한 개념을 구체화하면서 자율주행 기업에는 보다 정교한 대응이 요구되고 있다. 분야와 상황에 따라 규제를 달리 적용하는 '맞춤형 AI 거버넌스' 구축도 사실상 필수 과제로 떠올랐다. 자율주행 데이터 학습 과정에서 발생하는 개인정보 이슈 역시 기업들이 넘어야 할 장벽이다.

기술 완성도 측면에서도 해결 과제는 적지 않다. 현장에서는 자율주행차가 오히려 '지나치게 원칙적인 주행'을 하면서 위험 상황을 유발하는 사례가 보고되고 있다. 황색 신호에서 급정거하거나 회전교차로 진입 시 과도하게 보수적으로 대응하는 식이다. 업계가 킥보드, 돌발 보행자, 도로 작업 등 돌발 상황, 이른바 '엣지 케이스' 데이터 확보에 집중하는 배경이다.

결국 자율주행 경쟁의 축은 기술 고도화뿐 아니라 법·제도 대응 역량으로 확대되는 흐름이다. 이용호 법무법인 세종 변호사는 "자율주행 기술은 단순히 성능을 끌어올리는 데 그쳐서는 안 된다"며 "사고 발생 시 책임을 입증할 수 있는 구조와 데이터 관리 체계까지 개발 단계에서부터 함께 설계해야 한다"고 말했다.