인터넷·플랫폼

AI 안전성도 '셀프 점검'에서 외부 검증으로···네카오 대응은

생성형 인공지능(AI)이 답변을 넘어 실제 행동까지 수행하면서 안전성 관리 범위도 넓어지고 있다. AI 모델 점검에서 나아가 서비스와 에이전트의 위험까지 관리하는 방향이다. 오픈AI·구글 딥마인드 등 글로벌 기업들은 외부 평가와 위험별 검증을 도입하고 있다. 네이버와 카카오도 글로벌 기업들과 같은 방향으로 안전성 관리 범위를 확대하고 있다. 5일 정보기술(IT) 업계에 따르면 네이버는 자체적인 AI 안전성 관리 체계를 서비스 전반으

ICT일반

오픈AI·앤트로픽·메타, AI 안전도 '감사' 받는다···이사회까지 책임 확대

인공지능(AI) 안전성 관리가 기업 내부 점검을 넘어 외부 감사와 이사회 감독으로 확대되고 있다. 오픈AI·앤트로픽·구글·메타·엔비디아·xAI 등 주요 AI 기업들이 프런티어 AI의 안전성을 점검하기 위한 공동 자율 원칙에 합의하면서다. 3일(현지시간) 주요 외신에 따르면 최근 6개 기업은 미국 백악관에서 '프런티어 책임에 관한 공동 약속(Joint Commitment on Frontier Responsibilities)'에 서명했다. 합의문은 프런티어 모델을 개발·배포하는 기업

ICT일반

'앤트로픽 이어 구글에서도'···AI 개발 속도 우려에 빅테크 연구원 속속 사임

구글 딥마인드의 로버트 오캘러핸 연구원이 AI 발전 속도가 지나치게 빠르다고 우려하며 퇴사를 결심했다. 그는 AI 칩 설계를 가속하는 도구 개발이 바람직하지 않다고 판단했으며, 종교적 신념도 그의 결정을 뒷받침했다고 밝혔다. 오캘러핸은 AI 산업의 빠른 발전이 인간에게 파멸을 초래할 수 있는 가능성을 우려하며, 이에 대한 경고의 목소리를 내고 있다.

전기·전자

AI 투자 속도조절론 부상하는데···K반도체 "주문 둔화 없다"

AI 기술 발전에 대한 '속도조절론'이 확산되면서 AI 반도체 수요에도 영향을 미칠 가능성이 제기됐다. 그러나 현재까지 국내 반도체 업계에서는 주문 둔화 조짐이 없으며, 글로벌 AI 공급망의 확장과 시장 전망도 긍정적이다. 반도체 수요에 영향을 미칠 실제 규제는 구체화되지 않았으며, 안전성 확보와 기술 개발을 병행하려는 움직임이 지속되고 있다.

보도자료

'미토스 쇼크' 이후 AI 판 바뀌었다···거버넌스 앞세운 구광모의 LG

 미국 AI 기업 앤트로픽(Anthropic)이 촉발한 '미토스 쇼크'가 AI의 패러다임을 성능에서 신뢰로 바꾸면서 LG의 행보가 주목받고 있다. 그동안 글로벌 빅테크들은 대규모 모델과 인프라에 투자를 집중하며 AI의 '성능 경쟁'에 집중해왔다. 하지만 앤트로픽의 AI 모델 '클로드 미토스(Claude Mythos)'가 남긴 AI 안전성에 대한 질문이 전 세계적인 이슈로 확산되며, AI 경쟁의 축은 AI의 성능뿐 아니라 AI를 얼마나 안전하게 통제할 수 있