[뉴욕=이데일리 성주원 특파원] 인공지능(AI)이 인간의 예상에서 벗어나 행동하는 일이 현실이 되고 있다. 지난 7월 오픈AI의 AI 에이전트는 내부 보안 평가에서 통제를 우회해 외부 인터넷에 접속하고 AI 플랫폼 허깅페이스 시스템에 침투했다. 지난달 호주에서는 앤스로픽 기반 AI 에이전트가 헬스장 예약 시스템에 무단 접속해 다른 이용자의 예약을 취소했다. AI가 틀린 답을 넘어 잘못된 판단을 실제 행동으로 옮긴 사례들이다. 더 걱정스러운 것은 이런 위험을 검증할 시간을 시장이 허락하지 않을 수 있다는 。이다. AI 안전과 경쟁의 관계를 연구해온 최재필 미국 미시간주립대 석좌교수는 최근 이데일리와의 인터뷰에서 AI 기업들이 안전의 중요성을 몰라서가 아니라 안전보다 속도를 보상하는 경쟁구조가 문제라고 짚었다. AI 시장에서는 먼저 이용자를 확보하면 데이터가 쌓이고 성능이 개선돼 다시 이용자를 끌어들인다. 최 교수는 이런 선。 경쟁이 안전성이 충분히 검증되지 않은 AI의 조기 출시를 유도하는 ‘바닥을 향한 경쟁(race to the bottom)’으로 이어질 수 있다고 경고했다. 안전을 중시하는 기업도 예외이기 어렵다. 더 큰 문제는 속도전이 국가 간 경쟁으로 번지고 있다는 .이다. 미국이 중국의 추격을 이유로 규제를 풀고 중국도 개발을 서두르면 양쪽 모두 원했던 것보다 낮은 안전기준을 택할 수 있다. 알라딘게임 사이버 공격과 생물학적 위험, 허위정보의 피해는 국경에서 멈추지 않는다. 그렇다고 AI 개발을 늦추자는 얘기는 아니다. 문제는 속도 경쟁 자체가 아니라 경쟁에 밀려 필요한 안전 검증마저 뒷전으로 밀리는 상황이다. 필요한 것은 경쟁을 멈추는 규제가 아니라 속도전에서도 넘지 말아야 할 안전선을 만드는 일이다. 중요한 행동에는 인간의 최종 승인을 거치게 하고 사고의 책임도 분명히 해야 한다. AI 경쟁의 승자를 가르는 기준이 ‘얼마나 빨리 출시했느냐’뿐이라면 안전은 계속 뒤로 밀릴 수밖에 없다. 더 빠른 AI를 만드는 경쟁만큼 더 안전한 AI를 만드는 경쟁도 필요하다. 성주원 () 전을 중시하는 기업