인공지능(AI) 개발 경쟁의 위험성을 경고하며 앤트로픽을 떠난 연구원이 미국 뉴욕시의회 청문회에서 “이대로 가면 인류는 인공지능에 대한 통제력을 잃을 가능성이 크고, 이는 인류 멸종으로 끝날 수 있다”고 경고했다. 에이피(AP)·블룸버그 통신 등 보도를 보면, 5일(현지시각) 앤트로픽 전 연구원 제이컵 콕슨은 미국 뉴욕 맨해튼 뉴욕시의회에서 열린 ‘인공지능 위협 검토’ 청문회에 출석해 “우리는 아직 어떤 인공지능 시스템도 통제하는 방법을 모른다”며 이렇게 말했다. 콕슨은 “기업들은 ‘빠르게 움직이고, 일단 파괴한 뒤 나중에 수습하라’는 스타트업 사고방식으로 운영되고 있다”며 “이는 사진 공유 앱에는 통할지 몰라도 역사상 가장 강력한 기술을 만드는 데는 통하지 않는다”고 말했다. 콕슨은 인공지능이 엄청난 이。을 가져다줄 수 있지만, 투명성과 안전장치가 없다면 상황이 통제 불능 상태로 치달을 가능성이 더 크다고 경고했다. 한게임바둑이추천 콕슨은 뉴욕시의회가 통제를 벗어난 인공지능을 중단시킬 ‘킬 스위치’ 도입을 추진하는 것을 두고도 당장은 의미가 있지만 장기적으론 충분하지 않다는 의견을 밝혔다. 콕슨은 지난달 “인공지능이 10년 안에 우리 모두를 죽일 수도 있다”는 경고를 남기고 앤트로픽을 퇴사하면서 큰 관심을 끌었다. 전직 구글 딥마인드 연구원이었던 알렉스 터너도 화상 증언에서 “중국만이 잠재적 적이 아니다. 우린 국내에서 우리 자신의 적, 즉 정렬되지 않은 인공지능을 만들기 위해 경쟁하고 있다”며 “이 인공지능은 언젠가 중국보다 강력해질 수 있다”고 말했다. 이날 청문회에는 인공지능 모델 개발 기업인 오픈에이아이(AI)와 앤트로픽, 구글, 메타 관계자들도 화상으로 출석해 선서 후 증언했다. 이 중 오픈에이아이와 앤트로픽, 구글은 시의회가 소환장을 발부하겠다고 경고한 뒤에야 출석하기로 했다. 줄리 메닌 뉴욕시의회 의장은 출석 요청에 응하지 않은 스페이스엑스(X)에 대해서는 소환장을 집행해달라고 법원에 요청하겠다고 밝혔다 릴게임예시 . 모건 드와이어 오픈에이아이 정책 개발·운영 책임자는 ‘최악의 재앙적 시나리오에서 인공지능이 초래할 위험을 수치화하라’는 의장의 요구에 “잘 모르겠다. 재앙적인 일이 발생할 가능성은 1%든 20%든 용납할 수는 없다”며 “인간의 통제하에 둘 수 없는 모델은 개발해서는 안 된다”고 답했다. ‘무성의한 답변’이란 의장의 질책에 드와이어는 “확률은 중요하지 않다. 중요한 것은 안전에 대한 의지”라고 항변했다. 트럼프 정부가 인공지능 규제에 나서지 않겠다는 뜻을 밝히고 있지만, 주·지방 정부가 독자 규제 마련에 나서면서 엇박자가 커지고 있다. 뉴욕시의회는 인공지능에 대한 정보 공개를 의무화하고, 시 안에서 사용되는 인공지능 시스템은 제3자의 승인을 받도록 하며, 법을 위반한 기업이 내는 벌금의 일부를 내부 고발자가 받도록 하는 여러 규제안을 검토하는 중이다. 메닌 의장은 ‘인공지능 규제는 기업이 자체적으로 하라’는 트럼프 정부를 두고 “이성에 어긋난다”며 “시의회는 인공지능으로 야기되는 위험을 긴급히 조사해 나갈 것”이라고 밝혔다. cia952.net