[딜사이트경제TV 이승석 기자] 최근 인공지능(AI) 모델이 통제 환경을 스스로 벗어나 외부 시스템을 해킹하는 사고가 잇따르고 있는 가운데, 오픈AI가 사이버 보안 우려를 이유로 새 AI 모델 ‘아스트라’의 개발 일부 과정을 중단한다고 밝혔다.

오픈AI의 이 같은 조치는 최근 AI 모델이 통제 환경을 벗어나 자율적으로 외부 시스템을 해킹하는 사건이 벌어지는 가운데 나왔다. 지난달 21일 오픈AI가 처음으로 해킹 사실을 발표한 데 이어 일주일 뒤에는 앤트로픽, 이어 지난 5일에는 메타까지 자사 AI 모델의 해킹 사실을 발표했다.

일각에서는 이처럼 기업들이 해킹 사실을 자체적으로 공개하는 데 대해, 자사 모델의 성능을 강조하려는 일종의 ‘마케팅 전략’에 가깝다는 지적도 나온다.

◇오픈AI, 앤트로픽, 메타까지…잇단 해킹사고

11일 업계 등에 따르면 오픈AI는 지난 7일 블로그 게시물을 통해, 내부 평가 결과 “중대한 사이버 위협 가능성을 배제할 수 없다”면서 출시 예정인 인공지능 모델 ‘아스트라(Astra)’와 관련된 일부 활동을 중단한다고 밝혔다.

월스트리트저널은 이 같은 소식을 전하면서 “이번 발표는 AI 개발사가 보안 우려로 인해 모델 개발을 공개적으로 중단한 첫 사례 중 하나”라며 “(이는) 사이버 보안 전문가와 AI 안전 연구원들 사이에서 경각심을 불러일으킨 일련의 통제 상실 사고에 따른 조치”라고 보도했다.

앞서 오픈AI는 지난달 21일 내부 테스트 중이던 인공지능(AI) 모델이 내부 통제를 벗어나 해킹을 실행했다고 밝혔다.

이어 일주일 후인 지난달 30일에는 앤트로픽이 사이버 보안 평가기록 14만10006건을 전수 조사한 결과 자사 AI 모델 '클로드'가 외부 기관 3곳의 시스템에 무단 접근한 사실을 파악했다고 공개했다.

메타는 지난 5일 자사 AI 모델 '뮤즈 스파크'가 독립 검증업체의 테스트 과정에서 인터넷에 무단 접속해 타 기관의 시스템을 해킹한 사실이 확인됐다고 털어놨다.

◇"우리 모델이 해킹했다"…광고효과 노린 마케팅?

AI 기업들이 이처럼 해킹 사실을 잇따라 공개하고 있는 데 대해, 자사 AI 모델의 성능을 강조함으로써 광고 효과를 노린 일종의 마케팅이라는 지적도 나온다.

미국 기술 전문지 테크크런치는 지난 7일 “특정 계층에서는 그런 능력(자율 해킹)을 지닌 모델을 보유한 AI 연구소를 인상적인 발전으로 평가할 것”이라면서 “어느 정도는 자랑하는 분위기도 있다”고 짚었다.

앞서 지난달 31일 영국 IT 전문매체 더레지스터 역시 오픈AI와 앤트로픽이 자사 모델의 해킹 사실을 밝힌 데 대해 ”한 회사가 출시 전 제품을 홍보하기 위해 벌인 캠페인이, 자사의 실패를 누가 더 크게 떠들어댈 수 있는지 겨루는 경쟁으로 변모했다”면서 “앤트로픽과 오픈AI는 이상하게도 이를 적극적으로 홍보하려는 듯하다”고 지적했다.

◇3社 해킹 공통점은…이스라엘 스타트업 '이레귤러'

한편 최근 잇따른 해킹 사건과 관련, 해킹을 실행한 모델들의 테스트 환경을 모두 동일한 업체가 제공한 것으로 전해졌다.

미국 경제방송 CNBC는 9일(현지시간) 최근 오픈AI, 앤트로픽, 메타플랫폼 등이 자사 인공지능(AI) 모델에 대해 내부 사이버 보안 시험 과정에서 외부 기관을 해킹한 사건과 관련해 이스라엘 스타트업 '이레귤러'가 공통적으로 언급되고 있다고 전했다.

이레귤러는 AI 모델의 성능과 보안 취약성을 시험하는 이른바 '평가 데스트베드'를 운영하는 이스라엘 스타트업이다.

오픈AI는 지난 4일 블로그에서 이레귤러의 테스트 환경에 구성 오류가 있어 모델들이 인터넷에 접근할 수 있었다고 밝혔으며, 앞서 일주일 전 앤트로픽은 클로드 모델이 인터넷에 접속했을 가능성을 이레귤러에 알렸다고 밝힌 바 있다. 메타 역시 최근 자사 모델이 인터넷에 접속해 외부 시스템을 해킹했다고 공개하며 이레귤러로부터 이 사안을 전달받아 현재 조사 중이라고 밝혔다.

이에 대해 이레귤러는 CNBC에 보낸 성명에서 이번 사건들이 모두 앤트로픽이 처음 언급한 "동일한 평가 환경 문제"에서 비롯됐다며, 사이버 보안 시험을 안전하게 실행하기 위한 백서를 작성하고 있다고 밝혔다.