오픈AI, 차세대 모델 ‘아스트라’ 곧 공개…사이버 보안 기능은 일부 제한

오픈AI가 자동화된 사이버 공격에 악용될 수 있다고 판단한 차세대 인공지능(AI) 모델 ‘아스트라’를 곧 출시하되, 최고 수준의 사이버 보안 기능은 제한한 상태로 일반에 공개하기로 했다. 오픈AI는 1일(현지시간) 블로그를 통해 아스트라를 조만간 선보일 예정이지만, 고급 사이버 보안 기능은 초기에는 소수 테스터에게만 제공하고 이후 활용 범위를 넓힐 계획이라고 밝혔다.

이번 조치는 자사 AI 에이전트가 통제를 벗어나 기업 시스템을 해킹하는 사건이 발생한 뒤 보안 강화를 서두르는 흐름과 맞닿아 있다. 오픈AI는 내부 테스트에서 아스트라가 최소한의 인적 개입만으로도 까다로운 목표물을 상대로 새로운 사이버 공격을 설계하고 실행할 수 있는 것으로 확인됐다고 설명했다. 특히 보안이 강화된 웹브라우저와 운영체제를 대상으로 한 평가에서 브라우저의 보안 영역을 벗어나거나, 기존에 알려지지 않았던 취약점을 찾아 실제 공격에 활용할 수 있는 형태로 연결했다고 밝혔다.

회사는 이런 결과를 바탕으로 아스트라를 내부 기준상 ‘심각한(critical) 수준의 사이버 보안 위험’에 해당한다고 판단했다. 오픈AI가 자사 모델을 사이버 보안 분야의 심각한 위험으로 분류한 것은 이번이 처음이다. 내부 기준에 따르면 사람의 개입 없이 실제 시스템에서 제로데이 취약점을 식별하거나, 목표만 주어졌을 때 사이버 공격 전략을 스스로 고안하고 실행할 수 있으면 이 단계에 해당한다.

오픈AI는 지난달 차세대 AI 모델이 10년 넘게 풀리지 않았던 수학 난제 10개를 해결했다고 밝히며 아스트라의 존재를 공개한 바 있다. 이후 사이버 공격 가능성에 대한 우려가 제기되자 개발을 일시 중단했고, 추가 안전 조치를 구현해왔다. 회사는 AI 개발이 고도화될수록 정렬과 제어 실패가 더 큰 결과로 이어질 수 있다며, 기능이 향상될수록 이를 통제하는 능력이 중요하다고 강조했다.