오픈AI, 새 모델 ‘Astra’에 강화된 보안 장치 적용…핵심 사이버보안 기준 충족

오픈AI는 새 모델 ‘Astra’가 자사 준비태세 프레임워크(Preparedness Framework)에서 ‘중대한 사이버보안 역량(Critical cybersecurity capability)’ 기준을 충족한 첫 모델이라고 밝혔다. 오픈AI는 이에 따라 Astra의 공개에 앞서 더 강한 안전장치와 보호 조치를 적용했다고 설명했다.

이번 발표는 인공지능 모델의 성능이 높아질수록 악용 가능성도 함께 커질 수 있다는 우려 속에서 나왔다. 특히 사이버보안 분야는 AI가 공격 기법을 정교하게 만들거나 취약점 탐색을 돕는 데 쓰일 수 있어, 개발 단계부터 별도의 평가와 통제가 필요하다는 지적이 이어져 왔다. 오픈AI가 이번에 언급한 준비태세 프레임워크는 이런 위험을 사전에 점검하고, 특정 수준 이상의 능력을 가진 모델에는 추가적인 안전 기준을 적용하기 위한 내부 기준으로 보인다.

오픈AI는 Astra에 대해 구체적으로 어떤 기능이 포함됐는지, 또 어떤 보안 조치가 적용됐는지는 자세히 공개하지 않았다. 다만 이번 조치로 Astra는 일반적인 모델보다 더 엄격한 보호 아래 배포되는 것으로 알려졌다. 오픈AI는 앞으로도 고성능 모델에 대해 위험 평가와 안전 장치를 강화하겠다는 입장이다.