AI 기술의 한계와 도전: 텍스트 탐지기, 의료 AI, 그리고 GPU 수요

최근 AI 기술의 발전이 다양한 분야에서 주목받고 있지만, 그 한계와 도전 과제가 여전히 존재하고 있다. Epoch AI의 연구에 따르면, 인기 있는 AI 텍스트 탐지기들이 특정 작가의 스타일을 모방한 AI 생성 텍스트를 식별하는 데 어려움을 겪고 있다는 사실이 밝혀졌다. 연구팀은 Pangram, GPTZero, Originality.ai와 같은 탐지기들이 일반적인 AI 생성 텍스트를 거의 완벽하게 식별할 수 있지만, 특정 작가의 스타일을 모방한 경우에는 평균 13%의 텍스트가 탐지되지 않는다고 보고했다. 특히, 과학적 글쓰기에서 이 탐지기들은 24%에서 29%의 오류율을 보이며, 교육 환경에서의 신뢰성에 대한 우려를 낳고 있다.

한편, 의료 분야에서도 AI의 신뢰성 문제가 제기되고 있다. Ashoka University의 CRASH Lab에서 개발한 RadLE 2.0 테스트에 따르면, 여러 AI 모델들이 X-ray 진단에서 잘못된 결과를 자신 있게 제시하는 경향이 있어 환자 치료에 위험을 초래할 수 있다. 이 테스트는 AI 모델이 진단의 정확성과 자신감을 평가하고, 필요할 경우 인간에게 사례를 넘길 수 있는 능력을 측정한다. 연구 결과, 인간 방사선 전문의들이 AI 모델보다 높은 정확도를 보였으며, AI 모델들이 과신으로 인해 잘못된 진단을 내리는 경우가 많다는 점이 강조되었다.

또한, AI 스타트업 Moonshot은 최근 Kimi K3 모델의 구독 수요가 폭발적으로 증가하여 새로운 구독 판매를 일시 중단했다고 발표했다. 이는 AI 기술이 실제로 얼마나 많은 컴퓨팅 파워를 요구하는지를 보여주는 사례로, Moonshot은 사용자 경험을 안정적으로 유지하기 위해 구독 모델을 두 가지로 나누기로 했다. 이러한 상황은 AI 기술의 발전과 함께 그에 따른 인프라의 필요성도 증가하고 있음을 시사한다.

결국, AI 기술이 다양한 분야에서 혁신을 가져오고 있지만, 여전히 해결해야 할 과제가 많다는 점이 분명해졌다. AI의 신뢰성과 정확성을 높이기 위한 지속적인 연구와 개발이 필요하다.

차경언 메타브리프 기자 ruddjs758@naver.com