AI

AI가 쏟아낸 코드, 검토가 병목됐다…기업들 '코드 리뷰' 판을 다시 짠다

AI 코딩 도구가 수분 만에 수천 줄의 코드를 생성하면서, 소프트웨어 개발의 병목이 '코드 작성'에서 '코드 검토'로 옮겨가고 있다. 기업들은 AI가 만들어낸 대량의 코드를 걸러내기 위해 검토 절차 자체를 새로 설계하고 있다고 IEEE 스펙트럼이 보도했다.문제의 핵심은 AI가 만든 코드가 겉보기에는 깔끔하지만 잘못된 전제, 보안 취약점, 배포 이후에야 드러나는 미묘한 오류를 감추고 있는 경우가 많다는 점이다. 이런 결함을 뒤늦게 고치는 비용이 AI가 약속한 생산성 향상을 상쇄할 수 있다는 우려가 나온다.AI 코드 검증 스타트업 소나(Sonar)가 개발자 1100여 명을 상대로 진행한 설문에서 응답자들은 자신들이 공용 코드베이스에 추가한 코드의 42%가 AI가 작성한 것으로 추정했다. 그러면서도 96%는 AI 결과물이 정확히 작동한다고 전적으로 신뢰하지는 않는다고 답했다. 응답자의 38%는 AI 생성 코드를 검토하는 데 동료가 쓴 코드보다 '더 많은 노력'이 든다고 했고, 61%는 AI가 정확해 보이지만 '신뢰할 수 없는' 코드를 자주 내놓는다고 밝혔다.현장의 수치는 더 극적이다. AI 영상 생성 플랫폼 신세시아(Synthesia)는 2025년 11월 엔지니어 118명이 클로드 코드 등 AI 코딩 도구를 전면 도입했다. 피터 힐 최고기술책임자(CTO)에 따르면 8월 기준 코드 변경 제안(풀 리퀘스트)은 전년 대비 120% 늘었고, 이 가운데 95%에 AI 생성 코드가 포함돼 있다. 반복되는 문제는 중복이다. AI가 이미 존재하는 기능을 인식하지 못하고 같은 함수를 다시 작성하는 탓에, 동일 기능의 버전이 10개까지 발견된 사례도 있었다. 비영리단체용 소프트웨어 기업 본테라(Bonterra)에서는 AI 도입 3개월 만에 변경 제안이 3배, 검토에 들어오는 코드량이 10배로 늘었고 검토 시간도 3배가 됐다.대응 전략은 크게 네 갈래다. 첫째는 코드를 만들기 전 단계에서 막는 방식이다. 아마존 스토어의 맥라렌 스탠리 선임 수석 엔지니어는 AI가 무엇을 어떻게 만들어야

오픈AI, 'ChatGPT 이미지 2.5' 공개…스케치·참고사진까지 반영해 이미지 생성

오픈AI가 챗GPT의 이미지 생성 기능을 개선한 신규 버전 'ChatGPT Images 2.5'를 공개했다. 오픈AI는 공식 뉴스룸 게시물을 통해 이 기능이 "이용자의 아이디어와 스케치, 참고 사진을 보다 개인화되고 완성도 높은 이미지로 바꿔, 이용자가 머릿속에 그린 구상을 더 잘 반영하도록 돕는다"고 밝혔다.오픈AI가 이번 발표에서 내세운 핵심은 '입력 방식의 확장'이다. 텍스트 프롬프트만으로 그림을 만들어내는 방식에서 나아가, 손으로 그린 거친 스케치나 이용자가 이미 갖고 있는 사진 같은 시각 자료를 참고 재료로 받아들여 결과물에 반영한다는 것이다. 이용자가 원하는 구도나 분위기를 말로 옮기기 어려울 때 이미지를 직접 제시하는 방식으로 의도 전달의 간극을 줄이겠다는 취지로 읽힌다. 다만 오픈AI는 개선의 방향성을 설명하는 데 그쳤을 뿐, 이전 세대 대비 구체적인 성능 수치나 모델 구조, 학습 방식에 대해서는 공개된 발표문에서 상세히 밝히지 않았다.이번 발표는 이미지 생성이 챗GPT의 주요 이용 동기 가운데 하나로 자리 잡은 흐름 위에 있다. 오픈AI는 2023년 달리(DALL·E) 계열 모델로 이미지 생성 시장에 뛰어든 뒤, 2025년 3월 GPT-4o에 이미지 생성 기능을 직접 결합하면서 이용자가 단기간에 크게 몰리는 경험을 했다. 당시에는 특정 화풍을 흉내 낸 이미지가 소셜미디어에서 유행하며 서버 부하로 생성 횟수에 제한이 걸리기도 했고, 동시에 기존 창작물의 화풍을 학습·재현하는 행위를 둘러싼 저작권 논란도 함께 불거졌다.경쟁 구도 역시 배경으로 꼽힌다. 구글을 비롯한 주요 기술기업과 미드저니, 어도비 등 전문 도구 진영이 잇따라 이미지 생성·편집 모델을 내놓으면서, 단순한 '그림 생성' 품질보다는 이용자가 제시한 원본을 얼마나 정확히 유지하고 수정해주는지가 경쟁의 초점으로 옮겨가는 추세다. 오픈AI가 이번에 '2.5'라는 별도의 버전 번호를 붙인 것도 이미지 기능을 독립된 제품 계열로 관리하려는 움직임으로 볼 수 있다.다만 실제 이용 조건과 관련한

구글 딥마인드, 인간 유전체 '변이 지도' 공개…90억 개 DNA 변화 효과 미리 계산

구글 딥마인드가 인간 유전체에서 일어날 수 있는 모든 단일 염기 변이 90억 개의 분자적 영향을 미리 계산한 데이터베이스 '알파지놈 아틀라스(AlphaGenome Atlas)'를 8일 공개했다. 유전자 변이가 생명 현상에 미치는 영향을 담은 목록으로는 현재까지 가장 포괄적인 규모다.인간 유전체는 약 30억 개의 염기쌍으로 이뤄져 있고, 각 위치마다 세 가지 다른 염기로 바뀔 수 있다. 이를 모두 합하면 90억 개의 변이가 나온다. 아틀라스는 이 전부에 대한 예측값을 담고 있으며, 전체 데이터 용량은 약 1페타바이트에 달한다. 딥마인드는 단백질 구조 예측 데이터베이스인 알파폴드 DB보다 30배 이상 큰 규모라고 설명했다.딥마인드는 2025년 유전자 변이가 생물학적 과정에 미치는 영향을 예측하는 AI 모델 알파지놈을 공개했고, 지난 1월 네이처에 상세 내용을 담은 논문을 발표하면서 비상업적 용도로 모델을 개방했다. 다만 연구자가 직접 검증할 변이를 고르고 코드를 작성해 연산 부담이 큰 모델을 돌려야 했다. 아틀라스는 그 작업을 딥마인드가 미리 수행해 놓은 결과물로, 코딩 없이 웹 포털에서 변이를 조회할 수 있다.이번 공개에서 가장 주목받는 기능은 '알파지놈 변이 영향(AVI) 점수'다. 알파지놈과, 단백질을 바꾸는 변이의 위험성을 예측하는 알파미센스의 예측을 하나의 숫자로 합쳐 변이의 중요도를 한눈에 보여준다. 딥마인드는 AVI 점수가 단백질을 만드는 유전체의 2% 영역뿐 아니라, 유전자 활동을 조절하고 형질 관련 변이 대부분이 몰려 있는 나머지 98%의 비암호화 영역에도 적용된다고 밝혔다. 점수를 RNA 스플라이싱, 유전자 발현, 염색질 접근성 등 어떤 분자 과정이 교란되는지 항목별로 분해해 보여주는 기능도 함께 제공된다.딥마인드가 밝힌 90억 건 연산은 처음엔 사실상 불가능해 보였다. 지가 아브세치 딥마인드 유전체학 리드는 초기 추산 결과 합리적인 기간 안에 작업을 끝내려면 연산 속도를 80배 높여야 했다고 말했다. 연구팀은 모델 증류와 GPU 커널 최적화,

뉴욕시, 공립학교 8학년까지 AI 도구 사용 전면 금지

미국 뉴욕시가 공립학교 중학교 과정까지 인공지능(AI) 도구 사용을 금지한다. 뉴욕시 교육국은 새 학년도부터 유치원 과정에서 8학년까지 약 60만 명의 학생이 학교에서 AI 도구를 쓸 수 없도록 하는 방침을 발표했다.세부 내용을 보면 3학년까지는 개인용 화면 기기 사용 자체가 금지된다. 이용자와 정서적 관계를 형성하도록 설계된 이른바 '컴패니언 챗봇'은 학년과 관계없이 모든 학년에서 금지 대상이다. 중학생의 경우 하루 화면 사용 시간을 45분 이내로 제한할 것을 교육국이 권고했다. 교사에게는 다른 기준이 적용된다. 수업 준비에는 AI를 활용할 수 있지만, 학생 평가와 채점에는 쓸 수 없다.조란 맘다니 뉴욕시장은 뉴욕타임스를 통해 기술업계가 AI 교육을 '거스를 수 없는 흐름'으로 규정하려 한다고 지적하며, 뉴욕시는 그런 전제를 따르지 않겠다는 뜻을 밝혔다. 학교 현장에 AI 도입을 서두르기보다 그 영향을 먼저 따져보겠다는 입장이다.이번 조치의 배경에는 어린 학생들의 인지 발달에 대한 우려가 자리 잡고 있다. 학부모 단체 '페어런츠 포 AI 코션(Parents for AI Caution)'은 이번 규정이 오히려 미흡하다며 교실 내 AI 사용을 2년간 전면 유예할 것을 요구하고 있다. 이들이 우려하는 지점은 아이들이 사고 과정 자체를 소프트웨어에 넘겨버리면서 독립적으로 생각하는 능력을 끝내 기르지 못할 수 있다는 것이다. 영국 연구진은 최근 이런 현상을 '인지적 항복(cognitive surrender)'이라는 표현으로 설명한 바 있다.반면 교육 현장에서는 AI 활용 역량 자체가 앞으로 필요한 기술이라는 시각도 존재해 왔다. 뉴욕시의 이번 결정은 그 사이에서 일단 저연령층에 대해서는 제한 쪽에 무게를 실은 결과로 볼 수 있다. 다만 이번 방침이 고등학교 과정까지 확대될지, 또는 완화될지는 현재로서는 확인되지 않았다.뉴욕시는 이번 조치를 최종안이 아닌 중간 단계로 두고 있다. 교사와 정치인, 전문가, 교원노조 대표가 참여하는 태스크포스가 구성돼 2027년 4월까지

GPT-6 Astra, 사람 도움 없이 24시간 만에 '포털' 전편 클리어

오픈AI의 언어 모델 GPT-6 Astra가 사람의 개입 없이 퍼즐 게임 '포털(Portal)'을 처음부터 끝까지 혼자 플레이해 엔딩 크레딧까지 도달했다.개발자 코지블레이즈(cozyblaze)는 X(옛 트위터)에 이 같은 내용을 공개했다. 그에 따르면 최초에 목표를 설정해 준 이후로는 사람이 전혀 손을 대지 않았으며, 모델이 스스로 게임 전체를 진행해 엔딩에 이르렀다. 소요 시간은 약 23시간 43분이었다.작동 방식은 이렇다. 모델은 MCP(Model Context Protocol)와 개조한 소스포즈툴(SourcePauseTool)을 통해 게임을 조작한다. 이 도구는 모델이 생각하는 동안 게임을 일시 정지시키는 역할을 한다. 정지된 상태에서 에이전트는 화면 스크린샷과 플레이어 위치, 카메라 각도를 확인하고 다음에 넣을 입력을 결정한 뒤 게임을 다시 진행시킨다. 코지블레이즈가 함께 공개한 영상에서는 이 정지 구간이 편집으로 잘려 있다.비용도 공개됐다. 이 플레이에 쓰인 토큰 사용량은 Astra의 정가 기준으로 최소 570달러어치에 해당한다. 다만 코지블레이즈 본인은 월 200달러짜리 코덱스(Codex) 구독을 이용했다고 밝혔다. 관련 코드와 문서는 깃허브에 공개돼 있다.이번 시도가 주목받는 배경에는 오픈AI가 오래전에 내걸었던 목표가 있다. 코지블레이즈는 오픈AI가 2016년에 '하나의 에이전트로 여러 종류의 게임을 풀어낸다'는 목표를 제시했던 점을 언급하며, 여전히 해결되지 않은 문제가 남아 있지만 에이전트가 스스로 게임 한 편을 끝까지 깨는 모습을 지켜보는 것은 그 초기 구상을 조금이나마 맛보는 일이라고 평가했다.게임은 오랫동안 인공지능 연구에서 성능을 가늠하는 시험대로 쓰여 왔다. 특정 게임 하나를 전용으로 학습한 시스템이 사람을 능가한 사례는 이전에도 있었지만, 별도 학습 없이 범용 모델이 화면과 좌표 정보만 보고 장시간에 걸쳐 목표를 스스로 쪼개 나가며 게임을 완주하는 것은 성격이 다른 과제다. 포털은 공간 인식과 물리 법칙 이해, 여러 단계를 내다보는

앤스로픽, 11개월 새 최대 517조원 규모 컴퓨팅 계약… "과속 투자" 경고했던 자신이 추격전

인공지능(AI) 기업 앤스로픽이 지난 11개월 동안 최대 5170억 달러(약 517조 원 이상) 규모의 컴퓨팅 인프라 계약을 체결한 것으로 알려졌다. 정보기술 매체 디코더(The Decoder)는 미국 매체 디인포메이션(The Information)을 인용해 이같이 보도했다.보도에 따르면 앤스로픽은 2025년 10월 이후 최소 14.8기가와트(GW) 규모의 연산 능력을 확보했다. 이는 기존에 보유하고 있던 1~2GW에 더해지는 물량이며, 회사는 이와 별도로 자체 데이터센터 건설도 추진하고 있다.다만 계획된 총용량은 경쟁사 오픈AI가 2030년 목표로 제시한 30GW에는 여전히 못 미칠 것으로 보인다. 디인포메이션은 앤스로픽의 계약 상당수가 2030년 이후까지 이어지는 장기 계약이어서 두 회사의 규모를 단순 비교하기는 어렵다고 지적했다.두 회사 모두 현재 매출만으로는 이런 약정을 감당하지 못한다. 블룸버그에 따르면 앤스로픽의 연환산 매출은 650억 달러를 넘어섰다. 오픈AI는 지난 7월 기준 400억 달러를 웃돌았다. 계약 규모와 매출 사이의 간극을 어떤 방식으로 메울지는 확인되지 않았다.이번 계약이 주목받는 이유는 앤스로픽이 그동안 취해온 입장 때문이다. 다리오 아모데이 앤스로픽 최고경영자(CEO)는 2026년 초 과속 투자에 경고를 보내며 경쟁사들이 "자신들이 지고 있는 위험을 제대로 이해하지 못하고 있다"고 말한 바 있다. 업계의 무분별한 인프라 경쟁에 거리를 두는 발언이었다. 그런 앤스로픽이 이제는 추격에 나선 쪽이 됐다.반대로 샘 올트먼 오픈AI CEO는 최근 신중론을 펴고 있다. 그는 이른바 네오클라우드 사업자들에게서 나타나는 "지속 불가능한 어리석음"을 경고하면서, 기술 진보 속도가 빨라 지금의 값비싼 프로젝트들이 훗날 잘못된 베팅으로 판명될 수 있다고 주장했다.두 CEO의 입장이 사실상 뒤바뀐 셈이다. AI 업계의 컴퓨팅 확보 경쟁은 모델 성능이 확보한 연산량에 크게 좌우되는 구조에서 비롯됐다. 선점하지 못하면 뒤처진다는 압박이 전략적 신중론보다

9월 7일 하루에만 AI 용역 5건 공고… 한국디자인진흥원 3억 1,818만원 최대

조달청 나라장터에 2026년 9월 7일 오전 인공지능(AI) 관련 용역 입찰공고 5건이 잇따라 게시됐다. 발주 기관은 경희대학교산학협력단, 과학기술정보통신부, 경북대학교 산학협력단, 경희사이버대학교, 한국디자인진흥원으로, 추정가격 합계는 약 6억 3,000만원이다.규모가 가장 큰 사업은 한국디자인진흥원의 '디자인 산업 특화 멀티모달 AI 데이터 구축 및 품질관리 가이드라인 조사·검증 및 개발'이다. 추정가격은 3억 1,818만원, 공고번호는 R26BK01715519-000이다. 5건 가운데 유일하게 계약방법이 일반경쟁이며, 나머지 4건은 모두 제한경쟁이다. 공고일시는 9월 7일 10시 11분 25초이고, 입찰 마감은 9월 18일 14시, 개찰은 같은 날 15시로 예정돼 있다.경희대학교산학협력단은 '[제2026-국제산학21호] 2026년 SW중심대학 연합 AI·SW 페스티벌 행사대행 용역'을 공고했다. 추정가격은 7,273만원, 공고번호는 R26BK01715418-000이다. 공고일시는 9월 7일 09시 45분 47초이며, 입찰 마감은 9월 22일 10시, 개찰은 같은 날 11시다. 이번 5건 중 마감이 가장 늦다.경희사이버대학교는 '[재공고]경희사이버대학교 AI 강의 교안 제작 시스템 및 생성형 AI 구축 용역 업체 선정(제2026-4호)'을 냈다. 추정가격은 6,545만원, 공고번호는 R26BK01714056-001로 차수가 001인 재공고 건이다. 공고일시는 9월 7일 10시 11분 23초다.경북대학교 산학협력단은 '교육분야 특화 수직 AI 모형 개발 및 현장 적용 방안 연구(2단계)'를 공고했다. 추정가격은 6,364만원, 공고번호는 R26BK01715549-000이다. 공고일시는 9월 7일 10시 08분 11초, 입찰 마감은 9월 18일 10시, 개찰은 같은 날 11시다.중앙부처 발주로는 과학기술정보통신부의 'AI시대 신종범죄 대응 과학치안 체계 구축 및 국가전략 수립 연구'가 있다. 추정가격은 5,000만원으로 5건 중 가장 작다. 공고번호는 R26B

공공부문 AI 행사·경진대회 용역 발주 잇따라… 하루 새 3건, 총 1억5,800만원

인공지능 관련 경진대회와 행사 운영 용역 입찰공고가 하루 사이 세 건 잇따라 나왔다. 영남대학교 산학협력단, 경상북도교육청 경상북도교육청발명인공지능교육원, (사)중소기업기술혁신협회가 지난 7일 나라장터를 통해 각각 용역 입찰을 공고했다. 세 건의 추정가격을 합하면 1억5,818만원이다.영남대학교 산학협력단은 '[산단] 2026년 AI 캡스톤디자인 경진대회 용역'을 재공고했다. 추정가격은 3,182만원, 공고번호는 R26BK01715683-000이다. 계약방법은 제한경쟁이며 공고일시는 2026년 9월 7일 13시 14분 31초다. 재공고인 만큼 앞선 공고가 성립되지 않았던 것으로 보인다.경상북도교육청 경상북도교육청발명인공지능교육원은 '경상북도교육청 인공지능교육관 개관식 행사 용역'을 공고했다. 세 건 가운데 규모가 가장 크며 추정가격은 8,091만원이다. 공고번호는 R26BK01715792-000, 공고일시는 같은 날 13시 14분 59초다. 계약방법은 제한경쟁이고, 낙찰자 선정은 2단계 규격가격동시 방식으로 진행된다. 입찰 마감은 2026년 9월 18일 오전 11시, 개찰은 9월 22일 오후 2시로 예정돼 있다.(사)중소기업기술혁신협회는 '제조AI솔루션 공모전 및 K-제조 AI 그랜드 챌린지 행사 홍보·운영 대행' 용역을 공고했다. 추정가격은 4,545만원, 공고번호는 R26BK01715344-000이다. 세 건 중 유일하게 계약방법이 일반경쟁이다. 공고일시는 같은 날 13시 20분 49초이며, 입찰 마감은 9월 18일 오전 10시, 개찰은 9월 21일 오후 4시다.세 공고 모두 공고명에 'AI' 또는 '인공지능' 키워드가 포함돼 있어 공공 부문 AI 사업 발주 사례로 분류됐다. 대학 산학협력단의 학생 경진대회, 시·도 교육청의 인공지능 교육시설 개관 행사, 중소기업 단체의 제조 AI 공모전으로 발주 주체와 성격은 각각 다르다.각 공고의 상세 내용은 나라장터 홈페이지에서 공고번호로 확인할 수 있다. 영남대 산학협력단 건은 https://www.g2b.go.kr

오픈AI 개발자 “Astra 도입 후 생산성 급증…일부 계획 6개월 앞당겨”

오픈AI 내부에서 사용 중인 AI 도구 ‘Astra’가 팀 생산성을 크게 끌어올려 일부 개발 계획이 6개월가량 앞당겨졌다는 주장이 나왔다. 오픈AI 개발자 티보 소티오(Thibault Sottiaux)는 최근 X(옛 트위터)에 Astra가 공개되기 전에는 오픈AI의 “가장 큰 경쟁 우위”였을 수 있다며, 내부 도입 이후 업무 효율이 크게 높아졌다고 밝혔다.소티오의 발언은 AI가 연구·개발 속도를 얼마나 높일 수 있는지를 둘러싼 논의와 맞닿아 있다. 최근 IAPS 펠로우 세베린 필드가 진행한 조사에서는 오픈AI, 앤스로픽, 구글 딥마인드, 메타 소속 연구자 25명 중 20명이 AI 연구 자동화를 주요 위험 요인으로 꼽았다. 조사 응답자 절반은 가장 강력한 모델이 외부 판매 없이 내부에만 남을 수 있다고 내다봤다.업계에서는 이미 AI가 코드 작성과 개발 업무를 상당 부분 대신하고 있다는 주장도 나온다. 앤스로픽은 자사 모델 클로드가 생산 코드의 80% 이상을 스스로 작성한다고 밝힌 바 있다. 다만 AI가 실제로 연구개발 속도를 얼마나 높이는지, 또 모델이 스스로를 개선하는 수준까지 이어질 수 있는지는 아직 논쟁이 이어지고 있다. 일부 전문가들은 생산성 향상 효과에 회의적인 시각을 유지하고 있다.

구글, 위성 데이터로 직접 학습한 ‘WeatherNext 3’ 공개…시간당 예보로 정밀도 높여

구글이 전통적인 물리 기반 수치예보 시뮬레이션 대신 실시간 위성 데이터를 직접 학습하는 새 날씨 예측 모델 ‘WeatherNext 3’를 공개했다. 구글은 이 모델이 기존보다 최대 5배 더 세밀한 해상도로, 1시간마다 갱신되는 예보를 제공한다고 밝혔다.구글 리서치와 딥마인드가 개발한 WeatherNext 3는 이전 세대인 WeatherNext 2와 달리 수치예보모델(NWP) 결과를 학습하지 않는다. 기존 방식은 슈퍼컴퓨터로 계산한 시뮬레이션을 바탕으로 예보를 만들지만, 구글에 따르면 이 과정에는 약 6시간의 지연이 생겨 비·기온처럼 빠르게 변하는 변수에서 오차가 커질 수 있다. 반면 WeatherNext 3는 정지궤도 위성의 최신 관측값을 받아 매시간 새 예보를 생성한다.구글은 이 모델이 기온과 습도는 5km, 다른 지표 변수는 10km, 바람 등 대기 변수는 25km 해상도로 예측한다고 설명했다. 이는 25km 격자와 6시간 간격을 사용한 WeatherNext 2보다 훨씬 촘촘한 수준이다. 구글은 영국의 기온 예보 사례를 들어, 기존 모델은 화면이 거칠게 보이는 반면 새 모델은 지형의 차이를 더 잘 반영한다고 소개했다.WeatherNext 3는 기상 관측소 데이터도 함께 학습해 해안선, 계곡, 산악 지형 같은 지역 특성을 더 세밀하게 반영하도록 설계됐다. 구글은 특히 라틴아메리카, 아프리카, 아시아·태평양 지역에서 개선 효과가 클 수 있다고 밝혔다. 기존 지역 예보 모델은 높은 연산 비용 때문에 상대적으로 서비스가 부족했다는 설명이다.강수 예측도 핵심 개선 분야다. 구글은 위성 기반 IMERG 데이터와 자사 전 지구 강수 분석 자료를 활용해 모델을 학습했고, 중기 예보 기준으로 CRPS 지표가 IMERG 대비 최대 60%, MRMS 대비 30%, 단기 예보의 강우계 자료 대비 10%까지 개선됐다고 밝혔다. 또 100m 높이의 풍속을 예측해 풍력발전 출력 추정에 활용할 수 있고, 구름량과 태양복사량 예측을 통해 태양광 발전량 산정에도 도움을 줄 수 있다고 설명

메타 FAIR, GPU 쓰기 전 실험 고르는 AI 모델 ‘RPM’ 공개

메타의 AI 연구조직 FAIR와 옥스퍼드대, 유니버시티칼리지런던(UCL) 연구진이 머신러닝 실험을 실행하기 전에 우선순위를 매기는 ‘AI 연구 선호 모델(RPM·Research Preference Models)’을 제안했다. 연구진은 후보 실험의 최종 점수를 직접 예측하기보다, 실행하지 않은 여러 후보 가운데 어떤 실험을 먼저 돌릴지 고르는 방식이 더 유효하다고 봤다. GPU 연산 시간이 많이 드는 연구 환경에서, 어떤 실험을 실행하느냐가 연구 성과를 좌우한다는 판단이다.이번 연구는 AI 연구 에이전트가 아이디어를 생성하고 코드까지 작성할 수 있게 됐지만, 실제 검증에는 여전히 많은 계산 자원이 필요하다는 문제의식에서 출발했다. 하나의 후보 실험을 학습·평가하는 데 몇 시간에서 며칠의 GPU 시간이 들 수 있어, 에이전트가 제안한 수많은 후보를 모두 실행하기는 어렵다. 연구진은 이 지점을 ‘연구 선호’로 정식화해, 실행 전 후보를 비교·선택하는 모델을 설계했다.RPM은 언어모델을 그대로 활용하되 추가 미세조정 없이 고정된 사전학습 모델을 사용한다. 연구진은 언어모델이 메트릭이나 실행 결과를 절대값으로 예측하는 데는 신뢰도가 낮다고 보고, 대신 후보 간 상대적 선호를 판단하는 데 초점을 맞췄다. 이를 위해 공개된 프레임워크 AIRA-dojo와 벤치마크 AIRS-Bench를 활용했다. 기반 모델은 Qwen3.6-27B 오픈웨이트를 사용했다.AIRA-dojo는 진화적 트리 탐색 방식으로, 부모 노드를 고르고 Draft, Improve, Debug 같은 연산자를 적용해 다음 후보를 만든다. 기존 방식에서는 생성한 후보를 바로 실행했지만, RPM은 자식 노드를 만들 때만 개입한다. 한 번에 하나의 후보를 실행하는 대신 같은 연산을 15회 병렬로 적용해 15개 후보를 만든 뒤, 이들 사이를 토너먼트 방식으로 비교해 승자를 실행한다. 비교에는 탐색된 트리의 맥락과 각 노드의 검증 점수가 함께 사용된다.연구진은 두 가지 형태의 RPM을 제시했다. 하나는 후보 계획, 코드,

오픈웨이트 AI 모델 안전장치 제거, 상용 서비스로 등장

오픈웨이트(open-weight) 인공지능 모델의 안전 거부 기능을 제거한 뒤 이를 서비스 형태로 제공하는 상용 사업이 등장했다. 미국 스타트업 Abliteration.ai는 최근 Z.AI의 GLM-5.3을 기반으로 한 수정 모델 ‘abliterated-model-large-v2’를 공개하고, 이를 API 방식으로 제공하고 있다. 회사는 이 모델이 민감한 요청을 덜 거부하도록 조정됐다고 설명하면서도, 코딩·사이버·에이전트 기능은 대체로 유지된다고 주장했다.이 회사가 적용한 방식은 ‘애블리테이션(abliteration)’으로 불린다. 모델 내부에서 거부 반응을 유발하는 활성 패턴을 찾아 이를 억제하는 방식으로, 단순한 프롬프트 우회가 아니라 모델 자체를 수정하는 것이다. Abliteration.ai는 이 기술을 통해 보안 테스트, 레드팀 평가, 에이전트 검증 등에 활용할 수 있다고 내세우고 있다. 실제로 회사는 사이버 관련 평가에서 일정 수준의 성능을 제시했지만, 비교 대상마다 평가 환경과 연산 자원이 달라 직접 비교에는 한계가 있다고도 인정했다.이번 서비스가 주목받는 이유는 오픈웨이트 모델의 라이선스 구조와 맞물려 있기 때문이다. GLM 계열은 수정과 파생 모델, 상업적 ‘모델 as a 서비스’ 제공을 허용하는 라이선스를 갖고 있어, Abliteration.ai는 이를 기반으로 모델을 수정하고 호스팅한 뒤 유료로 판매할 수 있다. 회사는 수정된 모델을 공개 다운로드 형태로 배포하지는 않고, 대신 인프라 운영까지 맡는 방식으로 접근성을 높였다. 표준 요금은 입력·출력 토큰 100만 개당 5달러다.다만 이런 구조는 보안 연구자에게는 편의성을 주지만, 악용 가능성도 함께 낮춘다. 회사는 공격적 사이버 보안 테스트, AI 레드팀, 악성코드 분석, 피싱 시뮬레이션 등을 주요 활용 사례로 제시하고 있다. 익명의 창업자는 대형 조직과 은행이 배치한 AI 에이전트가 프롬프트 인젝션이나 탈옥 공격에 취약한지 점검하려는 수요가 초기부터 있었다고 밝혔다. 반면 일부 보안 업계 관