_​Hot Issue

오픈AI가 소프트웨어 취약점 발견과 검증 능력을 크게 강화한 사이버보안 특화 인공지능 모델 ‘GPT-6 Cyber’를 공개했다. 단순히 코드에서 의심스러운 부분을 찾는 수준을 넘어 실제로 보안 취약점이 악용 가능한지 검증하고, 수정에 필요한 패치 후보까지 생성하는 것이 핵심이다.

특히 세계적으로 널리 사용되는 웹 브라우저 Firefox와 Linux 커널을 대상으로 한 실제 보안 연구에서 기존에 알려지지 않았던 고위험 취약점을 대거 찾아내면서 AI가 보안 연구자의 업무 방식 자체를 바꿀 수 있다는 전망이 나오고 있다.

오픈AI는 미국 현지시간 11월 5일 GPT-6 Cyber를 공개했다. 새로운 모델은 기존 GPT-5.6 Cyber보다 취약점 발견과 실제 악용 가능성 검증 능력을 크게 높이고, 승인받은 보안 연구 범위를 벗어나지 않는 정렬 능력까지 강화한 것이 특징이다.

대표적인 성능 지표는 ExploitGym이다. 이 평가는 지정된 취약점이 실제 공격에 활용될 수 있는지 모델이 검증할 수 있는지를 측정한다.

GPT-6 Cyber는 ExploitGym에서 48.5%의 성공률을 기록했다. 이전 세대인 GPT-5.6 Cyber의 32.1%보다 16.4%포인트 높고, 상대적인 성능 개선폭은 약 51%에 달한다.

단순한 벤치마크 성능을 넘어 실제 소프트웨어 프로젝트에서도 상당한 결과가 나타났다. 오픈AI 연구진은 GPT-6 Cyber를 이용해 Mozilla의 웹 브라우저 Firefox에서 이전에 알려지지 않았던 고위험 취약점 81건을 발견했다.

해당 취약점들은 이미 여러 세대의 최첨단 AI 모델과 보안 연구자들이 분석해 온 코드베이스에서 새롭게 발견됐다는 점에서 의미가 크다.

GPT-6 Cyber는 단순히 문제가 있을 가능성을 제시하는 데 그치지 않고 취약점을 재현할 수 있는 증거와 테스트 자료를 만들고 수정 방향을 제안하는 데에도 활용됐다.

오픈AI는 발견된 취약점과 패치 후보를 Mozilla 측에 전달했으며, Mozilla는 이후 다수의 문제에 대한 수정 사항을 실제 Firefox에 반영했다.

GPT-6 Cyber는 기존에 알려진 Firefox 취약점 가운데 30건은 실제 위험도가 기존 평가보다 더 높다는 사실도 찾아냈다.

이는 AI가 단순히 새로운 취약점을 찾는 것뿐 아니라 이미 알려진 보안 문제의 위험도를 다시 평가하고 대응 우선순위를 결정하는 작업에도 활용될 수 있음을 보여준다.

Linux 커널을 대상으로 한 연구에서는 규모가 더욱 컸다.

GPT-6 Cyber는 Linux 커널에서 1,724건의 취약점을 재현했으며 이 가운데 948건에 대해 실제 작동하는 권한 상승 익스플로잇을 개발하는 데 성공했다.

동일한 연구 환경에서 GPT-5.6 Sol이 실제 공격 가능성을 검증한 취약점이 166건이었던 것과 비교하면 다섯 배가 넘는 결과다.

오픈AI는 이 가운데 중요도가 높은 304건의 발견 사항을 패치 후보와 함께 Linux 유지관리자들에게 보고했으며 나머지 문제에 대해서도 수정 작업을 진행하고 있다고 밝혔다.

이런 결과가 중요한 이유는 기존 취약점 탐색 과정에서 발생하던 가장 큰 병목 가운데 하나를 AI가 줄일 가능성이 있기 때문이다.

기존에는 자동화 도구가 의심스러운 코드를 찾아내더라도 해당 문제가 실제로 공격에 이용될 수 있는지 확인하려면 보안 연구자가 직접 재현 환경을 구축하고 오랜 시간 검증해야 했다.

하지만 AI 모델이 코드 분석부터 취약점 재현, 악용 가능성 검증과 패치 후보 작성까지 연결할 수 있게 되면 보안 연구자가 처리할 수 있는 소프트웨어의 규모가 크게 확대될 수 있다.

원격 서비스 환경을 모사한 새로운 평가에서도 높은 수행률이 나타났다.

오픈AI는 GitLab과 PostgreSQL, Jenkins 등 실제 애플리케이션의 알려진 취약점을 격리된 환경에서 검증하는 RemoteExploitBench를 새롭게 구축했다.

초기 평가에서 GPT-6 Cyber는 주어진 과제의 95%를 완료했다. 실패한 한 건 역시 대상 취약점을 원격 환경에서 정상적으로 작동시키지 못한 사례였다.

취약점 발견 능력이 높아질수록 모델이 허가받지 않은 시스템까지 공격할 위험도 함께 커지기 때문에 오픈AI는 이번 모델에서 ‘승인된 범위를 지키는 능력’을 핵심 성능으로 강조했다.

이를 측정하는 ExploitGym Honeypot 평가에서는 모델이 실제 목표 외에도 공격하기 쉬운 별도의 서비스를 볼 수 있도록 만든 뒤 이를 이용하지 않고 지정된 범위만 지키는지를 확인했다.

별도의 배포용 안전 프롬프트를 적용하지 않은 상태에서 GPT-6 Cyber가 범위를 벗어난 서비스를 공격하지 않은 비율은 99.93%였다.

GPT-5.6 Cyber의 94.49%보다 크게 개선된 수치다. 실제 서비스에 사용되는 안전 프롬프트까지 적용하면 GPT-6 Cyber는 평가된 모든 사례에서 허가 범위를 지켜 100%의 범위 준수율을 기록했다.

오픈AI가 보안 성능과 함께 이러한 수치를 강조하는 이유는 사이버보안 AI가 대표적인 이중용도 기술이기 때문이다.

방어자에게는 취약점을 빠르게 찾아내고 수정할 수 있는 강력한 도구지만 동일한 능력이 악의적인 공격자에게 제공되면 새로운 취약점을 발굴하고 공격을 자동화하는 데 악용될 가능성도 있다.

실제로 오픈AI는 GPT-6 Cyber의 사이버보안 능력을 자사의 Preparedness Framework 기준에서 ‘Critical’ 수준으로 분류했다. 이전 GPT-5.6 Cyber가 ‘High’ 수준이었던 것과 비교하면 모델의 공격·검증 능력이 새로운 단계에 진입했다는 의미다.

이에 따라 GPT-6 Cyber는 일반 ChatGPT 이용자에게 바로 공개되는 방식이 아니라 승인된 보안 전문가와 조직을 대상으로 제한적으로 제공된다.

오픈AI는 보안 연구자용 신뢰 기반 접근 프로그램인 Daybreak를 운영하고 있으며 이 가운데 고급 침투 테스트와 익스플로잇 검증을 지원하는 Daybreak Red를 통해 GPT-6 Cyber 접근 권한을 제공한다.

현재 GPT-6 Cyber는 별도의 승인을 받은 일부 Daybreak Red 고객에게 API와 Codex를 통해 우선 제공되고 있다. 오픈AI는 향후 접근 대상을 전체 Daybreak Red 고객으로 점진적으로 확대할 계획이다.

모든 Daybreak Red 이용자가 즉시 GPT-6 Cyber를 사용할 수 있는 것은 아니다. 현재는 Daybreak Red 승인과 별도로 GPT-6 Cyber 모델 사용을 위한 추가 승인이 필요하다.

오픈AI는 모델 악용을 방지하기 위해 사용자의 승인 범위와 실제 모델 행동이 일치하는지를 점검하는 사이버보안 전용 모니터링도 강화했다.

특정 고위험 보안 이슈가 발생할 경우 실제 운영 중인 시스템을 대상으로 공격 코드를 개발하려는 시도는 차단하면서 보안 담당자가 패치를 개발하고 검증하는 합법적인 작업은 계속 지원하도록 설계했다.

Daybreak Red의 API 접근에는 기본적으로 IP 허용 목록을 적용해 승인된 네트워크에서만 요청을 보낼 수 있도록 하는 등 계정 탈취와 불법 이용을 막기 위한 보호장치도 추가됐다.

고위험 보안 업무에서는 AI의 행동을 완전히 자동화하기보다 샌드박스와 작업 검토, 사람의 감독을 함께 적용해야 한다는 것이 오픈AI의 권고다.

GPT-6 Cyber의 등장은 보안 업계의 업무 구조에도 큰 변화를 만들 가능성이 있다.

지금까지 보안 연구에서 AI는 코드 설명이나 취약 가능성 분류, 보고서 작성 등 연구자를 보조하는 역할이 중심이었다. 하지만 이번 모델은 장시간 스스로 코드를 분석하고 취약점을 재현해 실제 영향까지 검증하는 에이전트형 보안 연구로 역할이 확대되고 있다.

특히 대규모 오픈소스 프로젝트처럼 코드가 방대하고 오래된 영역에서는 사람이 모든 코드를 지속적으로 검토하기 어렵다. AI 에이전트가 자동으로 취약 후보를 찾고 우선순위를 정한다면 유지관리자의 업무 부담을 크게 줄일 수 있다.

반면 발견 속도가 수정 속도를 앞지르는 새로운 문제도 생길 수 있다. AI가 수천 개의 취약점을 단기간에 찾아내더라도 실제 개발자가 이를 검토하고 패치를 작성해 배포하는 능력에는 한계가 있기 때문이다.

이에 따라 향후 보안 AI 시장에서는 취약점을 많이 찾는 모델보다 발견한 문제를 정확하게 검증하고 우선순위를 정한 뒤 안전한 수정 코드까지 제공할 수 있는 능력이 더욱 중요해질 가능성이 있다.

Firefox 사례는 이러한 변화의 초기 모습을 보여준다. AI가 새로운 취약점을 찾는 동시에 재현 자료와 패치 후보까지 제공하고 실제 제품 업데이트로 연결되면서 취약점 발견과 수정 사이의 시간을 줄이고 있기 때문이다.

기업의 소프트웨어 개발 방식에도 영향이 예상된다. 개발이 완료된 뒤 보안팀이 별도로 문제를 찾는 방식에서 벗어나 AI가 코드 작성과 동시에 지속적으로 취약점을 탐색하고 패치를 제안하는 구조가 확산될 수 있다.

이 경우 AI 코딩 도구의 경쟁 기준도 단순한 개발 속도에서 코드의 안전성을 얼마나 지속적으로 검증할 수 있는가로 확대될 전망이다.

동시에 강력한 사이버 AI에 대한 접근 통제 역시 중요한 산업 이슈가 될 수 있다. 모델 능력이 높아질수록 일반 공개와 제한적 접근 사이의 균형을 어떻게 설정할 것인지가 AI 기업의 중요한 과제가 되기 때문이다.

결국 GPT-6 Cyber는 AI가 보안 전문가를 보조하는 단계에서 취약점 발견·검증·수정까지 상당 부분 자율적으로 수행하는 단계로 이동하고 있다는 신호로 볼 수 있다.

향후 경쟁은 누가 더 많은 취약점을 찾아내느냐를 넘어, 발견한 취약점을 실제 공격에 악용되지 않도록 얼마나 빠르게 방어자에게 전달하고 안전하게 수정할 수 있느냐에서 갈릴 가능성이 높다.

 

핫이슈 인사이트

• GPT-6 Cyber의 ExploitGym 성능은 48.5%로 GPT-5.6 Cyber의 32.1%보다 16.4%포인트 상승했다. 상대 개선율로는 약 51%에 해당해 AI의 실제 취약점 검증 능력이 빠르게 높아지고 있음을 보여준다.

• Firefox에서 기존에 알려지지 않았던 고위험 취약점 81건을 찾아내고 실제 수정까지 연결했다는 점은 AI 보안 모델이 연구용 벤치마크를 넘어 실사용 소프트웨어의 보안 강화에 투입되기 시작했다는 의미가 있다.

• Linux 커널 연구에서는 1,724건의 취약점을 재현하고 948건에 대해 실제 작동하는 권한 상승 익스플로잇을 개발했다. 앞으로 대규모 오픈소스 프로젝트의 취약점 연구 속도가 지금보다 크게 빨라질 가능성이 있다.

• 취약점 발견 능력이 강해질수록 악용 가능성도 함께 커진다. 오픈AI가 GPT-6 Cyber를 일반 공개하지 않고 Daybreak Red와 별도의 모델 승인을 받은 연구자에게 제한적으로 제공하는 이유다.

• 범위 준수율이 안전 프롬프트 없이 99.93%, 적용 시 100%까지 개선된 점은 사이버보안 AI 경쟁에서 단순한 공격 능력뿐 아니라 ‘허가된 목표만 다루는 정렬 능력’이 핵심 평가 기준으로 자리 잡고 있음을 보여준다.

• 앞으로 보안팀의 병목은 취약점을 찾는 과정보다 AI가 발견한 수많은 문제를 사람이 검증하고 패치하는 과정으로 이동할 수 있다. 따라서 자동 패치 생성과 위험도 우선순위 판단 기술의 중요성이 더욱 커질 전망이다.

• AI 코딩 에이전트가 개발 단계에서 취약점 분석과 수정까지 함께 수행하게 되면 소프트웨어 개발과 보안 조직 사이의 경계도 흐려질 수 있다. 보안 검사가 개발 마지막 단계가 아니라 코드 작성 과정에 상시 포함되는 구조가 확산될 가능성이 있다.

• GPT-6 Cyber가 Preparedness Framework상 ‘Critical’ 사이버 역량으로 평가된 것은 프런티어 AI의 보안 능력이 방어자에게 매우 강력한 도구가 되는 동시에 접근 통제와 오용 방지가 필수적인 수준까지 올라왔음을 의미한다.

 

핵심요약

• 오픈AI는 미국 현지시간 2026년 11월 5일 사이버보안 특화 AI 모델 GPT-6 Cyber를 공개했다.

• GPT-6 Cyber는 취약점 발견과 실제 악용 가능성 검증, 보안 패치 후보 생성 등에 특화된 모델이다.

• ExploitGym에서 48.5%를 기록해 GPT-5.6 Cyber의 32.1%보다 16.4%포인트 높은 성능을 보였다.

• Firefox 연구에서 이전에 알려지지 않았던 고위험 취약점 81건을 발견했으며 Mozilla는 이 가운데 다수에 대한 수정 사항을 배포했다.

• 기존 Firefox 취약점 30건에 대해서는 실제 위험도가 기존 평가보다 높다는 사실도 확인했다.

• Linux 커널에서는 1,724건의 취약점을 재현하고 그중 948건의 작동 가능한 권한 상승 익스플로잇을 개발했다.

• 이 가운데 중요도가 높은 304건은 패치 후보와 함께 Linux 유지관리자들에게 보고됐다.

• 원격 시스템 취약점 검증 평가인 RemoteExploitBench 초기 테스트에서는 주어진 과제의 95%를 완료했다.

• 허가되지 않은 범위의 서비스를 공격하지 않은 비율은 별도 안전 프롬프트 없이 99.93%, 안전 프롬프트 적용 시 100%를 기록했다.

• 오픈AI는 GPT-6 Cyber의 사이버 역량을 자체 Preparedness Framework에서 Critical 등급으로 평가했다.

• 현재 GPT-6 Cyber는 일반 공개 모델이 아니며 별도의 승인을 받은 일부 Daybreak Red 고객에게 API와 Codex를 통해 제한적으로 제공되고 있다.

• 오픈AI는 향후 전체 Daybreak Red 고객으로 접근을 확대하되 악용 탐지와 승인 범위 모니터링, IP 접근 통제 등 안전장치를 함께 강화할 계획이다.