TraviaTechPie Review

지금까지 우리가 들어온 AI 안전 이야기는 대체로 한 방향이었습니다. 위험한 요청은 모델이 거부하게 만드는 것입니다. 챗봇에게 작동하는 해킹 코드를 짜 달라고 하면 안 된다고 답합니다. 그 거부가 곧 안전장치이고, AI 회사들이 자랑해 온 부분입니다.

그래서 OpenAI의 이번 발표가 눈에 띕니다. 방향이 정반대이기 때문입니다.

### 일부러 ‘덜 거부하는’ 모델

2026년 8월 10일, OpenAI는 GPT-5.6-Cyber라는 보안 특화 모델을 공개했습니다. 그런데 이 모델의 핵심 특징은 더 안전해진 것이 아니라, 일부러 덜 거부하도록 훈련됐다는 점입니다.

OpenAI의 표현을 그대로 옮기면, 이 모델은 “일부 고위험 이중용도(dual-use) 사이버 작업에 대해 거부를 줄이도록” 훈련됐습니다. 제로데이 취약점 탐색, 익스플로잇 연결, 권한 상승, 인증 우회 같은, 보통은 안전 훈련이 막아 온 작업을 요청받으면 수행하도록 만든 모델입니다.

변화의 크기를 숫자로 보면 분명합니다.

공격형 보안 프롬프트(익스플로잇 체인 개발, 권한 상승, 인증 우회) 벤치마크에서 GPT-5.6-Cyber는 95.0%를 완수했습니다. 이 모델이 파생돼 나온 범용 모델 GPT-5.6 Sol은 같은 요청의 1.5%만 수행했습니다. 직전 세대인 GPT-5.5-Cyber는 57.3% 수준이었습니다.

즉 살짝 손본 정도가 아닙니다. 옆에 놓인 일반 모델이 100번 중 98번을 거부하는 요청을, 이 모델은 요청받으면 거의 다 수행합니다.

### 안전은 모델이 아니라 ‘문’에 걸었습니다

이 격차 자체가 설계의 핵심입니다. 그리고 OpenAI도 이것이 위험하다는 것을 알기 때문에, 이 모델을 아무에게나 풀지 않습니다.

배포 통로는 데이브레이크(Daybreak)라는 프로그램입니다. 데이브레이크는 이제 두 등급으로 나뉩니다. 잠금장치가 서로 다른 두 개의 문이라고 보면 됩니다.

데이브레이크 블루(Blue)는 넓은 문입니다. 검증된 방어자에게 OpenAI의 범용 프런티어 모델(GPT-5.6 Sol 포함)을 열어 주되, 악성코드 분석, 침해 대응, 패치 검증 같은 정당한 방어 작업을 위해 안전장치를 완화한 형태입니다.

데이브레이크 레드(Red)는 금고입니다. GPT-5.6-Cyber가 여기에 있으며, 실제 취약점 연구와 익스플로잇 검증, 레드팀 작업을 위해 더 강한 심사를 거쳐야 접근할 수 있습니다.

여기서 ‘심사’는 형식적인 절차가 아닙니다. 데이브레이크에 들어가려면 신원 확인, 계정 모니터링, 승인된 용도 제한, 그리고 법적 서약이 필요합니다. 무엇에 쓸지를 문서로 약속하는 것입니다. 개인 데이브레이크 계정에는 정해진 일정에 따라 하드웨어 보안 키 사용도 의무화됩니다.

정리하면 모델의 안전장치는 낮추고, 문의 안전장치는 최대로 높이는 거래입니다.

### 도구는 보안 업체 안에, 고객은 결과만

그럼에도 OpenAI는 GPT-5.6-Cyber를 일반 고객에게 직접 넘기지 않습니다.

배포는 데이브레이크 사이버 파트너 프로그램을 거칩니다. 모델을 받아 서비스로 바꾸는 보안 기업과 컨설팅사들의 명단입니다. 액센추어, IBM, 크라우드스트라이크, 시스코, 팔로알토네트웍스(Unit 42), 소포스, 클라우드플레어, 포티넷, 아카마이, PwC 등이 참여합니다.

한 파트너의 설명이 이 구조를 잘 요약합니다. 보안 업체가 프런티어 모델을 쥐고, 고객은 그 결과물을 받습니다. 위험한 도구는 검증된 업체 안에 머물고, 고객에게는 “당신의 취약점은 이것이고, 패치는 이것입니다”라는 결과만 전달됩니다.

실제로 작동하느냐는 질문에 대해, OpenAI는 이 모델을 실제 소프트웨어에 겨눴을 때 크롬(Chrome)의 V8 자바스크립트 엔진에서 그동안 알려지지 않은 취약점 두 건을 찾아냈다고 밝혔습니다. 두 취약점을 서로 연결하면 메모리를 손상시켜 V8의 힙 샌드박스를 벗어날 수 있는 유형이었습니다. 장난감 문제가 아니라, 세계에서 가장 많이 검증받는 코드베이스 중 하나에서 나온 실제 고위험 버그입니다.

한 가지 더 짚을 것은 방어 쪽 축입니다. OpenAI는 공격형 모델과 함께 ‘패치 더 플래닛(Patch the Planet)’이라는 방어 이니셔티브도 밀고 있습니다. Trail of Bits, HackerOne과 함께, 널리 쓰이는 오픈소스 프로젝트가 “버그를 찾았다”에서 “버그를 실제로 고쳤다”로 넘어가도록 돕는 프로그램입니다. cURL, Go, Python, pyca/cryptography 등 인터넷의 기반이 되는 서른 개 넘는 프로젝트가 참여를 약속했습니다. 별도로, 코드 저장소를 감시하고 샌드박스에서 취약점의 실제 악용 가능성을 확인해 패치 초안까지 만드는 에이전트형 보안 연구원 아드바크(Aardvark)는 이후 ‘Codex Security’로 이름을 바꿔 리서치 프리뷰로 공개됐습니다.

### 안전이 사라진 게 아니라 자리를 옮겼습니다

OpenAI가 반복하는 문장이 이번 발표의 진짜 논지입니다. 방어자에게 주어진 준비 시간이 공격자가 AI를 대규모로 투입하기 전까지로 빠르게 좁아지고 있다는 것입니다.

논리를 따라가 보면 이렇습니다. 공격자가 결국 제로데이를 찾아내는 AI를 손에 넣을 것이라고 전제한다면 — 이미 그런 시도가 있었다는 증거는 빈약하지 않습니다 — 역설적인 결론에 이르게 됩니다. 방어 측만 그 능력에서 배제해 봤자 해당 능력 자체가 사라지지는 않습니다. 공격은 갖고 방어는 못 갖는 상황이 될 뿐입니다.

그래서 OpenAI의 판단은, 모두를 똑같이 거부하는 것이 책임 있는 선택이 아니라는 쪽입니다. 강력하고 거부가 적은 모델을 만들되, 심사·하드웨어 키·법적 서약·검증된 파트너를 통해 접근을 통제하겠다는 판단입니다. 이 모델을 손에 넣는 사람이 공격자가 아니라 방어자가 되도록 하는 것이 목표입니다.

여기서 이 블로그가 최근에 다룬 이야기와 이어집니다. 앤트로픽은 최근 두 건의 사건을 공개했습니다. 하나는 국가 연계 그룹이 클로드를 우회 조작해 실제 첩보 작전의 80~90%를 자동화한 사건이고, 다른 하나는 설정 오류 하나 때문에 자사 안전 테스트가 실제 회사 세 곳을 건드린 사고였습니다. 두 사건의 교훈은 같았습니다. 도구와 네트워크를 쥔 에이전트형 모델은 감시하는 쪽이 반응하기 전에 피해를 줄 수 있고, 공격이냐 사고냐를 가르는 것은 모델의 자제력이 아니라 사람이 짜 둔 통제 구조라는 것입니다.

이 시선으로 OpenAI의 이번 발표를 보면 대비가 선명합니다. 앤트로픽의 사건은 모델이 우연히 덜 거부한 경우였습니다. 적이 속였거나, 설정 오류로 안전장치가 풀렸습니다. GPT-5.6-Cyber는 모델이 일부러 덜 거부하는 경우입니다. 안전장치를 의도적으로 낮추고, 안전의 무게를 모델에서 접근 계층으로 옮긴 설계입니다. 바탕에 깔린 능력은 같습니다. 다만 심사라는 벽이 모델 자체의 훈련된 망설임보다 더 믿을 만하다고 판단한 것입니다.

제 생각은 이렇습니다. 그 판단이 맞을 수도 있다고 봅니다. 그럼에도 불안한 것은 사실입니다.

맞을 수 있는 이유는, 훈련된 거부가 실제로 잘 새기 때문입니다. 앞서 본 GTG-1002 사건 자체가 공격자들이 작업을 무해해 보이는 조각으로 쪼개 거부가 아예 발동하지 않게 만든 사례였습니다. 말로 우회할 수 있는 거부를 1차 방어선으로 믿는 것은 위험한 착각입니다. 진짜 관문을 “이 사람이 누구이고 법적 서약을 했는가”로 옮기는 편이 프롬프트 필터보다 우회하기 어렵습니다.

불안한 이유는, 이제 그 접근 통제가 모든 무게를 혼자 진다는 데 있습니다. 키 유출, 파트너 계정 탈취, 컨설팅사 내부자, 모델 가중치 도난. 이 중 하나만 뚫려도, 훈련된 망설임 없이 95% 수준의 공격 엔진이 그대로 풀립니다. 하드웨어 키 의무화는 OpenAI가 위험이 어디로 이동했는지 정확히 알고 있다는 신호입니다. 안전은 사라지지 않았습니다. 모델 안에 훈련으로 심어 둔 것에서, 계약과 자격 증명으로 강제하는 방식으로 자리를 옮겼습니다. 그리고 이 둘은 실패하는 방식이 다릅니다. 접근 통제는 한 번 뚫리면 모든 것이 한꺼번에 무너집니다.

큰 그림에서 보면, AI 사이버보안은 등급제 접근의 세계로 갈라지고 있습니다. 프런티어급 공격 능력은 공개 챗봇 기능도 아니고, 완전히 봉인되지도 않을 것입니다. 검증된 방어자와 그들을 상대하는 벤더에게 넘겨지는 통제된 프로그램 안에 머물고, 나머지는 엔진을 만지지 않은 채 결과물만 받습니다. 이것이 현실적인 타협안인지, 아니면 더 크고 값진 표적을 만드는 것인지는, 결국 그 문이 얼마나 버티느냐에 달려 있습니다.

이 글은 정보 제공 목적이며 특정 기술·제품 도입을 권유하는 글이 아닙니다.

원문 출처 / Source: https://openai.com/index/expanding-daybreak-as-the-cyber-defense-window-narrows/ , https://techcrunch.com/2026/08/10/as-ai-led-attacks-multiply-openai-launches-a-new-cyber-model/ , https://thehackernews.com/2026/08/openai-launches-gpt-56-cyber-with.html

이미지: ANTIPOLYGON YOUTUBE / Unsplash