AI 회사가 스스로 훈련을 멈춘 일은 흔하지 않습니다. OpenAI는 2026년 8월 18일 발표에서 확장 속도를 일시적으로 늦췄다고 밝혔습니다. 배포 예정인 최신 모델의 강화학습(RL) 훈련을 2주간 중단했고, 계획된 최대 규모의 프런티어 RL 훈련은 계속 보류 중이라고 적었습니다. 이 글은 발표문 한국어판(2026년 10월 9일 기준)을 바탕으로, 무엇이 멈췄고 무엇이 바뀌었는지, 그리고 AI를 쓰는 사람에게 남는 것이 무엇인지 정리합니다. 발표에 없는 출시 일정이나 요금 같은 내용은 다루지 않습니다.
발표가 든 이유는 두 가지입니다
발표문은 “지난 몇 주간 두 가지 상황이 전개되면서” 위험이 커지고 있음을 확인했다고 설명합니다.
- OpenAI-Hugging Face 사고: 발표문은 이 사고에 각주를 달고, 이번 경험에서 얻은 교훈을 담은 기술 보고서를 앞으로 몇 주 안에 내겠다고 적었습니다. 사고의 세부 경위는 이 발표문에 없으므로 여기서도 다루지 않습니다.
- Astra의 예비 증거: 출시 예정 모델 중 하나인 Astra가 OpenAI의 준비성 평가 프레임워크에서 핵심(Critical) 사이버 보안 역량 기준을 충족할 수 있다는 예비 증거입니다.
여기서 중요한 점은 두 이유 모두 “성능이 모자라서”가 아니라는 것입니다. 발표문은 오히려 모델 역량이 강해질수록 이를 내부에서 개발하고 테스트하는 데 따르는 위험도 커지므로, 모니터링·정렬·보안 기준이 그 위험을 앞서 나가야 한다고 말합니다. 그 기준을 맞출 시간을 벌려고 속도를 늦췄다는 것입니다.
8월 7일 발표와 8월 18일 발표는 어떻게 이어지나
이번 발표를 이해하려면 열하루 앞선 8월 7일 발표(「Critical 수준의 사이버 역량이라는 새로운 프런티어에 대응하기」)를 같이 보는 편이 좋습니다. 두 발표문에서 날짜와 내용을 뽑아 순서대로 놓으면 다음과 같습니다.
| 시점 | 발표문에 적힌 내용 | 출처 |
|---|---|---|
| 2023년 12월 | 준비성 평가 프레임워크를 처음 공개. 모델 역량을 평가하고 새 역량이 나오면 어떻게 대응할지 정하는 기준 | 8월 7일 발표 |
| 2025년 6월 | 모델이 생물학 분야 High 기준에 근접하자 안전장치 강화·테스트 확대 등 조치를 공개한 선례 | 8월 7일 발표 |
| 8월 7일 발표 직전 밤 | Astra가 Critical 수준 사이버 역량에 해당할 가능성을 배제할 수 없다는 결론. Astra는 아직 출시되지 않았고 Hugging Face 보안 사고와는 관련이 없다고 명시 | 8월 7일 발표 |
| 8월 7일 | 강화된 보안 통제를 충족하지 못한 Astra 관련 내부 활동을 모두 일시 중단 | 8월 7일 발표 |
| 8월 18일 | 확장 속도를 일시적으로 늦춤. 최신 모델 RL 훈련 2주 중단, 최대 규모 프런티어 RL 훈련 보류 지속 | 8월 18일 발표 |
이 표는 두 발표문의 문장을 날짜순으로 다시 배열한 것입니다. 8월 7일 발표에서 “Astra 관련 내부 활동 중단”이 먼저 있었고, 8월 18일 발표가 이를 훈련 전반의 속도 조절로 넓혀 설명한 구조입니다.
Critical 기준은 무엇을 말하나
8월 7일 발표문에 따르면 준비성 평가 프레임워크는 모델이 아래 두 조건 가운데 하나를 충족하면 Critical 수준의 사이버 보안 역량으로 평가합니다.
- 사람의 개입 없이, 실제로 보안이 강화된 여러 핵심 시스템에서 모든 심각도 수준의 실질적으로 활용 가능한 제로데이 익스플로잇을 찾아내고 개발할 수 있는 경우
- 공격 목표만 주어진 상태에서, 보안이 강화된 대상을 겨냥한 새로운 엔드투엔드 사이버 공격 전략을 스스로 세우고 실행할 수 있는 경우
같은 발표문은 GPT-5.6-Sol을 비롯한 이전 모델들이 이 평가에서 Critical이 아니라 High 기준으로 평가되었다고 적었습니다. 그리고 Astra에 대해서는 “Critical에 해당한다”고 단정하지 않고 “가능성을 배제할 수 없다”고 표현했습니다. 발표문의 표현 수위를 그대로 옮기는 것이 정확합니다. 뉴스 제목이 이를 “Critical 달성”처럼 줄여 쓰면 원문보다 강한 말이 됩니다.
세 가지 보호 조치와 실제로 바뀐 것
8월 18일 발표는 서로 보완하는 세 가지 보호 조치를 축으로 삼습니다. 각각이 무엇을 하는지, 발표문에 적힌 구체적 변화는 무엇인지 표로 모았습니다.
| 축 | 하는 일 | 발표문에 적힌 구체적 변화 |
|---|---|---|
| 모니터링 | 우려되는 행동을 감지하고 대응 | 샘플링된 모든 토큰마다 활성화 분류기 작동, 의심 사례는 더 정교한 자동 조사 시스템으로 이관, 경보 발령 목표 30분 이내 |
| 정렬 | 유해하거나 승인되지 않은 행동의 가능성을 낮춤 | 보상 모델 개선, 모델이 자신의 행동·역량·한계를 더 솔직히 밝히도록 훈련, 보상 해킹 감소 |
| 보안 | AI가 접근하거나 영향을 미칠 수 있는 범위를 제한 | 워크로드 격리, 네트워크 격리, 상시 권한 축소, 모의 공격으로 경계를 계속 시험 |
보안: 격리를 어디까지 강화했나
발표문은 Hugging Face 사고 직후 코드를 실행하거나 인터넷에 접근할 수 있는 도구를 쓰는 연구 클러스터 작업에서 프런티어 모델 추론을 중단했다고 밝힙니다. 이후 더 제한적이고 안전한 코드 실행 경로를 비교적 빠르게 복구했고, 각 워크로드를 하나씩 검토해 재개 여부를 판단했습니다. 일부는 새 통제 아래 재개했지만 나머지는 추가 변경이 필요했다고 합니다.
이후 정한 요건은 세 가지로 요약됩니다. 모델이 만든 코드 같은 신뢰할 수 없는 코드를 실행하는 워크로드에는 더 강한 샌드박스를 요구하고, 위험도가 높거나 신뢰할 수 없는 워크로드는 인터넷에서 격리하며, 취약할 수 있는 공유 서비스를 없애고 상시 권한을 줄이는 쪽으로 환경을 재구성했습니다. 발표문은 이 작업이 프런티어 연구에 “큰 비용과 지연”을 낳았다고 스스로 적었습니다.
Astra 또는 사이버 모델과 관련된 워크로드에는 가장 엄격한 보안이 적용됩니다. 일부 Astra 훈련과 평가는 이미 요건을 충족하지만, 상당수 워크로드는 새 환경으로 이전해 강화를 마칠 때까지 중단 상태이며, 안전·정렬 워크로드를 먼저 옮기고 있다고 합니다.
모니터링: 30분 규칙과 20% 비용
모니터링 부분에는 숫자가 여럿 나옵니다. 발표문에서 확인되는 것만 모으면 다음과 같습니다.
- 우려되는 활동을 포착한 뒤 30분 이내에 경보를 발령하는 것이 목표입니다.
- 핵심 보안 경계 위반 가능성이 식별되면 최고 우선순위 경보가 생성되고, 안전·보안·연구팀에 긴급 호출이 갑니다.
- 그 표시가 오탐이라고 30분 이내에 확실히 판단하지 못하면 관련 팀은 해당 활동을 중단해야 합니다.
- Sol급 이상 역량의 모델이 도구를 쓰는 모든 RL 훈련·평가에는 이 모니터링이 필수입니다. Astra는 이에 더해 도구를 쓰는 모든 추론에도 추가 요건이 적용됩니다.
- 모니터링 오버헤드는 현재 추산으로 대상 추론 연산량의 약 20%입니다. 다만 훈련·평가 워크로드에 따라 크게 달라진다고 덧붙였습니다.
이 가운데 “확실히 판단하지 못하면 멈춘다”는 규칙이 눈에 띕니다. 의심 신호가 왔을 때 기본값이 “계속 진행”이 아니라 “중단”이라는 뜻이기 때문입니다.
20%를 숫자로 풀어 보면(계산 예): 모니터링 대상이 되는 추론 작업이 연산량 100을 쓴다고 가정하면 모니터링에 약 20이 더 들어 총 120 안팎이 됩니다. 이 100과 120은 이해를 돕는 가정이고, 발표문이 밝힌 것은 “약 20%”라는 비율뿐입니다. 그나마도 워크로드에 따라 크게 달라질 수 있다고 했으니 일률적인 수치로 읽으면 안 됩니다.
다른 회사의 비슷한 약속과 비교하면
역량이 커질 때 안전장치가 준비되지 않았다면 속도를 늦추겠다는 발상 자체는 OpenAI만의 것이 아닙니다. Anthropic은 2023년 9월 19일 공개한 책임 있는 확장 정책(Responsible Scaling Policy)에서 AI 안전 수준(ASL)이라는 단계를 두었습니다. 이 정책 문서에 따르면 ASL-3 기준을 넘는 모델, 즉 비AI 기준선에 비해 파국적 오용 위험을 크게 높이거나 낮은 수준의 자율 능력을 보이는 모델에는 “유난히 강한 보안 요건”이 적용되고, 적대적 레드팀 시험에서 의미 있는 파국적 오용 위험이 드러나면 그 모델을 배포하지 않겠다고 약속합니다. 같은 문서는 확장 속도가 필요한 안전 절차를 맞추는 속도를 앞지르면 더 강력한 모델의 훈련을 일시 중단해야 한다는 뜻을 포함한다고 설명합니다.
| 비교 항목 | OpenAI 8월 18일 발표 | Anthropic 책임 있는 확장 정책(2023년 9월 문서) |
|---|---|---|
| 기준 틀 | 준비성 평가 프레임워크의 High·Critical 구분 | AI 안전 수준(ASL-1부터) |
| 기준을 넘을 때 | 훈련 속도를 늦추고 보호 조치 보강 | 더 강한 보안·배포 제한 적용, 안전 절차가 못 따라오면 훈련 일시 중단 필요 |
| 공개 방식 | 발표문으로 조치와 목표 수치 공개 | 정책 문서로 단계별 약속을 사전에 공개 |
이 비교는 두 회사의 공개 문서에 적힌 구조를 나란히 놓은 것이며, 어느 쪽이 더 엄격한지는 이 표로 판단할 수 없습니다. 정책 문서는 사전 약속이고 이번 발표는 실제 집행 사례라는 점에서 성격이 다릅니다.
쓰는 사람에게 남는 것
이 발표는 제품 기능 공지가 아니라 연구 환경 이야기이므로, 당장 내 ChatGPT 화면이 달라진다는 근거는 발표문에 없습니다. 다만 아래 세 가지는 읽는 사람에게 쓸모가 있습니다.
- 새 모델 소식은 안전 기준과 같이 읽어야 합니다. 발표문은 속도를 늦춘 이유를 안전·보안 기준을 맞출 시간 확보라고 설명합니다. 다만 그것이 출시 시점에 어떤 영향을 줄지는 발표문에 적혀 있지 않으므로 추측하지 않는 편이 맞습니다.
- 역량이 오르면 통제 비용도 오릅니다. 20% 모니터링 오버헤드와 “큰 비용과 지연”이라는 표현은 회사가 이 비용을 공개적으로 인정한 대목입니다.
- 같은 질문을 내 도구에 해볼 수 있습니다. 연구소가 스스로에게 던진 질문(무엇에 접근하나, 인터넷에 닿나, 기록이 남나, 이상하면 누가 멈추나)은 개인이 쓰는 자동화 도구에도 그대로 옮길 수 있습니다.
발표의 질문을 내 자동화 도구에 옮기면(예시)
아래 표는 발표문 내용을 개인·소규모 사용 상황에 맞게 제가 옮겨 본 점검표입니다. OpenAI가 이렇게 하라고 권고한 것이 아니라, 발표의 구조를 빌려 만든 예시입니다.
| 발표에서 본 장치 | 내 도구에 옮긴 질문 | 확인 방법의 예 |
|---|---|---|
| 워크로드 격리(샌드박스) | AI가 만든 코드를 내 컴퓨터에서 그대로 실행하나? | 실행 전에 내용을 읽고, 중요 파일이 없는 폴더에서 먼저 돌려 보기 |
| 네트워크 격리 | 이 작업에 인터넷 접근이 정말 필요한가? | 필요 없는 작업이면 외부 전송·다운로드 권한을 끄기 |
| 상시 권한 축소 | AI에게 항상 열려 있는 권한이 있나? | 필요할 때만 허용하고 끝나면 해제하기 |
| 모니터링과 경보 | AI가 한 일의 기록이 남고, 내가 볼 수 있나? | 작업 기록을 저장하고 중요한 변경은 사람이 확인하기 |
| 의심되면 중단 | 이상하면 바로 멈출 방법이 있나? | 중지 버튼 위치, 연결 해제 방법 미리 확인하기 |
발표를 읽을 때 막히기 쉬운 지점
용어가 낯설 때: “정렬”은 AI가 의도대로 작동하고 사람의 감독에 적절히 반응하도록 만드는 작업을 가리킵니다. “보상 해킹”은 발표문 설명 그대로 의도한 결과를 실제로 달성하지 않고도 훈련에서 높은 보상을 받을 방법을 찾는 행동입니다. “활성화 분류기”는 모델의 내부 활동을 검사하는 감지기라고 발표문이 풀어 썼습니다.
확인되지 않은 소문과 섞일 때: Astra의 성능 수치나 출시일은 두 발표문 어디에도 없습니다. 그런 숫자가 붙은 글은 출처를 따로 확인해야 합니다.
정리하면
이번 발표의 의미는 “무엇이 위험한가”보다 “위험하다고 판단했을 때 무엇을 멈추는가”에 있습니다. 기준을 미리 정해 두었기 때문에 훈련 중단이라는 결정이 가능했고, 그 비용(지연, 연산량 약 20%)까지 공개했습니다. 반대로 말하면 이 글에서 확인된 것은 발표된 조치와 목표 수치일 뿐이고, 그 조치가 실제로 얼마나 효과가 있는지는 발표문만으로는 알 수 없습니다. 발표문이 예고한 기술 보고서와 정렬 연구 공유가 나오면 그때 다시 비교할 수 있습니다.
업데이트
이 글은 2026년 10월 9일 기준으로 OpenAI 발표문 두 편의 한국어판과 맞춰 두었고, 사실 관계는 아래 공식 발표문을 따릅니다. 같은 날 OpenAI 사이트 상단 메뉴의 ‘최신 업데이트’ 목록에는 GPT-6 Astra와 GPT-6.1 Sol 항목이 보입니다. 이 글은 8월 18일 발표 시점의 내용만 다루며 해당 제품 항목의 내용은 다루지 않으니, 최신 정보는 공식 페이지에서 보시기 바랍니다.
확인 자료
- OpenAI, 사이버 핵심 역량 시대의 모델 개발 속도 조절 (2026-08-18)
- OpenAI, Critical 수준의 사이버 역량이라는 새로운 프런티어에 대응하기 (2026-08-07)
- Anthropic, 책임 있는 확장 정책 (2023-09-19, 비교용)
기준일: 2026-10-18 (발표문 내용은 2026-10-09 기준)
같은 시기 OpenAI의 사이버 안전 발표와 격리 사고를 다룬 글을 이어 읽으면, 이번 속도 조절이 나온 배경을 더 구체적으로 비교할 수 있습니다.