OpenAI, 외부 연구진 상주형 안전 평가 착수
최근 30일 조회수 —좋아요 —핵심 요약
Apollo 등 4개 기관이 모델 안전성을 평가하지만 접근 권한과 결과 공개 제한으로 독립성에 의문이 남는다.

OpenAI가 외부 연구진이 회사 안에서 모델 안전성을 점검하는 ‘상주형 평가(embedded assessments)’의 첫 단계를 시작했다. OpenAI는 공식 발표에서 Apollo Research, METR, Transluce, Goodfire가 모델 정렬과 안전장치, 모니터링 체계를 독립적으로 평가한다고 밝혔다.1
TechCrunch에 따르면 이 가운데 Apollo Research 평가자 6명은 OpenAI에 상주하며 모델이 전복적 행동을 보이는지 조사한다.2
다만 평가의 독립성에는 의문이 남는다. TechCrunch는 연구진의 접근 권한과 조사 결과 공개에 제한이 있어, OpenAI가 내세운 ‘독립 평가’가 실제로 어느 수준까지 보장될지는 불분명하다고 지적했다. OpenAI 공식 발표는 참여 기관과 평가 분야를 제시했지만, 자료에 구체적인 접근 범위나 결과 공개 방식은 담기지 않았다.
Footnotes
읽기 목록은 이 브라우저에 저장됩니다.
출처
- Our first phase of embedded assessments — OpenAI 공식 뉴스 · 자료: 2026. 11. 16.
- OpenAI will embed Apollo researchers to investigate AI subversion — TechCrunch · 자료: 2026. 11. 17.
이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요.