OpenAI, 조직적 모델 증류 공격 차단

OpenAI는 9월 30일 보호된 모델의 추론을 추출하려 한 조직적 모델 증류(model distillation) 공격을 차단했다고 공식 발표했다.¹ 모델 증류는 한 모델의 출력을 활용해 다른 모델을 훈련하는 방식으로, 이번 캠페인은 OpenAI가 보호 대상으로 삼은 추론 정보의 확보를 노렸다고 회사는 설명했다.

OpenAI는 적대적 증류 공격에 맞서 방어 체계도 강화하고 있다고 밝혔다. 다만 제공된 발표 요약에는 공격 주체와 기간, 사용된 수법, 영향을 받은 모델, 피해 규모나 구체적인 방어 조치가 담기지 않았다. 따라서 캠페인의 실제 범위와 차단 효과는 이 자료만으로 확인할 수 없다.

읽기 목록은 이 브라우저에 저장됩니다.