OpenAI, GPT-6 프롬프트 캐싱 개선
최근 30일 조회수 —좋아요 —핵심 요약
GPT-6의 캐시 적중률과 진단·제어 기능이 개선됐지만 구체적인 성능 수치는 공개되지 않았다.
OpenAI는 9월 22일 GPT-6의 프롬프트 캐싱(prompt caching) 기능을 개선했다고 발표했다. 프롬프트 캐싱은 반복되는 입력을 재사용해 응답 지연과 비용을 줄이는 기능이다.
OpenAI에 따르면 GPT-6는 캐시 적중률을 높였으며, 캐싱 상태를 파악할 수 있는 새로운 진단 기능도 제공한다. 개발자가 캐시 구간을 명시적으로 나누는 중단점과 캐싱 동작을 조정하는 제어 기능도 추가했다. OpenAI는 이를 통해 반복 입력을 처리하는 서비스에서 지연 시간과 비용을 낮출 수 있다고 설명했다.
다만 발표 자료에는 적중률이나 지연 시간, 비용이 얼마나 개선됐는지 보여주는 수치와 적용 조건은 제시되지 않았다.1
Footnotes
-
OpenAI 공식 뉴스, 「Better prompt caching for GPT-6」 ↩
읽기 목록은 이 브라우저에 저장됩니다.
출처
- Better prompt caching for GPT-6 — OpenAI 공식 뉴스 · 자료: 2026. 9. 23.
이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.