NVIDIA GPU, OpenAI GPT-6 Astra Ultrafast 가속화

GPT-6 Astra Ultrafast는 OpenAI 모델의 추론 최적화와 NVIDIA Blackwell 아키텍처의 기능을 결합해 가속된다. 토큰 생성은 Astra Standard 모드 대비 최대 8배 빠르다. 개발자는 API를 통해 오늘부터 이용할 수 있으며, 접근 방법, 가격, 구현 세부 사항은 Ultrafast 가이드에 실려 있다.

가속의 목표는 코딩 에이전트의 편집·테스트·디버깅 주기를 단축하고, 도구 호출 사이의 응답 생성 시간을 줄이며, 대화형 앱의 응답성을 높이는 데 있다. 에이전트가 코드를 작성하고 도구를 사용한 뒤 결과를 확인해 다음 행동을 결정하는 반복 과정에서 응답 속도가 누적되어 효과를 낸다고 설명되어 있다.

OpenAI의 추론 책임자 Philippe Tillet은 NVIDIA의 도구와 문서에 대한 투자 덕분에 모델이 Blackwell과 Rubin GPU 프로그래밍에 매우 능숙해졌다고 말했다. OpenAI는 자사 모델을 대상으로 NVIDIA GPU에서 구동되는 추론 소프트웨어의 개선도 진행 중이며, 도입 이후에도 응답 속도와 인프라 생산성 향상이 계속될 수 있다고 한다.