본문 바로가기
급상승 이슈지켜보는 중

SageMaker AI로 지식 증류를 활용한 쇼핑 에이전트 구축 방법 해설

보도 1건출처 1곳2일 전 업데이트

지금까지의 흐름

보도 발췌

Amazon SageMaker AI에서 프런티어 모델을 교사로 삼아 시퀀스 수준 지식 증류(SeqKD)로 쇼핑 에이전트를 소형 학생 모델에 파인튜닝하는 방법을 해설한다. 에이전트는 검색과 검증을 반복하므로 한 과제에서 여러 번 호출이 발생하지만, 소형 모델로 대체하면 비용과 응답 속도를 줄일 수 있다. SeqKD는 교사 모델의 텍스트 출력만 사용하기 때문에 API로만 이용할 수 있는 모델에도 적용할 수 있으며, 과제를 해결한 궤적만 학습 데이터로 남긴다.

AWS Machine Learning Blog 발췌

보도 타임라인

보도를 따라가며 이슈의 여러 측면을 살펴보세요.

11월 3일
  1. AWS Machine Learning Blog
    Amazon SageMaker AI에서 지식 증류로 효율적인 에이전트를 구축하는 방법

    Amazon SageMaker AI에서 프런티어 모델을 교사로 삼아 시퀀스 수준 지식 증류(SeqKD)로 쇼핑 에이전트를 소형 학생 모델에 파인튜닝하는 방법을 해설한다. 에이전트는 검색과 검증을 반복하므로 한 과제에서 여러 번 호출이 발생하지만, 소형 모델로 대체하면 비용과 응답 속도를 줄일 수 있다. SeqKD는 교사 모델의 텍스트 출력만 사용하기 때문에 API로만 이용할 수 있는 모델에도 적용할 수 있으며, 과제를 해결한 궤적만 학습 데이터로 남긴다.

이 이슈의 화제도 추이

현재 화제도 3·비교 가능한 최고치 10 (11월 3일 03:00)·24시간 비교 가능 변화 -50%

02.557.51011월3일11월3일11월4일11월5일

추이는 연속으로 빠짐없이 관측한 계정만 비교하므로 현재 화제도 수치보다 범위가 좁을 수 있습니다. 포인터를 움직이거나 차트를 누르면 시간대별 화제도를 볼 수 있고, 키보드에서는 왼쪽·오른쪽 방향키를 쓰면 됩니다.