Jev가 제시한 시스템 원 모델의 새로운 흐름

system one 모델은 구조화된 선택지, 점수, 확률을 반환하는 비생성형 모델이다. 추론형 LLM(system two 모델)보다 빠르고 저렴한 것으로 알려져 있다. Jev의 주요 개발자인 Almeida는 기조연설에서 “코드는 자동화의 언어이므로 코드와의 통합이 필요하다”고 말했다. 또한 LLM 중심 소프트웨어는 “95% 확률로 Einstein, 5% 확률로 Mr. Bean”과 같다고 비유하며 신뢰성 문제를 지적했다. Glean의 Chinmay Goyal은 system one 모델을 LLM 및 다른 분류기와 함께 사용하고 있다고 설명했다. Jev는 제로샷 유연성에 적합하며, 판단 대상의 분류 체계가 바뀌어도 반복해서 파인튜닝할 필요가 없다고 한다. 고객이 Jev인지 LLM인지 신경 쓸 필요가 없도록 복잡성은 숨긴다는 방침이라고 밝혔다. UiPath의 Chibi Vikram과 Kevin Bernstein은 Jev로 문서 청크의 순위를 매기는 실험을 소개했다. 소규모 그룹에서 가장 관련성 높은 청크를 고르고, 승자를 다음 라운드로 올리는 토너먼트 방식이다. 수천 번의 Jev 호출을 포함해도 1초 미만에 완료되었다. Jev는 조정 가능한 구성 요소이며, 전략과 패턴을 조합해 지능적으로 동작하게 만들 수 있다고 한다. Workday의 Scott Roberts는 사용자가 입력하는 도중에 휴가 신청 카드를 채우기 시작하는 프로토타입을 선보였다. “말하려는 것의 예측에서 하려는 것의 예측으로”라는 표현으로 설명했다. Almeida는 마지막으로 system one 모델이 가져올 가능성을 초기 인터넷의 실험 정신에 비유했다.

Latent Space 발췌

추이를 그릴 만큼 연속 관측 데이터가 아직 부족합니다.