스노우플레이크, AI 모델 자동 라우팅으로 지출 추적·통제

스노우플레이크가 최근 출시한 Cortex AI Gateway 기능을 통해 고객이 AI 워크로드를 가장 적합한 모델로 자동 라우팅하고 AI 지출을 추적·통제할 수 있다고 밝혔다. 이 회사의 AI 제품 마케팅 매니저인 Grace Adamson은 techradar.com과의 인터뷰에서 이 같은 내용을 설명했다.

동적 모델 라우팅은 Cortex AI Gateway에서 제공되며, 사용 사례에 맞춰 품질과 속도, 비용의 균형이 가장 좋은 모델로 워크로드를 자동으로 보낸다. 회사 측은 이 기능이 과제에 따라 품질과 속도, 선호도를 기준으로 최적의 AI 모델을 자동 선택하고 AI 지출을 추적한다고 밝혔다.

거버넌스 정책과 마스킹 같은 통제는 요청을 처리하는 모델이 오픈 모델이든 독점 모델이든 동일하게 적용된다. 고객은 또한 사용자에게 어떤 모델과 제공업체를 허용할지 직접 제어할 수 있다.

초기 생성형 AI 경쟁에서 달라진 초점

생성형 AI의 첫 물결에서는 모델의 성능 자체에 관심이 크게 쏠렸고, AI 경쟁은 보다 실험적인 성격으로 최고 품질의 결과물을 내거나 가장 복잡한 과제를 해결하는 데 초점이 맞춰졌다.