- 2026년 10월 19일, VentureBeat는 의사결정 AI 모델의 부상을 분석하며 2026년 9월 15일 출시된 TypeSafe AI의 Jev를 대표 사례로 소개했다.
- 자유로운 형식의 텍스트를 생성하는 대규모 언어 모델(LLM)과 달리, 의사결정 모델은 분류 라벨, 평가 점수, 참·거짓 확률 등의 구조화된 결과를 신뢰도와 함께 반환한다.
- 이 기술은 고객 피드백 분류, 긴급 요청 식별, 신원 정보 대조, 위험 평가 등 수백만 건의 기록에 대해 의미적 판단을 내려야 하는 작업을 대상으로 한다.
- Databricks, Snowflake, MotherDuck, Astronomer는 의사결정 모델을 데이터 플랫폼에 통합하는 방안을 발표했다. AWS, OpenAI, Cloudflare도 유사한 대안을 개발하고 있다.
- MotherDuck에 따르면 Jev는 뉴스 기사 10만 건을 40초 만에 0.50달러의 비용으로 분류했으며 정확도는 89%였다. 해당 기업의 테스트에서 OpenAI 모델은 약 32분과 37.58달러가 필요했고 정확도는 88%였다.
- Astronomer는 Jev를 이용해 직무명 4,000개를 분류하는 실험을 진행했다. 처리 시간은 66초, 비용은 0.16달러였다. 반면 Snowflake AI_CLASSIFY를 사용하면 비용이 11~21달러에 이를 것으로 추산됐다.
- Southbridge AI는 오하이오주의 선거자금 기록에서 기부자와 조직 데이터를 대조하는 데 Jev를 활용했다. 고급 AI 모델을 사용하는 방식과 비교해 모델 비용을 99.56% 절감했다.
- 제안된 작업 흐름은 세 가지 도구를 결합한다. SQL은 명확하게 정의된 규칙을 처리하고, 의사결정 모델은 대규모 의미적 판단을 수행하며, LLM은 여러 단계의 추론이 필요한 복잡한 사례를 담당한다.
- 신뢰도 점수를 활용하면 명확한 사례는 자동으로 처리하고 불확실한 사례는 사람에게 넘길 수 있다. 다만 기업은 실제 데이터를 바탕으로 신뢰도 지표의 신뢰성을 검증해야 한다.
- 전문가들은 의사결정 모델을 SQL 및 기존 머신러닝과도 비교해야 한다고 경고한다. 또한 평가 기준의 설계, 성능 모니터링, 자동화된 의사결정의 통제에 대한 책임 소재를 명확히 해야 한다.
📌 의사결정 모델은 모든 작업에 대규모 언어 모델이 필요한 것은 아니라는 점을 보여주며 기업용 AI의 전문화를 위한 새로운 방향을 제시한다. MotherDuck이 공개한 테스트에서 Jev는 0.50달러로 10만 건의 기록을 처리했으며, 비교 대상 모델보다 약 48배 빠르고 비용은 약 75분의 1 수준이었다. 그러나 이는 해당 기업이 직접 발표한 결과다. 실제 가치는 정확도, 예측 확률의 검증 가능성, 각 시스템에서 의사결정을 관리하는 거버넌스 체계에 달려 있다.
