IOV LABS← 전체 논문모델 · MIT
The RAI Pipeline: 엔터프라이즈 AI의 가치는 모델이 아니라 통제 계층에서 나온다
초록
엔터프라이즈 AI 도입 실패는 대개 모델 품질이 아니라 통제·통합의 부재에서 온다. 우리는 실무에서 검증된 5단계 처리 파이프라인(인증·권한, DLP 마스킹, 사내문서 RAG, 모델 라우팅·캐싱, 감사·집계)을 하나의 합성 함수로 형식화하고, 그중 달러로 측정 가능한 계층(라우팅·캐싱)을 2026 실가격으로 정량화한다. 대표 엔터프라이즈 RAG 요청(입력 5,000·출력 500토큰) 기준, 파이프라인은 요청당 비용을 3.0225달러에서 0.0077달러로 65.9% 낮춘다: 프롬프트 캐싱이 36.0%, 그 위에 모델 라우팅(요청의 30%만 프런티어)이 나머지를 더한다. 라우팅 단독은 46.7%로 실무에서 관측된 '단가 47%↓'와 일치한다. 절감은 두 레버(캐시 가능 입력 비중·프런티어 라우팅 비중)로 완전히 결정되며, 헤드라인 하나가 아니라 민감도 격자 전체를 공개한다. 우리는 이 파이프라인을 '가치 = 안전 × 정확 × 경제성 × 통제가능성'의 곱으로 읽고, 어느 계층도 0이면 전체가 0임을, 그래서 단일 기능 카피가 이를 복제하지 못함을 논한다. 마지막으로 이 파이프라인이 입력측만 방어함을 지적하고, 출력 검증(출력 DLP + 인용 검증)을 6번째 계층으로 제안한다. 이는 IOV Labs의 완료착시·자기선호 연구가 공통으로 가리키는 결론(모델 자기보고를 믿지 말고 시스템이 검증하라)과 같다.
키워드
- enterprise AI
- AI gateway
- prompt caching
- model routing
- cost model
- DLP
- RAG
- governance
- control plane
- reproducibility