대표적인 B2B SaaS 업체인 세일즈포스는 관련 업계에서 거대 언어 모델(LLM) 기반 생성형 AI 기술을 플랫폼에 적극 융합한 대표적인 회사들 중 하나로 꼽힌다.
최근에는 AI에이전트 플랫폼 에이전트포스(Agentforce)를 앞세워 LLM이 복잡한 업무를 자동화할 수 있다는 메시지를 강조해왔다.
하지만 LLM에 대한 어투는 예전과 좀 달라진 것 같다. 외신들에 따르면 세일즈포스는 LLM 중심 전략에서 벗어나 전통 기법이라 할 수 있는 기존 규칙 기반 AI와 LLM 하이브리드 플랫폼 전략을 강화하는 모습이다.
규칙 기반 AI는 특정 조건이 충족되면 정해진 행동을 항상 수행하는 방식으로 LLM처럼 확률적 추론에 의존하지 않는다. 그러다 보니 규칙을 벗어난 상황에 대응할 수 있는 유연성은 떨어지게 마련이다.
그럼에도 세일즈포스가 규칙 기반 AI 활용을 늘리고 나선 건 LLM 오류에 대한 기업 고객들 우려 때문이다.
LLM은 자연어 이해와 대화 처리에서 유연성이 뛰어나지만 지시를 잘못 해석하거나 단계를 건너뛰는 경우들도 있다. 잘못된 응답을 내놓는 경우들도 여전하다.
LLM이 갖는 이같은 특성은 고객 지원, 청구, 운영 관리 등의 업무와는 맞지 않을 수 있다. 환불을 잘못 처리하거나 재고 정보를 틀리게 전달하면 문제 또한 커질 수 밖에 없다. 규제 리스크와 금전 손실로 이어질 수도 있다. 규칙 기반 자동화는 덜 똑똑해 보일 수 있지만 항상 같은 결과를 보장한다는 점에서 LLM이 갖는 보완할 수 있다.
이에 세일즈포스는 해석이 필요한 경우에만 생성형AI를 활용하는 방식으로 에이전트포스를 개선하고 있다고 한다. 범위가 명확한 작업은 결정론적 에이전트에 맡기고 복잡한 판단이 필요한 영역만 생성형 AI를 투입하는것이 골자다.
비용 문제도 무시할 수 없다. LLM 기반 AI에이전트는 컴퓨팅 자원을 많이 소비한다. 사용량이 늘수록 비용도 늘어난다. 에이전트포스는 대화 단위 또는 크레딧 선불 방식으로 과금하는데, 플랫폼 효율성을 강화하면 회사 입장에선 비용 절감 효과를 거둘 수 있다. 규칙 기반 AI를 활용한 결정론적 자동화는 불필요한 AI 호출을 줄여, 정확도 개선은 물론 비용도 줄여줄 수 있다는 얘기다.
세일즈포스 행보는 테스트를 넘어 LLM 기반 AI 서비스들을 실전에 투입하는 기업들이 늘고 있는 상황과 연결해 볼 필요가 있다.
최신 LLM들 성능이 계속좋아지고 있지만, 오류 가능성이 있다면 기업 입장에선 이를 확대 적용하기가 부담스러울 수 있다. 유력 SaaS 회사인 세일즈포스도 이같은 현실을 인정한데 따른 결과로 보인다. 똑똑함을 넘어 신뢰와 예측 가능성도 기업 AI 시장에서 중요한 키워드로 부상할 것임을 보여주는 사례이지 싶다.
#B2BSaaS #AISaaS #SaaS비즈니스모델 #세일즈포스#LLM #AI활용사례 #규칙기반AI
by Sasquachi