Yellow.ai, 업계 최초의 오케스트레이터 LLM을 출시하여 트레이닝 없이 사람처럼 상황에 맞는 고객과의 대화를 구현

뉴스 제공처

Yellow.ai

2024년 05월 09일 03:05 KST

  • 오케스트레이터 LLM은 정확한 쿼리 식별, 대화 기록 유지와 채널 간 원활한 컨텍스트 교환을 통해 고객과의 대화가 중단되는 문제를 해결함으로써 고객 만족도를 60% 향상시킨다
  • 수동 트레이닝 없이 고객의 의도를 파악하고 적절한 툴을 작동시킴으로써 운영 비용을 60% 절감할 수 있다 

산마테오, 캘리포니아, 2024년 5월 9일 /PRNewswire/ -- 생성형 AI 기반 고객 서비스 자동화 분야의 글로벌 리더 Yellow.ai는 개인화되고 상황에 맞는 대화를 하면서 가장 적합한 다음 단계를 판단하는 업계 최초의 에이전트 모델 오케스트레이터 LLM을 오늘 출시했다. 이 생성형 AI 에이전트 모델은 상황을 계속 파악함으로써 이슈를 더 빠르고 정확하게 해결하여 고객 만족도를 60% 이상 높인다.

전통적인 챗봇은 종종 이전 대화에 대한 맥락 인식과 기억 부족으로 어려움을 겪으며, 이는 대화의 단절과 고객 불만으로 이어질 수 있다. 이러한 문제들은  의도와 발화에 대한 불충분한 트레이닝으로 인해 프로그래밍된 답변을 넘어서는 쿼리를 처리할 수 있는 능력 부족이 그 원인이다. 그러나 대형 언어 모델(LLM)의 등장을 통해 자동화된 고객 경험에서 개인화를 제고하는 것이 점점 더 가능해졌다. 이러한 혁신을 주도하는 Yellow.ai 의 오케스트레이터 LLM는 이러한 문제들을 다음을 통해 직접 해결한다.

  • 첨단 컨텍스트 교환을 통한 고객 경험 향상: 오케스트레이터 LLM은 컨텍스트 교환에 탁월하고 스몰토크에 참여하여 중단 없는 사용자 경험을 위해 쿼리 사이에 원활한 전환을 보장한다. 대화를 능숙하게 분석하고 여러 의도를 인식하며 컨텍스트를 유지함으로써 갑작스러운 종료를 최소화하면서 사용자의 주된 목표로 가이드한다. 오케스트레이터 LLM은 메모리 창 내에서 이전 대화 내용을 유지하고 원본 쿼리를 다시 방문함으로써 보다 종합적이고 사람이 하는 것같은 대화를 촉진한다.
  • 운영 효율 극대화를 위한 제로 트레이닝: 오케스트레이터 LLM은 사전 트레이닝 없이도 고객 니즈에 맞는 최적의 솔루션을 제공한다. 사용자 요구에 따라 적절한 에이전트 워크플로우 또는 대화 흐름을 활성화하는 방법을 실시간으로 결정한다. 예를 들어, 이 모델은 대화의 맥락을 유지하면서 지식 기반에서 정보를 가져올지, 새로운 대화 흐름을 시작할지, 혹은 라이브 에이전트로 에스컬레이트할 지를 즉시 판단할 수 있다. 이렇게 프로세스를 원활하게 하면 운영 비용이 60% 절감되고 에이전트 생산성이 50% 향상된다.

Yellow.ai의 CEO 겸 공동 설립자 라구 라비누탈라(Raghu Ravinutala)는 "LLM의 잠재력을 최대한 발휘하려면 강력한 오케스트레이션 프레임워크가 필요하다. 당사 오케스트레이터 LLM은 보다 응집력 있고 개인화된 고객 경험을 제공하기 위해 다양한 AI 도구 및 백엔드 시스템과 원활하게 협업하는 중앙 통합 허브 역할을 한다"면서 "이번 출시는 복수의 사내 LLM을 개발하고 사람과 유사한 경험을 자율적으로 제공하는 AI 우선 솔루션을 통해 고객 서비스 분야를 재정의한다는 당사의 사명을 실천하기 위한 당사의 의지를 더욱 부각한다"고 말했다.

웨이스트 커넥션즈 CIO 에릭 한센(Eric Hansen)은 "오케스트레이터LLM은 진정으로 고객 서비스 업계에 혁명을 일으킬 수 있다"면서 "고객의 니즈를 예측하고 즉각적이고 적절한 응답을 제공하는 이 모델의 능력은 고객 충성도와 운영 효율을 높일 것"이라고 말했다.

동사는 다양한 고객 서비스 이용 사례를 위해 복수의 사내 LLM을 개발하는 데 상당한 진전을 이루고 있다. 동사는 인도네시아 최초의 11개 이상 지역 언어 고객 지원 모델인 코모도-7B와 함께 제로 셋업, 목표 지향 대화, 요약 및 질의 응답을 위한 YellowG LLM을 출시했다. 환각율이 1% 미만이고 평균 응답 시간이 0.6초인 이 LLM은 기업들이 설정한 엄격한 기준을 충족하도록 설계되어 안전하고 정확하며 개인화된 고객과의 대화를 보장한다. 또한 동사는 150개 이상의 기업용 생성형 AI 봇을 성공적으로 전개하여 강력한 생성형 AI 기능을 쇼케이스하고 고객 서비스를 위한 AI 우선 솔루션 제공에 중점을 두고 있다.

시연 예약을 하려면 https://yellow.ai/orchestrator-llm/을 방문하기 바란다.

Yellow.ai 

Yellow.ai 는 생성형 AI 기반의 고객 서비스 자동화 플랫폼을 통해 기업들이 기억에 남을 만한 고객 대화를 나눌 수 있도록 지원한다. 우리의 비전은 최고의 효율성을 발휘하고 운영 비용을 크게 절감하는 완전 자율적인 고객 지원의 미래를 향해 나아가는 것이다. 산마테오에 본사를 둔 Yellow.ai는 85개 이상의 국가에서 소니, 도미노, 현대, 페렐가스, 웨이스트 커넥션즈, 랜드스타드 등 1,100개 이상의 기업에 서비스를 제공한다. 우리의 플랫폼은 다중 LLM 아키텍처를 기반으로 구축되었으며 매년 160 억 회 이상의 대화를 통해 지속적으로 훈련함으로써 기업들이 향상된 경험을 제공하고 지속적인 고객 관계를 구축할 수 있도록 해준다. 2016년에 설립되어 6개국에 사무소를 두고 있는 Yellow.ai는 우량 투자자들로부터 1억 200만 달러 이상의 자금을 조달했다.  

문의:
Anujaa Singh
[email protected] 

로고: https://mma.prnewswire.com/media/2061481/4450110/Yellow_ai_Logo_Logo.jpg