You.com - AI 기반 에이전트로 엔터프라이즈 생산성 향상

원문: 링크

 

업종: 기술 및 소프트웨어
솔루션: LLM을 통한 검색 향상
플랫폼 사용 사례: 델타 레이크,데이터 과학,머신 러닝,데이터브릭스 SQL,모자이크 AI
클라우드: AWS

 

"저희는 데이터 및 AI 에코시스템을 관리하기 위한 통합 플랫폼으로 Databricks를 사용합니다. 데이터 분석에서 모델 배포에 이르기까지 모든 것이 Databricks를 통해 이루어집니다. 데이터 관리의 근간이 되는 플랫폼으로, 제품을 한 단계 더 발전시키는 AI 기능에 집중할 수 있게 해줍니다."
- Bryan McCann, 공동 창립자 겸 CTO, You.com

 

AI 연구원 Richard Socher와 Bryan McCann이 설립한 You.com은 수백만 명의 지식 근로자 (knowledge workers)가 연구, 문제 해결 및 콘텐츠 제작을 위해 에이전트를 활용할 뿐만 아니라, 특정 워크플로우에 맞춘 맞춤형 에이전트를 구축하고 공유할 수 있는 기능을 제공하는 AI 기반 생산성 엔진입니다. 데이터 관리, 쿼리 처리 및 모델 확장에 어려움을 겪던 You.com은 데이터브릭스와의 파트너십을 통해 개발, 배포 및 제품 혁신 과정을 간소화했습니다. 이 협업을 통해 데이터 전환 속도를 높이고 실험 과정을 개선하며 배포 시간을 단축하여, 새로운 AI 에이전트 기능을 신속히 시장에 출시하고 사용자 기반 확대에 대응할 수 있었습니다.

데이터 복잡성 해결과 AI 워크플로우 최적화

You.com의 AI 에이전트는 복잡한 질문에 대한 정확한 답변을 제공하고, 워크플로우를 자동화하여 기업의 생산성 향상을 돕습니다. You.com 솔루션을 채택하는 기업이 늘어나면서, 데이터 인프라를 효율적으로 확장하고 사용자들에게 빠르고 신뢰할 수 있는 응답을 제공하는 것이 중요해졌습니다.

특히, You.com은 사용자 상호작용에서 생성되는 방대한 양의 이벤트 데이터를 관리하는 동시에, 개인화된 인텔리전스를 위해 독점 데이터를 통합해야 했습니다. 이러한 복잡성을 해결하기 위해서는 클러스터 설정 감독, 모델 배포 확장, 그리고 효율적인 워크플로우 유지를 위한 전문 리소스가 필요했습니다. You.com의 CTO인 Bryan McCann은 "Hive 테이블 위에 여러 계층을 구축했기 때문에 효율적으로 확장하고 새로운 쿼리와 분석 요구를 처리하기가 어려웠습니다."라고 설명하며, 보다 간소화된 접근 방식의 필요성을 강조했습니다.

또한, 성능 지연과 느린 쿼리 처리는 사용자 경험뿐만 아니라 팀이 적시에 데이터 기반 의사결정을 내리는 데에도 심각한 장애물이었습니다. 대시보드 로딩 지연과 비효율적인 데이터 처리로 인해 You.com은 사용자 상호작용 데이터, 모델 성능 지표 및 실시간 분석과 같은 중요한 인사이트를 활용하여 생성형 AI 모델을 개선하고 최적화하는 데 어려움을 겪었습니다. 이러한 운영 비효율성은 AI 기반 솔루션 개발 및 배포에 직접적인 영향을 미쳤으며, 데이터 처리 개선과 플랫폼 발전을 통해 사용자 신뢰와 만족도를 보장할 필요성을 부각시켰습니다.

혁신 가속화를 위한 데이터브릭스 도입

복잡한 데이터 관리 문제를 해결하기 위해 You.com은 레이크하우스 아키텍처의 테이블을 위한 기반을 제공하는 최적화된 오픈소스 스토리지 계층인 Delta Lake를 도입했습니다. 이를 통해 데이터 인프라를 중앙 집중화하여 공개 및 독점 데이터를 통합하고, 다양한 데이터 세트의 수집, 저장, 구성을 간소화했습니다. 이러한 신뢰할 수 있는 데이터 기반은 검색 및 생산성 플랫폼 내에서 신뢰할 수 있는 인용 기반 답변을 제공하려는 You.com의 목표를 효과적으로 지원했습니다. 궁극적으로 Delta Lake는 데이터 처리 역량을 강화하여 주요 운영 병목 현상을 제거하고, 데이터 일관성과 접근성을 개선했으며, 이는 지속적인 AI 모델 개선에 중요한 역할을 했습니다.

이어서 You.com은 성능 지연과 느린 쿼리 처리 문제를 해결하기 위해 Databricks SQL로 전환했습니다. Databricks SQL은 비즈니스 인텔리전스 작업을 최적화함으로써 사용자 상호작용 데이터와 인용 기반 소스를 신속히 분석할 수 있도록 지원하며, 이를 통해 AI 모델 성능을 개선하고 더욱 정확한 응답을 제공할 수 있게 했습니다. 또한 Databricks SQL 기반 대시보드는 중요한 성능 지표를 제공하여 지속적인 모델 개선을 가능하게 했습니다.

추가적으로, Databricks 노트북은 You.com의 데이터 과학자들에게 협업 환경을 제공하여 머신러닝 모델의 개발과 실험 과정을 간소화했습니다. 팀은 노트북을 활용해 반복적으로 모델을 구축, 테스트, 개선하며 SQL 분석에서 모델 배포로 빠르게 전환할 수 있었습니다. 이러한 간소화된 프로세스는 생산성을 높이고 혁신을 촉진하여 You.com이 AI 역량을 지속적으로 강화할 수 있는 기반을 마련했습니다.

또한 머신러닝 모델의 배포 및 수명 주기 관리를 최적화하기 위해 MLflow와 Mosaic AI Model Serving을 도입했습니다. MLflow는 모델 추적 및 버전 관리 기능을 제공하며, Mosaic AI Model Serving은 복잡한 인프라 감독 없이 모델 호스팅과 확장을 지원해 배포 파이프라인을 간소화했습니다. 이를 통해 You.com은 인프라 부담을 줄이고 핵심 제품 개발에 집중하며 운영 효율성을 개선하고 혁신 주기를 단축하여 시장 경쟁력을 강화할 수 있었습니다.

생산성 및 확장성 향상

데이터 및 AI 인프라 관리에 필요한 시간과 리소스를 줄임으로써 You.com의 운영 효율성이 크게 향상되었습니다. Databricks의 자동화된 접근 방식 덕분에 클러스터 설정 및 유지 관리에 대한 광범위한 수작업이 필요 없어져 You.com 팀은 혁신에 집중할 수 있게 되었습니다. McCann은 "Databricks 덕분에 제품 차별화에 필수적이지 않은 많은 작업을 대신 처리해 주어 새로운 AI 기술을 빠르게 도입하고 성장할 수 있었습니다."라고 말합니다.

Databricks의 확장 가능한 모델 관리 기능을 통해 You.com은 변화하는 비즈니스 요구사항에 맞춰 머신러닝 모델 배포를 원활하게 조정할 수 있게 되었습니다. 플랫폼의 유연성 덕분에 모델을 신속하게 미세 조정하고 배포하여 시장 수요에 더욱 민첩하게 대응할 수 있습니다. 특히 Databricks SQL과 대시보드 기능을 통해 향상된 분석 및 비즈니스 인텔리전스 도구를 활용함으로써, You.com은 지속적으로 성능 지표를 모니터링하고 실시간 데이터를 기반으로 AI 모델을 개선하며 응답의 정확성을 최적화할 수 있게 되었습니다. 이러한 적응력은 새로운 기능의 출시 시간을 단축하여 고객 중심적이고 미래 지향적인 접근을 가능하게 합니다.

인프라 및 모델 관리 개선 외에도, You.com은 Databricks 노트북을 통해 실험과 협업 과정을 간소화하는 이점을 누리고 있습니다. 이를 통해 데이터 과학자들은 모델 구축 주기를 단축할 수 있으며, MLflow를 활용하여 배포 및 기타 AI 워크플로우의 복잡성을 더욱 줄일 수 있게 되었습니다. 이러한 도구들의 통합적인 효과는 You.com의 운영 효율성을 높여, AI 기반의 생산성 향상 솔루션을 시장에 제공한다는 회사의 목표 달성에 크게 기여하고 있습니다.