HP -GenAI를 통한 팀 생산성 및 의사 결정 향상
AWS Redshift 대비 20~30% 비용 절감
데이터 팀을 위한 GenAI 어시스턴트 챗봇 구축에 3주 소요
산업: 기술 및 소프트웨어
솔루션:고객 서비스 및 지원을 위한 LLM
플랫폼 사용 사례:델타 라이브 테이블,유니티 카탈로그,워크플로,모자이크 AI
클라우드:AWSAWS
"데이터브릭스 모자이크 AI를 통해 엄청난 생산성 향상을 이루었으며, 파트너와 고객이 데이터 플랫폼을 활용해 보다 현명한 의사 결정을 내릴 수 있도록 GenAI 솔루션을 손쉽게 구축할 수 있었습니다."
- William Ma, 데이터 사이언스 관리자, HP
컴퓨팅 및 인쇄 솔루션 분야의 글로벌 리더인 HP는 전 세계 2억 대 이상의 프린터를 지원하고 있습니다. 그러나 수동 SQL 쿼리와 상호 참조 방식으로 인해 서비스 팀의 속도가 느려졌고, 문제 해결이나 실시간 인사이트 확보를 위해 데이터 사이언티스트의 지원이 필요했습니다. 이러한 비효율적인 프로세스는 비용 증가와 생산성 저하로 이어졌습니다. 이를 해결하기 위해 HP는 기존의 레거시 데이터 웨어하우스를 데이터브릭스 데이터 인텔리전스 플랫폼으로 전환했습니다.
HP는 데이터브릭스 모자이크 AI를 활용해 지식 기반 챗봇을 안전하게 지원하는 AI 에이전트 시스템을 구축했습니다. 또한 AI/BI Genie를 통해 지능형 대시보드 생성을 간소화하여, 비즈니스 리더와 지원팀이 보다 신속하고 현명한 의사 결정을 내릴 수 있도록 필요한 정보를 쉽게 얻을 수 있게 했습니다.
비효율적인 매뉴얼 프로세스로 인한 문제
80년 동안 혁신을 이끌어온 HP는 빅데이터 플랫폼 및 솔루션 팀을 통해 모든 사업부에 데이터 수집, 플랫폼 지원, 고객 데이터 제품을 제공하고 있습니다. 하지만 PC, 프린터, 웹 및 모바일 앱에서 생성되는 방대한 데이터와 다양한 파트너 및 고객으로 인해 비전문가가 데이터를 검색하고 활용하기 어려웠습니다. 이로 인해 병목 현상이 발생하고, 데이터 품질 확보를 위한 수작업이 필요했으며, 이는 생산성 저하와 비용 증가로 이어졌습니다.
데이터 엔지니어링 팀은 특정 데이터 모델이나 문제에 대한 질문과 요청이 끊이지 않아 과부하 상태에 놓였습니다. 사용자는 제한된 데이터 접근권이나 플랫폼 사용 방법, 신입 직원 온보딩과 관련된 도움을 요청했고, 팀은 이러한 문제를 해결하기 위해 업무 시간의 20~30%를 SQL 쿼리 작성과 데이터 분석에 소비해야 했습니다. 이는 마치 추가 인력이 필요한 것과 같은 상황이었습니다.
데이터브릭스를 통한 혁신적 해결책
HP는 생성형 AI를 도입해 이러한 문제를 해결하고자 했습니다. 데이터브릭스 모자이크 AI를 통해 데이터를 웨어하우스에서 작업 공간으로 안전하게 이동시키고, AI 도구 적용을 간소화했습니다. 또한 고객의 개인정보 보호 요청(DSR)과 같은 거버넌스 요구사항도 충족하며 효율성을 높였습니다.
William Ma는 이렇게 설명합니다. "우리 팀은 제한된 자원으로도 데이터를 분석하고 상호 참조하는 데 상당한 시간을 소비해야 했습니다. 하지만 이제는 모자이크 AI를 통해 이러한 작업을 자동화하고 효율성을 극대화할 수 있게 되었습니다."
HP의 사례는 데이터브릭스 플랫폼이 어떻게 조직의 데이터를 활용해 생산성을 높이고 비용을 절감하며 지능적인 의사 결정을 지원할 수 있는지를 잘 보여줍니다.
데이터브릭스를 통한 데이터 팀 지원
HP는 데이터 센터 이전 과정에서 데이터, 분석, AI를 통합하기 위해 레이크하우스 아키텍처를 활용하며 AWS에서 Databricks 데이터 인텔리전스 플랫폼을 도입했습니다. 윌리엄은 이렇게 설명합니다. "데이터브릭스는 레이크하우스 아키텍처 기반의 단일 플랫폼에서 AI, 분석, GenAI 도구를 제공합니다. 서버리스 데이터브릭스 SQL을 통해 필요에 따라 임시 컴퓨팅 클러스터를 프로비저닝할 수 있으며, Unity 카탈로그로 데이터 관리와 거버넌스를 수행합니다. 이를 통해 600명 이상의 사용자가 세분화된 액세스 제어와 지식 기반 챗봇을 통한 정보 접근이 가능해졌습니다. Unity 카탈로그는 데이터 계보와 감사 기능도 제공합니다. 데이터와 GenAI 솔루션 구축에 필요한 모든 것이 플랫폼에 내장되어 있어 새로 개발할 필요 없이 기존 프레임워크와 도구를 활용하면 됩니다."
HP는 성능 대비 비용 개선, 리소스 격리, 데이터 카탈로그 통합, 접근 제어 및 거버넌스 강화를 위해 AWS Redshift에서 Databricks SQL로 마이그레이션했습니다[4]. 모자이크 AI 플레이그라운드를 통해 다양한 대규모 언어 모델(LLM)을 실험한 결과, 챗봇 요구사항에 가장 적합하고 비용 효율적인 모델로 DBRX를 선택했습니다. GenAI를 활용해 데이터 사용자 온보딩 지원이라는 첫 번째 사용 사례를 신속히 구현했습니다. 기존에 내부 위키, SharePoint, 팀 지원 채널 등에 흩어져 있던 정보를 효율적으로 관리하기 위해 벡터 검색 데이터베이스를 백엔드로 하는 검색 증강 생성(RAG) 솔루션을 구축했습니다.
한 인턴은 데이터브릭스 모자이크 AI를 활용해 3주 만에 실시간으로 정확한 답변을 제공하는 챗봇을 개발했습니다. 이 솔루션은 사용자 입력을 분석하고 관련 데이터를 검색한 후 GenAI 엔드포인트로 전송해 답변을 생성하는 웹 프론트엔드와 백엔드 에이전트로 구성됩니다. 또한 내부 정보를 크롤링하고 토큰화하여 벡터 검색 데이터베이스에 저장하는 웹 크롤러도 포함되어 있습니다.
셀프 서비스 인사이트를 위한 GenAI 확장
데이터브릭스 플랫폼 도입 후 HP는 AWS Redshift 대비 20~30%의 운영 비용 절감 효과를 경험했습니다[4]. 데이터 팀은 이 플랫폼을 통해 파트너와 경영진을 위한 셀프 서비스 인사이트 구축이 용이해졌습니다. GenAI 챗봇 구현으로 실무자의 수동 지원 빈도가 줄어 생산성이 크게 향상될 것으로 예상됩니다.
HP는 서비스 팀 효율성 제고를 위해 AI/BI Genie를 도입했습니다. 이를 통해 자주 묻는 질문에 대한 미리 저장된 쿼리를 활용하고, 팀 간 Genie 작업 공간 공유가 가능해졌습니다. 비전문가도 자연어로 데이터를 쿼리하고 즉시 신뢰할 수 있는 답변을 받을 수 있게 되었습니다.
향후 HP는 GenAI 솔루션을 고객 서비스로 확대하여 문제 해결 및 쿼리 처리 프로세스를 개선할 계획입니다. 데이터브릭스 플랫폼은 이러한 노력의 기반이 될 것입니다. "8년간 데이터브릭스와 협력해 오면서 플랫폼의 지속적인 개선을 경험했습니다. 이는 팀, 파트너, 고객을 더 잘 지원할 수 있는 솔루션을 구축하는 데 큰 도움이 되는 훌륭한 파트너십입니다."