본문 바로가기
SingleStoreDB/사례연구

[사례 연구, Diwo] SingleStore를 이용한 AI의 혁신

by 에이플랫폼 [Team SingleStore Korea] 2019. 8. 22.

diwo®는 비즈니스 사용자들이 실제 문제에 대응할 수 있도록 돕는 새로운 AI 기반 플랫폼입니다. diwo는 "데이터가 들어오면 해결책을 제시한다(Data In, Wisdom Out)"를 의미하며, 대부분의 기능이 SingleStore를 기반으로 작동합니다.

 


​diwo는 숨겨진 비즈니스 기회를 공개하고 사용자가 적시에 그에 따라 행동할 수 있도록하기 위해 개발 되었습니다. 소프트웨어는 프로그래밍 또는 스크립팅 언어를 통하지 않고 AI 기반 대화식 모드에서 실행될 수 있습니다. (시스템에는 여러 계층의 정교한 코딩이 포함되어 있음). diwo의 대화형 페르소나인 ASK는 일련의 분산 마이크로 서비스에 의해 구동되며 트랜잭션 및 쿼리에 SingleStore를 사용합니다.

diwo는 의사 결정 과학 및 데이터 엔지니어링에 대한 경험이 풍부한 팀에 의해 만들어졌으며 유용한 비즈니스 솔루션을 만들고자하는 것에 목표를 두었습니다. “우리는 데이터 과학이 항상 연구 분야에 머물러 있는 것으로 보았습니다. 가치보다는 탐구와 실험에 맞춰져 있었습니다. 프로젝트의 비전 리더인 크리슈나 칼라 쿠리 (Krishna Kallakuri)는 이렇게 말합니다. "우리는 이러한 간격을 줄이고 비즈니스 커뮤니티에서 주로 사용하기를 원합니다. "

"자체 서비스 BI"를 넘어서서 diwo는 "질문에 답하는 것"뿐만 아니라 원인에 대한 상황 정보와 실행 가능한 통찰력을 제공합니다 

diwo는 일상적인 운영 환경에서 비즈니스를 배우고 수익을 극대화하거나 위험을 최소화 할 수있는 기회를 발견합니다. 그런 다음 소프트웨어는 최적화된 맞춤형 전략을 통해 사용자에게 실시간으로 이러한 기회를 해결하도록 안내합니다. 이러한 시스템은 대부분 통찰력을 얻는 데 중점을 두고(이러한 제안을 사용자에게 적용하는 것), AI가 초기 AI 과학자들이 상상한 것을 실현합니다. 컴퓨터와 대화하여 실제 비즈니스 의사 결정을 안내합니다.

대화식 쿼리를 제공하는 SingleStore

diwo와 함께이 플랫폼은 비즈니스 결정을 내리는 적극적인 파트너입니다. diwo 플랫폼에는 ASK, WATCH 및 DECIDE의 3 가지 페르소나가 있습니다. 정보 수집 및 의사 결정 과정에서 각기 다른 역할을합니다.

현재 SingleStore는 ASK 페르소나를 강화하는 데 도움이됩니다. diwo ASK는 기존의 Search BI를 뛰어 넘습니다. 기본 문제를 해결하고 최적의 결정을 내리기 위해 사용자의 의도를 파악하는 데 사용되는 시스템 주도 대화로 설계되었습니다. 쿼리에 응답하여 diwo는 수십 테라 바이트에 빠르고 쉽게 도달 할 수있는 데이터 세트를 어셈블, 생성 및 연결해야합니다. 질문과 대답이 다른 질문과 대답을 생성하는 과정은 재귀적입니다.

사용자가 자연어로 쿼리를 요청하기 때문에, 쿼리를 기계적으로 실행 가능한 요청으로 변환하는 것은 diwo에 달려 있으며, diwo에 사용할 수 있는 모든 데이터를 지속적으로 검토하고 유용한 답변으로 변환합니다. diwo 아키텍처의 분산 특성 및 데이터 처리와 쿼리 성능 모두에 대한 그것의 극단적인 요구때문에 SingleStore를 필요로 합니다.

Kallakuri는 “우리가 보유한 모든 코드는 여러 수준으로 배포됩니다. 15 년 전 중서부에서 가장 빠르게 성장하는 분석 회사 중 하나를 창립한 후, 현재 diwo 프로젝트를 소유하고있는 Loven Systems의 출시를 주도하고 있습니다.

SingleStore는 diwo의 ASK 대화식 페르소나에서 사용되며 광범위한 데이터 소스를 실시간으로 가져옵니다. ​

-

SingleStore를 선택한 이유

개발 팀은 diwo 플랫폼을 뒷받침할 수있는 빠르고 확장가능한 데이터베이스가 필요 했습니다. 팀은 처음에 올바르게 구성된 쿼리를 매우 빠르게 실행하는 인 메모리 데이터베이스인 Redis가 제공하는 속도와 유연성에 매료 되었습니다. 또한 오픈 소스 데이터베이스 및 데이터 관리 시스템인 Cassandra도 시도했습니다.

그러나 그들은 양면에서 어려움을 발견했습니다.

· 유용한 쿼리 작성

· 쿼리에서 수용 가능한 성능 얻기

Kallakuri는 “우리가 깊이 파고 들수록 쿼리를 수행할 때 병목 현상을 겪게된다”고 말했습니다.

diwo 프로젝트에서 발생하는 문제는 사용자가 NoSQL에서 자주 발견하는 것과 동일한 문제입니다. 데이터에 구조를 설정하지 않았으므로 처음에는 더 쉬워졌습니다. 그러나 SQL 데이터베이스가 상속하고 구축할 수있는 수십 년에 걸친 SQL 쿼리 최적화의 이점을 얻지 못합니다.

SingleStore에는 몇 가지 다른 축을 통해 두 가지 이점을 모두 제공하는 추가 이점이 있습니다.

SQL vs 확장성 일반적으로 트랜잭션 및 분석 데이터베이스에서 SQL을 사용하거나 NoSQL 시스템의 여러 머신 인스턴스에서 확장성을 가질 수 있습니다. SingleStore는 확장 가능한 SQL인 NewSQL 시스템입니다.

Rowstore 대 Columnstore 대부분의 데이터베이스는 데이터 수집 및 트랜잭션 처리를 위해 메모리에 친숙한 Rowstore 또는 분석을 위한 디스크 용량이 더 필요한 Columnstore를 제공합니다. SingleStore는 메모리 중심 아키텍처를 통해 두 가지를 모두 지원하므로 필요한 성능을 위해 사용할 머신 인스턴스 수와 RAM, SSD 및 디스크 양을 결정할 수 있습니다.

인 메모리 vs. 디스크 기반 일부 데이터베이스는 메모리 전용 또는 대부분 메모리 인 반면, 다른 데이터베이스는 디스크 기반 스토리지를 우선시합니다. SingleStore는 데이터 구조 및 성능 요구 사항에 따라 개별적으로 또는 동시에 사용 가능합니다.

정형 vs 반정형과 비정형 SQL 데이터베이스는 오랫동안 반정형화 된 데이터 (더 많이 사용되는 JSON 포함) 또는 정형화되지 않은 데이터가 있는 경우 데이터를 정형화하거나 NoSQL로 전환했습니다. 그러나 SingleStore는 지리 공간 데이터 유형 및 JSON 데이터를 고성능으로 지원하므로 BLOB와 같은 하이브리드 데이터 구조를 지원합니다. 따라서 반정형화 된 데이터를 정형화된 데이터의 성능에 가까운 성능으로 모든 곳에서 자유롭게 사용할 수 있습니다.

이러한 장점은 SingleStore에 대한 장점의 일부입니다. 또 다른 측면은 모든 SingleStore 기능의 고성능입니다. 초당 1 조 행 스캔 과 같은 기능은 복잡한 처리를 요구하는 비즈니스 쿼리에 대화 수준의 속도의 응답을 제공해야 할 때 매우 유용합니다.

Kallakuri는 "SingleStore를 작동 불가 여부를 확인하기 위해 가능한 한 악조건의 환경으로 테스트를 진행했지만 작동이 잘 되었습니다."고 말했습니다. diwo는 주로 동적 SQL 및 동적 스토어드 프로시저와 관련된 프로젝트 요구를 지원하기 위해 SingleStore 위에 기능을 추가해야 했고 SingleStore는 높은 성능과 안정성을 제공해주는 기반이 되었습니다.

February 14, 2019

Floyd Smith

 


출처: https://www.singlestore.com/blog/case-study-memsql-powering-ai-breakthroughs-at-diwo/

 

Case Study: SingleStore Powering AI Breakthroughs at diwo

diwo is an AI-powered platform that runs its conversational module, ASK, on SingleStore. The multiservices app contains many layers of code, all accessing SingleStore to help answer business questions posed in natural language.

www.singlestore.com

​※ www.a-platform.biz | info@a-platform.biz