스트리밍 데이터(Streaming Data): 무한한 가능성의 시작

스트리밍데이터, 위기관리, 사기방지, 엣지애널리틱스, 패스트데이터


모든 것을 실시간으로 실행하고, 실시간으로 평가하는 바야흐로 ‘스트리밍 시대’입니다. 길을 걷다가 들리는 음악을 그 자리에서 검색하고 스트리밍으로 재생해 듣습니다. 스마트폰 메신저나 소셜 미디어(SNS)를 통해 바로 공유할 수도 있죠. 월드컵과 올림픽 등 스포츠 경기는 물론 대선 토론과 개표 현황 등 정치 이벤트까지 케이블 TV나 페이스북 라이브를 통해 실시간으로 시청합니다.


기업에서는 어떨까요? 매월, 매년마다 엄숙한 이사회 회의를 소집하고 한 달 전, 때로는 그보다 더 오래된 업무에 대한 정적인 보고서를 발표하던 모습은 이제 옛날 이야기입니다. 당시에는 데이터를 정제하고 검증하는 과정이 너무 오래 걸려서 ‘그저’ 한 달을 기다리는 일도 진행 과정의 일부였지만 이제는 달라졌죠! 바로 ‘스트리밍 데이터(streaming data)’덕분입니다.


스트리밍 데이터가 부상하고, 이러한 데이터를 처리하는 툴이 등장함에 따라 성과 분석과 이에 대응하는 행동을 실시간으로 진행할 수 있게 됐습니다. 많은 경우 가장 적절한 행동을 취하도록 프로그래밍된 알고리즘을 기반으로 스트리밍 데이터가 지닌 정보에 즉각적으로 대응하게 됩니다. 하지만 스트리밍 데이터의 가용성이 크게 증가했음에도 불구하고 여전히 많은 사람과 기업들이 이러한 리소스를 제대로 활용하지 못하고 사물인터넷(IoT)의 부산물쯤으로 생각하고 있습니다.


스트리밍데이터, 위기관리, 사기방지, 엣지애널리틱스, 패스트데이터




스트리밍 데이터 분석하기


스트리밍 데이터의 실질적인 유용성은 엣지 애널리틱스(edge analytics)를 포괄하는 이벤트 스트림 프로세싱(event stream processing)처럼 스트리밍 데이터를 처리하고 분석하는 새로운 강력한 툴에서 찾을 수 있습니다. 좋은 분석 툴이 없다면 결국 데이터는 유형이나 원천에 상관없이 단순한 데이터 그 자체에 머무를 뿐이죠. 이러한 목적에서 가장 강력한 툴은 엣지 애널리틱스로 데이터가 저장된 이후가 아니라 아직 이동중인 데이터(data in motion)를 실시간으로 처리합니다. 분석가들은 엣지 애널리틱스를 이용해 이동중인 데이터에 모든 유형의 데이터 분석과 알고리즘을 적용하고, 패턴을 발견하거나 심지어 데이터를 기반으로 예측까지 할 수 있습니다. 다시 말해 분석가들이 시간을 일시 정지해 데이터를 분석한 후 다시 실행 시간을 설정하는 것과 같죠!


뿐만 아니라 엣지 애널리틱스의 적용 분야는 무척 다양하고, 그 중 다수는 장기적인 관점에서 훨씬 더 유의미한 것으로 입증되고 있는데요. 그렇지만 모든 사람이 이러한 잠재력을 파악하기 까지는 시간이 걸리는 것 같습니다.


이벤트 스트림 프로세싱은 데이터를 생성하고 기계들이(machines) 서로 소통하는 클라우드 애플리케이션에 광범위하게 적용할 수 있습니다. 통신 분야를 예로 들자면, 인프라 주변의 데이터 흐름을 측정하고 이를 더욱 잘 관리함으로써 네트워크를 최적화하는 데 이용할 수 있죠. 이밖에 증권 거래소와 같은 금융 서비스나 자본 시장에서 이용될 수 있습니다.




위험 관리 및 사기 방지


데이터를 실시간 처리, 분석하고 최적의 솔루션을 개발하는 능력은 위험 관리의 핵심적인 요소가 되고 있습니다. 한 가지 유용한 사례는 사기(이상 거래) 탐지 및 방지 분야인데요. 예전에는 사기 보고서(fraud reports) 평가를 위해 몇 주씩 기다려야 했습니다. 그렇지만 이제는 당일 시장 거래가 마감될 때까지 기다리는 것도 느리게 느껴지죠! 요즘에는 거래가 이뤄지는 동안 위험과 유동성을 관리함으로써 관련 조직의 위험에 대한 노출을 최소화할 수 있습니다.




유통 산업의 엣지 애널리틱스


엣지 애널리틱스는 유통 산업에서도 잠재력을 갖습니다. POS(판매시점정보관리) 시스템이나 심지어 선반 자체에서 수집된 데이터는 재고보충관리를 위해 사용될 수 있죠. 결과적으로 더욱 광범위한 의미에서 공급 망 관리 전반에 영향을 미칩니다. 매장, 공장, 유통망 등 적용 분야는 무궁무진합니다. 예를 들면, 고객 서비스 분야에서 적시에 사람이 개입할 수 있도록 챗봇과 고객의 대화를 분석할 수 있죠. 이는 실제 고객 관리 분야의 인공지능(AI) 시스템 도입과 관련해 큰 도전 과제 중 하나입니다. 즉 사람과 알고리즘 간 원활한 통합으로 고객 경험을 저해하지 않도록 할 수 있죠.


스트리밍데이터, 위기관리, 사기방지, 엣지애널리틱스, 패스트데이터




성능 및 적용


클라우드 기반 애플리케이션의 활용이 확산됨에 따라 스트리밍 데이터를 생성하는 시스템과 프로세스가 더욱 증가할 전망인데요. 현재 가장 관련성이 높은 두 가지 데이터 스트림은 다음과 같습니다.

  • 물리적 자산에서 발생하는 센서 데이터를 포함한 이벤트 스트림: 차량이나 스마트폰의 GPS 기반 위치 데이터, 센서의 온도나 가속도계 데이터, RFID 태그 값, 심장 박동 등 환자 모니터링 수치 등이 포함됩니다.

  • 기계의 SCADA(supervisory control and data access, 감시 제어 데이터 수집) 시스템에서 가져온 신호: 뉴스 피드 기사, 시장 데이터, 일기 예보, 트위터 및 기타 소셜 미디어 업데이트와 같은 정보 보고서 스트림(information reports stream)으로 최근 가장 빠르게 증가하고 있습니다. 외부 소셜 소스는 기업 내 의사 결정과 연관된 중요한 정보를 포함할 수 있는데요. 최근 딜로이트(Deloitte)는 브랜드/평판 이벤트 모니터링을 지원하기 위해 예측 소셜 인텔리전스 플랫폼을 인수하기도 했죠.



리바이스, 빅데이터 분석으로 고객별 최적의 핏을 제공하다


최초로 청바지를 개발한 세계적인 의류 브랜드 리바이스(Levi’s)는 전 세계에서 생성되는 빅데이터를 실시간으로 분석함으로써 고객 경험을 크게 개선시켰습니다. 우선 리바이스는 SAS 애널리틱스(SAS Analytics)로 상품 계획, 할당, 재고를 관리함으로써 전반적인 계획을 최적화하고 새로운 기회를 예측했습니다. 이렇게 전 세계 수백만 소비자의 요구 신호를 분석함으로써 고객 개인별 취향에 맞춘 더욱 스마트한 수요 계획과 공급망을 성공적으로 구축했죠!


스트리밍데이터, 위기관리, 사기방지, 엣지애널리틱스, 패스트데이터


뿐만 아니라 소매업자와 도매업자의 제품 제고를 유지하고, 각 스타일, 색상, 사이즈별 제품 수요를 예측함으로써 전 세계 매장 현황을 한눈에 들여다볼 수 있게 됐죠. 리바이스는 데이터 중심의 의사 결정을 통해 확실한 경쟁 우위를 확보하고 성장을 유지하고 있습니다.


스트리밍데이터, 위기관리, 사기방지, 엣지애널리틱스, 패스트데이터


오늘날 스트리밍 시대에 스트리밍 데이터를 관리하고 그 혜택을 누리는 것은 모든 기업의 우선 순위가 되어야 합니다. 이제 실시간으로 빠르게 유입되는 빅데이터, ‘패스트 데이터(fast data)’에 엣지 애널리틱스와 스트림 프로세싱을 연결하고, 데이터 중심의 신속한 의사 결정을 내리는 기업만이 경쟁 우위를 확보할 수 있습니다. SAS 웹사이트에서 스트리밍 데이터를 분석하고, 최적의 대응 행동을 즉각적으로 지원하는 SAS 이벤트 스트림 프로세싱(SAS Event Stream Processing) 솔루션에 대해 자세히 살펴보세요.






저자

주앙 올리베이라(Joao Oliveira) l SAS 블로그 작가, 기업이 데이터 관리를 통해 GDPR(일반개인정보보호법)과 같은 규제 컴플라이언스를 해결할 수 있도록 지원한다.


편집

박경민 수석 l SAS 코리아 스트리밍 데이터 관리 담당