디지털연합뉴스

글로벌 AI 데이터 클라우드 기업 스노우플레이크(Snowflake)가 현지시간 3~6일 미국 샌프란시스코에서 열리고 있는 스노우플레이크 서밋 2024 (https://www.snowflake.com/summit/)에서 스노우플레이크 코텍스 AI(Cortex AI)의 새로운 기능을 발표했다.

스노우플레이크 코텍스 AI (https://www.snowflake.com/en/data-cloud/cortex/)는 AI 기반 애플리케이션을 쉽고 효율적으로 생성하는 도구로, 이번 업데이트를 통해 기업이 수 분 내에 챗봇을 만들고 채팅 환경에서 자사 데이터를 활용한 답변을 얻어낼 수 있도록 한다.

또한 스노우플레이크의 새로운 노코드 인터랙티브 인터페이스와 업계 최고의 LLM (대규모언어모델)에 대한 접근 및 서버리스 파인 튜닝을 통해 비전문가도 특정 산업 사용 사례에 맞춰 AI를 쉽게 활용하는 ‘데이터 민주화’에 앞장서고 있다. 스노우플레이크 ML (https://www.snowflake.com/en/data-cloud/workloads/ai-ml/)을 통해서는 ML을 위한 통합 환경을 갖추고 모델을 운영할 수 있는 경로를 빠르게 개발할 수 있다. 스노우플레이크의 생성형 AI 및 ML 통합 플랫폼은 비즈니스 전반에 걸쳐 데이터로부터 더 많은 가치를 창출하고 완전한 보안과 거버넌스, 제어 기능으로 신뢰할 수 있는 AI를 대규모로 제공한다.

스노우플레이크 베리스 굴테킨(Baris Gultekin) AI 부문 수석은 “스노우플레이크는 엔터프라이즈급 AI 분야에서 업계를 선도하며 사용자 모두에게 간편하고 효율적이며 신뢰할 수 있는 AI를 제공해, 보안과 거버넌스를 준수하면서 복잡한 비즈니스 문제를 해결할 수 있도록 지원한다”며 “이번에 업데이트된 스노우플레이크 코텍스 AI의 기능은 모든 조직이 AI를 활용해 강력한 AI 애플리케이션을 대규모로 구축하고 AI 데이터 클라우드에서 기업 데이터로 차별화를 이룰 수 있도록 진입 장벽을 없앴다”고 말했다.

새로운 채팅 경험으로 기업 전체가 데이터와 직접 대화

LLM 기반 챗봇의 강점은 비전문가도 자연어로 질문해 내부 기업 데이터를 활용할 수 있다는 것이다. 기업은 이를 활용해 중요한 의사 결정을 하는 데 필요한 인사이트를 빠르게 얻을 수 있다. 스노우플레이크는 스노우플레이크 코텍스 애널리스트(Snowflake Cortex Analyst, 퍼블릭 프리뷰 예정)와 스노우플레이크 코텍스 서치(Snowflake Cortex Search, 퍼블릭 프리뷰 예정) 등 두 가지 새로운 채팅 기능을 공개했다. 이에 사용자는 복잡한 절차 없이 보유한 정형 및 비정형 데이터를 바탕으로 수 분 만에 챗봇을 개발할 수 있다. 메타의 라마3(Llama 3)와 미스트랄 라지(Mistral Large) 모델로 구축한 코텍스 애널리스트를 통해 기업은 생성형 AI 기반 애플리케이션을 안전하고 쉽게 구축할 수 있다. 코텍스 서치는 2023년 5월 스노우플레이크가 인수 (https://bit.ly/3yR0Rxi)한 니바(Neeva)의 최첨단 검색 및 랭킹 지정 기술과 스노우플레이크 아크틱 임베드 (https://bit.ly/3wa2EfS)(Snowflake Arctic embed)를 함께 활용해 벡터 및 텍스트가 결합된 엔터프라이즈급 하이브리드 검색 기능을 제공한다. 이를 통해 문서 및 기타 텍스트 기반 데이터세트에 대한 애플리케이션을 구축할 수 있도록 한다.

줌(Zoom) 아위나시 시나(Awinash Sinha) 기업 최고정보책임자(CIO)는 “데이터 보안과 거버넌스는 줌이 기업 분석에 AI를 활용할 때 가장 중요하게 여기는 요소다. 스노우플레이크 AI 데이터 클라우드를 활용해 내부 비즈니스 기능을 지원하고 고객 인사이트를 개발하는 등 조직 전반에서 AI 활용을 민주화하고 있다”며 “스노우플레이크 코텍스 AI와 스트림릿(Streamlit)의 기능을 결합해 사전 훈련된 LLM을 기반으로 하는 애플리케이션을 며칠 만에 빠르게 구축할 수 있었으며, 더 쉽고 빠른 답변을 도출하기 위해 AI를 활용하고 있다”고 말했다.

바이엘(Bayer) 무케시 두베이(Mukesh Dubey) 소비자 헬스 데이터 플랫폼 제품 책임자는 “일반적으로 기업은 대시보드로 자사의 데이터에서 정보를 추출해 전략적 의사 결정에 활용하지만, 정보 과부하·유연성 제한·오랜 시간 소요 등의 어려움이 있었다”며 “스노우플레이크 코텍스 애널리스트는 특정 질문에 시각적 요소를 포함한 답변을 제공할 뿐만 아니라 정형 데이터에 자연어 쿼리로 질문할 경우 수준 높은 답변을 제시하기도 한다. 아직 시작 단계에 불과한 이러한 기술을 발전시켜, 기업은 스노우플레이크 코텍스 AI를 활용해 더 많은 가치를 창출할 수 있을 것”이라고 덧붙였다.

데이터 보안은 운영 환경에서 AI 애플리케이션의 채팅 경험을 기업 전반에 적용하기 위한 핵심 요소이다. 이에 따라 스노우플레이크는 기업 데이터 및 자산 전반에 걸쳐 폭력, 혐오, 자해 또는 범죄 행위 등의 유해 콘텐츠를 필터링하는 LLM 기반 입출력 보호 기능인 메타의 라마 가드(Llama Guard)를 활용한 스노우플레이크 코텍스 가드(Snowflake Cortex Guard)를 출시한다. 스노우플레이크는 코텍스 가드를 통해 기업을 위한 AI 안전성을 높였다.

스노우플레이크, 생산성 향상을 위한 AI 경험 강화

스노우플레이크는 맞춤형 채팅 개발뿐 아니라 사전 구축된 AI 기반 경험을 제공한다. 사용자는 도큐먼트 AI(Document AI)를 통해 업계 최고 수준인 스노우플레이크의 멀티모달 LLM 스노우플레이크 아크틱 TILT (https://bit.ly/3yMvofH)(Snowflake Arctic-TILT)로 인보이스의 액수 또는 계약 조건 등의 콘텐츠를 간편하게 추출할 수 있다. 이 모델의 성능은 GPT-4를 능가하며 시각적 문서 질문 응답의 표준인 DocVQA 벤치마크 테스트 (https://bit.ly/3yPst5S)에서 최고 점수를 기록했다. 노던 트러스트(Northern Trust) 등의 기업은 도큐먼트 AI를 활용해 문서를 대량으로 처리함으로써 운영비용은 줄이고 효율성을 높이고 있다. 스노우플레이크는 미스트랄 라지의 강점과 스노우플레이크의 독자적 SQL 생성 모델을 조합해 모든 SQL 사용자의 생산성을 더욱 높여주는 텍스트-투-SQL 어시스턴트 스노우플레이크 코파일럿(Snowflake Copilot)도 출시할 예정이다.

새로운 스노우플레이크 AI & ML 스튜디오로 노코드 AI 개발 새 지평 열어

스노우플레이크 코텍스 AI는 스노우플레이크의 정상급 오픈소스 LLM인 스노우플레이크 아크틱(Snowflake Arctic) (https://bit.ly/3ReoOVg) 외에도 구글, 메타, 미스트랄 AI, 레카 등 유수 업체의 최첨단 모델 세트를 고객에게 제공해 AI 개발을 가속화한다. 스노우플레이크는 AI 개발 착수와 더 빠른 AI 애플리케이션 제품화를 지원하는 노코드 인터랙티브 인터페이스인 새로운 스노우플레이크 AI & ML 스튜디오(Snowflake AI & ML Studio, 프라이빗 프리뷰)를 통해 누구나 각자의 기업 데이터에 쉽게 적용하도록 하며 데이터 활용을 대중화하고 있다. 사용자는 간편한 테스트·평가 과정을 거쳐 특정 분야에 가장 적합한 모델을 선정하고, 궁극적으로 운영비를 최적화하며 생산 단계에 이르는 기간을 단축할 수 있다.

스노우플레이크는 기업이 LLM 성능을 더욱 향상하고 보다 개인화된 경험을 제공할 수 있도록 코텍스 파인튜닝(퍼블릭 프리뷰)을 출시했다. 이 서버리스 맞춤화는 메타 및 미스트랄 AI 모델의 일부로 제공되며 AI & ML 스튜디오 또는 간단한 SQL 기능으로 이용할 수 있다. 파인 튜닝을 거친 모델은 코텍스 AI 기능을 통해 쉽게 사용할 수 있으며, 스노우플레이크 역할 기반 접근제어를 통해 액세스를 관리한다.

스노우플레이크 ML, 통합 관리형 MLOps로 모델 및 기능 관리 지원

대부분의 기업은 ML 및 LLM 모델 개발 이후 변화하는 데이터 세트에서 이를 계속해서 운영하는 데 어려움을 겪는다. 스노우플레이크 ML은 AI 데이터 클라우드에 MLOps 기능을 제공한다. 조직은 데이터 전처리부터 모델 관리까지, ML 생애 주기 전반에 걸쳐 기능, 모델, 메타데이터를 원활하게 발견하고 관리 및 통제할 수 있다. 이러한 중앙 집중식 MLOps 기능은 스노우플레이크 노트북(Notebooks)과 Snowpark ML (https://bit.ly/3yJuIYq)을 비롯한 스노우플레이크 플랫폼과도 통합돼 간편한 엔드투엔드 경험을 제공한다.

스노우플레이크의 MLOps 기능은 스노우플레이크 모델 레지스트리(Snowflake Model Registry)를 포함한다. 스노우플레이크 모델 레지스트리는 모든 유형의 AI 모델의 액세스 및 사용을 통제함으로써 신뢰성과 효율을 보장하고 더욱 개인화된 경험과 비용 절감 자동화를 제공한다. 또한 스노우플레이크는 데이터 사이언티스트와 머신러닝 엔지니어들이 일관된 ML 기능을 생성, 저장, 관리 및 제공할 수 있는 통합 솔루션인 스노우플레이크 피쳐 스토어(Snowflake Feature Store, 퍼블릭 프리뷰)와 ML 리니지(ML Lineage, 프라이빗 프리뷰)를 발표했다. 이 서비스를 통해 기업은 ML 생애주기 전반에 걸쳐 기능과 데이터 세트, 모델의 사용을 추적할 수 있다.