디지털연합뉴스

데이터센터 O&M 전문 기업 이호스트ICT가 운영하는 서버 전문 브랜드 AIOCP가 최적의 GPU 성능을 설정하고 효율적인 구매를 돕는 인공지능(AI) GPU 컨설팅 서비스를 무료 제공한다.

데이터 서버용 그래픽 카드의 인기가 고공행진 중이다. ChatGPT와 같은 대형 언어 모델이 일반적으로 활용되기 시작한 한편, 자율주행 등의 AI 기술이 상용화되며 AI GPU 그래픽카드 칩에 대한 수요가 폭증했기 때문이다.

그러나 GPU와 같은 복잡한 반도체 제품은 늘어나는 수요 만큼 빠르게 공급하기 어려운 것이 업계의 현실이다. 또한 머신러닝이나 딥러닝 등의 AI 연구 개발에 필요한 고성능 GPU 서버의 경우 일반 서버 대비 4배 가량의 높은 전력을 요구하는데, 일반적인 IDC나 소규모 전산실에서는 이 환경을 충족하기 까다롭다.

따라서 GPU 구매 시에는 전문가와의 컨설팅을 통해 실제 작업 요구 사항을 분석해 최적화된 성능을 구현하는 것을 권장한다. 하지만 소비자 입장에서 높은 컨설팅 비용이 부담되는 경우가 많다.

실제 스타트업에서 근무하는 개발자는 텐서플로우 프레임워크를 활용해야 하는 신규 머신러닝 프로젝트를 앞둔 상황에서 그래픽카드 사용 노하우가 많지 않아 어떤 것을 선택할지 고민인 경우가 있다며, 고성능 서버일수록 가격이 비싼데 소규모 기업이나 스타트업에서는 과감한 비용투자가 어렵다 보니 컨설팅이 꼭 필요한 상황이라고 밝혔다.

효율적인 AI GPU 구축을 위해서는 사용하게 될 애플리케이션의 종류, 작업 부하의 크기, 병렬 처리 요구 사항 등 AI 워크로드 목적에 따라 GPU 서버를 선택해야 한다. 각 GPU 서버의 모델에 따라 충족할 수 있는 사양이 다르기 때문이다. 또한 선택한 서버에 따른 적정한 예산 설정이 필요하며, 설치·설정·문제 해결·업그레이드 등 기술 지원이 필요한 경우를 대비해야 한다.

서버 전문 브랜드 AIOCP를 보유한 이호스트ICT는 Tier 3급 고가용성을 확보한 IDC 시설을 21년째 운영 중이다. 이호스트ICT는 40000KW 규모의 안정적인 고전력 IDC 환경을 서비스하는 한편 DDoS 방어, 방화벽 운영, 네트워크 모니터링, 장애 대응 솔루션 등을 무상 제공하고 있다.

김철민 이호스트ICT 대표는 “이호스트ICT는 서버 전문 브랜드 AIOCP를 보유하고 있어 GPU 서버뿐 아니라 관련된 통합 인프라를 안정적으로 공급 가능한 기업”이라며 “4차 산업을 이끄는 AI 기술을 함께 만들어간다는 자부심을 가지고 고객 만족과 사업 확장을 위해 노력하고 있다”며 포부를 밝혔다.