엔비디아가 자사의 EGX 엣지 AI(EGX Edge AI) 플랫폼을 위한 새로운 제품 2종을 공개했다.
대형 상용 서버를 위한 EGX A100과 마이크로 엣지 서버를 위한 소형 EGX 젯슨 자비에 NX(EGX Jetson Xavier NX)로 구성되는 이번 제품은 엣지에서 고성능으로 안정적인 인공지능(AI) 처리를 수행하는 것이 특징이다.
엔비디아 EGX 엣지 AI 플랫폼을 통해 병원, 상점, 농장 및 공장은 수십억 개의 엣지 센서에서 대규모 데이터 스트리밍을 실시간으로 처리하고 보호할 수 있을 뿐 아니라 서버 플릿(fleet)을 원격으로 안전하게 구축, 관리 및 업데이트할 수 있다.
EGX A100 통합 가속기와 EGX 젯슨 자비에 NX 마이크로 엣지 서버는 다양한 크기, 비용 및 성능 요구를 충족시키기 위해 개발됐다.
예를 들어 EGX A100으로 구동되는 서버는 공항에서 수백 대의 카메라를 관리할 수 있는 반면 EGX 젯슨 자비에 NX는 편의점에 배치된 보다 소수의 카메라를 관리하도록 설계됐다.
더불어 엔비디아는 클라우드 네이티브 지원을 EGX 제품군 전반으로 확대해 기업들은 최적화된 AI 소프트웨어를 사용해 AI 애플리케이션을 쉽게 구축 및 배포할 수 있게 됐다.
젠슨 황(Jensen Huang) 엔비디아 창립자 겸 CEO는 “사물인터넷(IoT)과 AI가 융합되면서 이른바 ‘스마트 에브리씽(smart everything) 혁명이 시작됐다. 이동통신 업계가 스마트폰을 통해 제공하고 있는 것처럼 다른 산업에서도 지능형 커넥티드 제품과 서비스를 공급할 수 있게 됐다. 엔비디아 EGX 엣지 AI 플랫폼은 표준 서버를 작고 안전한 클라우드 네이티브 AI 데이터센터로 변모시킨다. AI 애플리케이션 프레임워크를 활용해 기업들은 스마트 리테일, 로봇 활용 공장, 자동화된 콜 센터에 이르는 다양한 AI 서비스를 구축할 수 있다”고 설명했다.
AI는 모든 산업에 혁명을 일으키고 있으며 작업자가 공장에서 기계를 작동하는 방식에서 의사가 환자를 진단하고 치료하는 방법까지 모든 것을 변화시키고 있다. 엔비디아의 EGX 엣지 AI 플랫폼은 가속 컴퓨팅, 가속 네트워킹 및 보안을 결합하여 차세대 엣지 컴퓨팅의 구현을 앞당기고 있다”고 설명했다.
EGX A100은 엔비디아 암페어(NVIDIA Ampere) 아키텍처 상 최초의 엣지 AI 제품이다. AI가 점점 엣지로 이동함에 따라 조직들은 서버에 EGX A100을 포함시켜 엣지 센서에서 방대한 양의 스트리밍 데이터를 실시간으로 처리하고 보호할 수 있다.
EGX A100은 또한 엔비디아 암페어 아키텍처의 획기적인 컴퓨팅 성능과 멜라녹스 ConnectX-6 Dx SmartNIC의 가속화된 네트워킹 및 중요 보안 기능을 결합해 표준 및 특수 목적의 엣지 서버를 안전한 클라우드 네이티브 AI 슈퍼컴퓨터로 변환시킨다.
엔비디아의 8세대 GPU 아키텍처인 엔비디아 암페어 아키텍처는 AI 추론, 엣지에서 실행되는 5G 애플리케이션 등 광범위한 컴퓨팅 집약적 워크로드를 위해 획기적으로 향상된 성능을 제공한다.
이를 통해 EGX A100은 카메라 및 기타 사물인터넷(IoT) 센서에서 대용량 스트리밍 데이터를 실시간으로 처리해 더 빠른 통찰력을 제공하고 비즈니스 효율성을 높일 수 있도록 한다.
멜라녹스 ConnectX-6 네트워크 카드를 탑재한 EGX A100은 최대 200Gbps의 데이터를 수신해 이를 AI나 5G 신호 처리를 위해 GPU 메모리로 직접 전송할 수 있다.
또 통신용으로 설계된 멜라녹스의 TT(Time-Triggered) 전송 기술(5G용 5T)을 도입한 EGX A100은 5G에서 레이턴시에 가장 민감한 사용사례를 처리할 수 있는 클라우드 네이티브 소프트웨어 정의형 가속기다. 이를 통해 상점, 병원, 공장 현장 등 각 지점에서 지능적인 실시간 의사결정을 가능케 하는 AI와 5G 플랫폼을 제공한다.
EGX 젯슨 자비에 NX는 세계에서 가장 작고 강력한 마이크로 서버 및 엣지 AIoT 박스용 AI 슈퍼 컴퓨터로 현재 생태계 파트너들을 통해 이용할 수 있는 20개 이상의 솔루션이 있다.
엔비디아 자비에 SoC의 강력한 기능을 신용카드 크기의 모듈에 담은 것으로 EGX 클라우드 네이티브 소프트웨어 스택을 구동하는 EGX 젯슨 자비에 NX는 여러 고해상도 센서의 스트리밍 데이터를 빠르게 처리한다.
이 에너지 효율적인 모듈은 15W에서 최대 21TOPS, 10W에서 14TOPS의 성능을 제공한다.
즉, EGX 젯슨 자비에 NX는 AI 워크로드를 지원하기 위해 성능은 향상시켜야 하지만 크기, 무게, 전력 예산 또는 비용의 제약을 받는 임베디드 엣지 컴퓨팅 디바이스 분야에 새로운 기회를 제공한다.
EGX 엣지 AI 플랫폼의 클라우드 네이티브 아키텍처를 통해 컨테이너화된 소프트웨어를 실행하여 다양한 GPU 가속 워크로드를 지원할 수 있다.
엔비디아 애플리케이션 프레임워크에는 헬스케어용 클라라(Clara), 이동통신사업자용 애리얼(Aerial), 대화형 AI용 자비스(Jarvis), 로보틱스용 Isaac, 스마트시티, 소매, 교통 등을 위한 메트로폴리스(Metropolis)가 포함된다. 이들은 함께 또는 개별적으로 사용될 수 있으며 다양한 엣지 사용사례를 위해 활용될 수 있다.
또 클라우드 네이티브 지원이 엔비디아 EGX 제품군 전체로 확대됨에 따라 지능형 머신 제조업체와 AI 애플리케이션 개발자들은 로보틱스, 스마트시티, 헬스케어, 산업용 IoT 등을 대상으로 하는 임베디드 및 엣지 디바이스에서 고품질의 소프트웨어 정의 기능을 구축 및 배포할 수 있게 됐다.
엔비디아 EGX 소프트웨어를 사용하는 기존 엣지 서버는 아토스(Atos), Dell, 후지쯔(Fujitsu), 기가바이트(GIGABYTE), HPE, IBM, 인스퍼(Inspur), 레노버(Lenovo), 콴타(Quanta) 및 슈퍼마이크로(Supermicro) 같은 글로벌 엔터프라이즈 컴퓨팅 제공업체는 물론, 어드밴테크(Advantech), ADLINK 같은 주요 서버 및 IoT 시스템 제조업체를 통해 이용 가능하다.
더불어 화이트보드 코디네이터(Whiteboard Coordinator), 딥 비전 AI(Deep Vision AI), 아이언윈(IronYun), 마롱(Malong), 리얼네트웍스(RealNetworks)의 SAFR과 같은 소프트웨어 공급업체들은 이러한 서버를 최적화된 애플리케이션 프레임워크와 함께 사용해 의료, 소매, 제조 및 스마트시티 솔루션을 구축하고 배포할 수 있다.
EGX A100은 올해 말 정식 출시 예정이다. 엣지 시스템을 대량생산하고자 하는 기업들은 EGX 젯슨 자비에 NX를 기반으로 하는 즉시 구축 가능한 마이크로 엣지 서버를 이용할 수 있다.