NVIDIA Spectrum-6 เริ่มเข้าสู่ AI Factory ยุค Gigascale พร้อมรองรับคลัสเตอร์ระดับหลายแสน GPU

NVIDIA ประกาศว่า Spectrum-6 ชิป Ethernet Switch รุ่นใหม่ ได้เริ่มถูกนำไปใช้งานใน AI Factory รุ่นถัดไปของผู้ให้บริการโครงสร้างพื้นฐาน AI ชั้นนำ ได้แก่ CoreWeave, Nebius, Crusoe และ Yotta เพื่อรองรับการประมวลผลของคลัสเตอร์ GPU ขนาดใหญ่ และเตรียมความพร้อมสำหรับแพลตฟอร์ม NVIDIA Vera Rubin ที่จะเปิดตัวในอนาคต

แตกต่างจาก Ethernet สำหรับดาต้าเซ็นเตอร์ทั่วไป Spectrum-6 ได้รับการออกแบบโดยคำนึงถึงเวิร์กโหลดด้าน AI เป็นหลัก ไม่ว่าจะเป็นการฝึกโมเดล (Training) หรือการประมวลผล (Inference) ที่ต้องอาศัย GPU จำนวนมหาศาลทำงานร่วมกันภายในคลัสเตอร์เดียว โดย NVIDIA ระบุว่าระบบเครือข่ายใน AI Factory ยุคใหม่ไม่ได้ทำหน้าที่เพียงรับส่งข้อมูลระหว่างอุปกรณ์อีกต่อไป แต่กลายเป็นองค์ประกอบสำคัญที่ส่งผลโดยตรงต่อประสิทธิภาพของระบบโดยรวม

เพื่อรองรับเวิร์กโหลดเหล่านี้ Spectrum-6 มาพร้อมความสามารถในการลดค่าความหน่วงของเครือข่าย (Latency) ลดการสูญเสียแพ็กเก็ตข้อมูล (Packet Loss) และรักษาความสม่ำเสมอของการรับส่งข้อมูลระหว่างโหนด ซึ่งช่วยลดเวลาที่ GPU ต้องรอข้อมูลจากเครือข่าย และทำให้ทรัพยากรประมวลผลถูกใช้งานได้อย่างเต็มประสิทธิภาพ

NVIDIA ยังผสานเทคโนโลยีด้านเครือข่ายหลายส่วนเข้าไว้ใน Spectrum-X Ethernet รุ่นใหม่ ไม่ว่าจะเป็น Adaptive Routing สำหรับเลือกเส้นทางรับส่งข้อมูลที่เหมาะสมที่สุดแบบอัตโนมัติ, Congestion Control สำหรับลดปัญหาคอขวดของเครือข่าย และ Real-time Telemetry ที่ช่วยตรวจสอบสถานะของระบบได้แบบเรียลไทม์ ทำให้สามารถรักษาประสิทธิภาพการสื่อสารระหว่าง GPU ได้แม้ในสภาพแวดล้อมที่มีทราฟฟิกหนาแน่น

อีกหนึ่งจุดเด่นของ Spectrum-6 คือการออกแบบให้มีประสิทธิภาพด้านพลังงานสูงขึ้น โดยเพิ่มอัตราส่วนแบนด์วิดท์ต่อการใช้พลังงาน (Bandwidth per Watt) พร้อมรองรับระบบระบายความร้อนด้วยของเหลว (Liquid Cooling) ซึ่งกำลังกลายเป็นมาตรฐานของดาต้าเซ็นเตอร์ที่รองรับ AI เนื่องจากคลัสเตอร์ประมวลผลรุ่นใหม่มีทั้งความหนาแน่นของอุปกรณ์และการใช้พลังงานสูงกว่าระบบแบบเดิมอย่างมาก

NVIDIA มองว่า AI Factory กำลังก้าวเข้าสู่ยุคของคลัสเตอร์ระดับ Gigascale ที่ประกอบด้วย GPU ตั้งแต่หลายหมื่นไปจนถึงหลายแสนตัว ส่งผลให้ “เครือข่าย” มีบทบาทสำคัญไม่แพ้ตัวประมวลผล เพราะหากระบบรับส่งข้อมูลไม่สามารถทำงานได้อย่างมีประสิทธิภาพ ศักยภาพของ GPU ก็จะไม่สามารถถูกนำมาใช้งานได้เต็มที่

ด้วยเหตุนี้ Spectrum-6 จึงถูกพัฒนาให้ทำงานร่วมกับ GPU, CPU และซอฟต์แวร์ AI ภายในระบบนิเวศของ NVIDIA ได้อย่างครบวงจร เพื่อสร้างแพลตฟอร์มแบบ End-to-End สำหรับ AI Factory ที่สามารถขยายระบบได้ในระยะยาว พร้อมรองรับโมเดล AI รุ่นใหม่ที่ต้องการพลังประมวลผลและแบนด์วิดท์ของเครือข่ายเพิ่มขึ้นอย่างต่อเนื่อง

การเปิดตัว Spectrum-6 สะท้อนให้เห็นว่าการแข่งขันด้าน AI Infrastructure ในปัจจุบันไม่ได้จำกัดอยู่เพียงการพัฒนา GPU ที่ทรงพลังขึ้นเท่านั้น แต่ยังรวมถึงการยกระดับเครือข่ายให้สามารถรองรับการทำงานของระบบ AI ขนาดมหาศาลได้อย่างมีประสิทธิภาพ ซึ่งจะเป็นอีกหนึ่งปัจจัยสำคัญของ AI Factory ในยุคถัดไป

ที่มา : nvidia