NVIDIA Spectrum-6 ที่สร้างมาเพื่อ Vera Rubin พร้อมขับเคลื่อนโรงงาน AI ระดับ Gigascale

NVIDIA เปิดตัว Spectrum-6 ระบบสวิตช์ Ethernet ความเร็ว 102.4 Tb/s ซึ่งมีความจุสูงกว่ารุ่นก่อน 2 เท่า เพื่อรองรับ “โรงงาน AI” ระดับกิกะสเกลที่ใช้ GPU และ CPU หลายแสนตัวร่วมกันในการฝึกโมเดล AI และให้บริการ inference

ประเด็นสำคัญคือ เมื่อระบบ AI มีขนาดใหญ่มาก ประสิทธิภาพไม่ได้ขึ้นกับ GPU เพียงอย่างเดียว แต่ขึ้นอยู่กับว่า GPU จำนวนมหาศาลสามารถแลกเปลี่ยนข้อมูลและทำงานพร้อมกันได้ดีเพียงใด หากเครือข่ายช้าหรือมีจุดขัดข้องเพียงจุดเดียว งานทั้งหมดอาจชะลอลงได้

Spectrum-6 เป็นส่วนหนึ่งของแพลตฟอร์ม NVIDIA Vera Rubin และเป็นแกนของ Spectrum-X Ethernet รุ่นใหม่ ซึ่งออกแบบมาเพื่อรูปแบบทราฟฟิกของ AI โดยเฉพาะ ต่างจาก Ethernet ทั่วไปที่เน้นการเชื่อมต่อระหว่างผู้ใช้ เซิร์ฟเวอร์ และที่เก็บข้อมูล

ระบบนี้ทำงานร่วมกับองค์ประกอบอื่น เช่น Vera CPU, Rubin GPU, NVLink 6 Switch, ConnectX-9 SuperNIC และ BlueField-4 DPU เพื่อสร้างโครงสร้างพื้นฐาน AI แบบครบวงจร จุดเด่นคือช่วยกระจายทราฟฟิกอย่างเหมาะสม เลี่ยงเส้นทางที่มีปัญหา กู้คืนข้อมูลที่ส่งไม่ถึงปลายทาง และรองรับการระบายความร้อนด้วยของเหลวเพื่อเพิ่มประสิทธิภาพพลังงาน

ผู้ให้บริการและผู้สร้างโครงสร้างพื้นฐาน AI เช่น CoreWeave, Microsoft, Nebius, OCI, SpaceXAI และ Tesla ถูกระบุว่าจะเป็นกลุ่มแรกที่นำ Spectrum-6 ไปใช้

ตามข้อมูลในเนื้อหา NVIDIA ระบุว่า Spectrum-X Ethernet ให้ประสิทธิภาพเครือข่าย AI สูงกว่า Ethernet ทั่วไปได้สูงสุด 1.6 เท่า รักษาประสิทธิภาพเครือข่ายได้สูงสุด 95% ในระบบที่มี GPU มากกว่า 100,000 ตัว และเทคโนโลยีด้านโฟโตนิกส์ช่วยเพิ่มประสิทธิภาพพลังงานได้ 5 เท่า รวมถึงเพิ่มระยะเวลาเฉลี่ยระหว่างเหตุขัดข้องได้ 10 เท่า

ที่มา : nvidia