SK hynix เปิดตัว iHBM เทคโนโลยีระบายความร้อน HBM สำหรับชิป AI ยุคใหม่

SK hynix เปิดตัวเทคโนโลยีใหม่ชื่อ “iHBM” ซึ่งเป็นสถาปัตยกรรมระบายความร้อนสำหรับหน่วยความจำ HBM (High Bandwidth Memory) ที่ออกแบบมาเพื่อแก้ปัญหาความร้อนของระบบ AI ประสิทธิภาพสูงโดยเฉพาะ โดยบริษัทตั้งเป้าใช้งานกับชิป AI accelerator และดาต้าเซ็นเตอร์ยุคถัดไปที่มีความหนาแน่นของการประมวลผลสูงขึ้นเรื่อย ๆ

ปัญหาความร้อน กลายเป็นคอขวดสำคัญของ AI

ปัจจุบัน HBM ถือเป็นหัวใจสำคัญของชิป AI สมัยใหม่ เพราะสามารถส่งข้อมูลด้วย bandwidth สูงมากผ่านการซ้อน DRAM หลายชั้นในแนวตั้ง ทำให้ GPU และ AI accelerator สามารถประมวลผลโมเดลขนาดใหญ่ได้รวดเร็วขึ้น

อย่างไรก็ตาม เมื่อจำนวนชั้นของ HBM เพิ่มขึ้น และความเร็วในการรับส่งข้อมูลสูงขึ้นตามไปด้วย ปัญหาความร้อนก็รุนแรงขึ้นอย่างมากเช่นกัน โดยเฉพาะในระบบ AI ที่ต้องทำงานหนักตลอดเวลาในดาต้าเซ็นเตอร์ขนาดใหญ่

นอกจากนี้ HBM ยังถูกติดตั้งไว้ใกล้กับ GPU หรือชิปประมวลผลมากที่สุดเท่าที่จะทำได้ เพื่อลด latency และเพิ่มประสิทธิภาพการสื่อสารข้อมูล ส่งผลให้เกิดการสะสมความร้อนในพื้นที่ขนาดเล็กอย่างหลีกเลี่ยงไม่ได้

เมื่ออุณหภูมิสูงเกินระดับที่กำหนด ระบบจะเข้าสู่ภาวะ thermal throttling หรือการลดความเร็วการทำงานอัตโนมัติเพื่อป้องกันความเสียหาย ซึ่งทำให้ประสิทธิภาพโดยรวมของระบบ AI ลดลงทันที

iHBM คืออะไร

แนวคิดของ iHBM แตกต่างจากระบบระบายความร้อนแบบเดิม เพราะไม่ได้รอให้ความร้อนสะสมแล้วค่อยดึงออกจากภายนอกแพ็กเกจ แต่เลือก “จัดการความร้อนจากต้นทาง” ตั้งแต่จุดที่เกิดความร้อนมากที่สุดภายใน HBM

SK hynix ใช้เทคโนโลยีที่เรียกว่า Integrated Cooling Elements หรือ ICE ซึ่งเป็นชุดระบายความร้อนที่ถูกฝังไว้ภายในอินเทอร์เฟซของ HBM โดยตรง

จุดสำคัญคือบริเวณ D2D PHY หรือชั้นเชื่อมต่อระหว่าง HBM กับตัวประมวลผล AI ซึ่งเป็นพื้นที่ที่มีการรับส่งข้อมูลความเร็วสูงและเกิดความร้อนสะสมมากที่สุด

ด้วยการฝังระบบระบายความร้อนเข้าไปในจุดดังกล่าว บริษัทระบุว่าสามารถลดค่าความต้านทานความร้อน หรือ thermal resistance ลงได้ประมาณ 30% ส่งผลให้ชิปสามารถรักษาประสิทธิภาพได้เสถียรมากขึ้นแม้ทำงานภายใต้โหลดหนัก

รองรับ HBM5 และ AI Accelerator รุ่นอนาคต

SK hynix มองว่าเทคโนโลยี iHBM จะมีบทบาทสำคัญมากขึ้นในอนาคต โดยเฉพาะกับหน่วยความจำ HBM5 ซึ่งจะมี bandwidth สูงขึ้นและใช้พลังงานมากขึ้นกว่าเดิม

หากไม่มีการจัดการความร้อนที่ดีพอ ความสามารถของชิป AI รุ่นใหม่อาจถูกจำกัดด้วยอุณหภูมิ แทนที่จะเป็นข้อจำกัดด้านพลังประมวลผล

บริษัทระบุเพิ่มเติมว่า iHBM ยังสามารถใช้งานร่วมกับกระบวนการแพ็กเกจปัจจุบันของบริษัทได้ เช่น MR-MUF และ Wafer Level Packaging ทำให้สามารถนำไปพัฒนาต่อในสายการผลิตจริงได้ง่ายขึ้น โดยไม่จำเป็นต้องเปลี่ยนโครงสร้างการผลิตทั้งหมด

SK hynix เดินหน้ารักษาความเป็นผู้นำตลาด HBM

Lee Kang-wook รองประธานของ SK hynix กล่าวว่า iHBM เป็นโซลูชันที่เหมาะสมที่สุดสำหรับการแก้ปัญหาความร้อนของหน่วยความจำ AI และสะท้อนถึงความสามารถของบริษัทในการผสานเทคโนโลยีหน่วยความจำเข้ากับแพ็กเกจขั้นสูง

ในช่วงที่การแข่งขันด้าน AI กำลังรุนแรงขึ้น ความสามารถในการควบคุมอุณหภูมิของ HBM อาจกลายเป็นปัจจัยสำคัญที่กำหนดประสิทธิภาพของชิป AI รุ่นถัดไป และ iHBM อาจเป็นอีกก้าวสำคัญของ SK hynix ในการรักษาความเป็นผู้นำตลาดหน่วยความจำสำหรับ AI ในอนาคต

ที่มา : tom’sHARDWARE