HPC: สนามแข่งที่ซ่อนอยู่เบื้องหลังยุค AI - 60 ปีของการประมวลผลสมรรถนะสูง

เวลาพูดถึงดาต้าเซ็นเตอร์ AI ที่มี GPU นับแสนตัว หลายคนอาจคิดว่าเป็นเรื่องใหม่ที่เพิ่งเกิดในยุค ChatGPT แต่ความจริงแล้ว เทคโนโลยีแทบทุกชิ้นที่ทำให้การเทรน AI ขนาดใหญ่เป็นไปได้ ถูกทดสอบ ขัดเกลา และพิสูจน์มาก่อนแล้วกว่า 60 ปี ในโลกที่ชื่อว่า HPC (High-Performance Computing) หรือการประมวลผลสมรรถนะสูง

HPC ไม่ใช่ "ยุค" แต่คือ "สนามแข่ง"

ถ้าเปรียบวิวัฒนาการฮาร์ดแวร์เป็นวงการรถแข่ง CPU, GPU, HBM และเครือข่ายความเร็วสูง ก็คือ "เครื่องยนต์และชิ้นส่วน" ส่วน HPC คือ "สนามแข่งและทีมวิศวกร" ที่นำชิ้นส่วนทรงพลังที่สุดในแต่ละยุคมาประกอบรวมกัน แล้วรีดสมรรถนะออกมาจนถึงขีดสุด

โจทย์ที่ HPC ต้องแก้ คือโจทย์ที่คอมพิวเตอร์ทั่วไปไม่มีทางทำไหว เช่น

• พยากรณ์อากาศและจำลองการเปลี่ยนแปลงสภาพภูมิอากาศของโลกทั้งใบ
• จำลองการไหลของอากาศรอบปีกเครื่องบิน (Computational Fluid Dynamics: CFD)
• วิเคราะห์โครงสร้างโมเลกุลเพื่อออกแบบยาใหม่
• จำลองการระเบิดนิวเคลียร์โดยไม่ต้องทดลองจริง
• สร้าง Digital Twin หรือแบบจำลองดิจิทัลของโรงงาน เมือง หรือแม้แต่โลกทั้งใบ

หลักการของ HPC นั้นเรียบง่าย: หั่นโจทย์ใหญ่ออกเป็นชิ้นเล็กๆ กระจายให้คอมพิวเตอร์ (โหนด) นับพันเครื่องคำนวณพร้อมกัน แล้วรวมผลกลับมาผ่านเครือข่ายความเร็วสูง ความเร็วของระบบวัดเป็น FLOPS หรือจำนวนการคำนวณทศนิยมต่อวินาที

บ้านหลังแรกของ HPC: ซูเปอร์คอมพิวเตอร์ยุค Vector (ทศวรรษ 1960-1980)

สนามแข่งแห่งนี้เปิดฉากในปี 1964 เมื่อ CDC 6600 ซึ่งออกแบบโดย Seymour Cray กลายเป็นซูเปอร์คอมพิวเตอร์เครื่องแรกที่โลกยอมรับ และทำให้เขาได้รับฉายาว่า "บิดาแห่งซูเปอร์คอมพิวเตอร์"

ปี 1976 Cray-1 นำเสนอสถาปัตยกรรม Vector Processor ที่สั่งคำนวณข้อมูลทั้งชุดได้ในคำสั่งเดียว นี่คือต้นแบบของการประมวลผลแบบขนานที่ GPU จะนำมาใช้อีกหลายสิบปีต่อมา

ปี 1985 Cray-2 สร้างความฮือฮาด้วยการจุ่มวงจรทั้งเครื่องลงในของเหลวพิเศษเพื่อระบายความร้อน ซึ่งเป็นต้นแบบของ Liquid Cooling ที่ดาต้าเซ็นเตอร์ AI กำลังหันกลับมาใช้ในวันนี้

ยุคคลัสเตอร์: เมื่อคอมพิวเตอร์ธรรมดารวมพลังกัน (ทศวรรษ 1990)

เครื่อง Vector มีราคาสูงลิ่ว วงการ HPC จึงเปลี่ยนเกมด้วยการนำโปรเซสเซอร์ธรรมดาจำนวนมากมาต่อเข้าด้วยกันเป็น CPU Cluster

ปี 1994 เป็นปีสำคัญ โครงการ Beowulf ของ NASA พิสูจน์ว่าพีซีราคาถูกที่ต่อกันเป็นคลัสเตอร์ ให้พลังระดับซูเปอร์คอมพิวเตอร์ได้ และในปีเดียวกันก็เกิดมาตรฐาน MPI (Message Passing Interface) ที่กำหนดวิธีให้โหนดนับพันคุยกัน รวมถึงการสื่อสารแบบกลุ่มอย่าง All-Reduce

การจัดอันดับ TOP500 เริ่มต้นในปี 1993 และกลายเป็นเวทีชิงแชมป์ระดับโลก ปี 1997 ASCI Red ก็คว้าตำแหน่งเครื่องแรกที่ทะลุระดับ TeraFLOPS (ล้านล้านครั้งต่อวินาที)

จุดพลิกผัน: จาก CPU Cluster สู่ระบบไฮบริด (2008-2012)

เมื่อเข้าสู่ปลายทศวรรษ 2000 คลัสเตอร์ที่ใช้ CPU ล้วนเริ่มชนกำแพง ทั้งความเร็วที่เพิ่มได้ยากขึ้นเรื่อยๆ และค่าไฟที่พุ่งสูงจนไม่คุ้ม

ทางออกคือ "Accelerated Computing" หรือระบบไฮบริดที่ให้ CPU ทำหน้าที่ควบคุมภาพรวม แล้วโยนงานคำนวณหนักให้ชิปเร่งความเร็วนับพันตัวช่วยกันทำ

• ปี 2008 Roadrunner ที่ Los Alamos ใช้ชิป Cell ร่วมกับ CPU จนกลายเป็นเครื่องแรกที่ทะลุระดับ PetaFLOPS
• ปี 2012 Titan ที่ Oak Ridge ใช้ GPU ของ NVIDIA ที่เขียนโปรแกรมผ่าน CUDA เป็นกำลังหลัก ซึ่งบังเอิญเป็นปีเดียวกับที่ AlexNet จุดประกายยุค Deep Learning พอดี

จากจุดนั้น สถาปัตยกรรมไฮบริดก็กลายเป็นมาตรฐาน จนในปี 2022 Frontier ที่ Oak Ridge กลายเป็นเครื่องแรกที่ผ่านระดับ ExaFLOPS อย่างเป็นทางการ หรือคำนวณได้มากกว่าล้านล้านล้านครั้งต่อวินาที ตามมาด้วย Aurora และ El Capitan

ถ้ามองทั้งเส้นทาง ซูเปอร์คอมพิวเตอร์ก้าวขึ้นหนึ่งขั้นที่เร็วขึ้น 1,000 เท่า ทุกๆ ราว 11-14 ปี

กำแพงใหม่ของสนามแข่ง: พลังล้น แต่ข้อมูลไหลไม่ทัน

เมื่อเครื่องยนต์แรงขึ้นมหาศาล ปัญหาก็ย้ายไปอยู่ที่ "ท่อส่งเชื้อเพลิง" งาน HPC ยุคใหม่ ทั้ง Digital Twin การจำลองภูมิอากาศโลก หรือการเทรน AI ขนาดใหญ่ ต้องรับส่งข้อมูลมหาศาลในเสี้ยววินาที จึงมีกำแพงสองด่านที่ชี้เป็นชี้ตายว่าระบบจะเร็วจริงหรือไม่

• Memory Wall: ถ้า GPU คำนวณเร็วแต่ดึงข้อมูลจากหน่วยความจำมาป้อนไม่ทัน ชิปก็ต้องนั่งรอ ทางออกคือหน่วยความจำ HBM ที่ซ้อนชั้นแนวตั้งและวางชิดตัวชิป
• Network Wall: ถ้าโหนดนับพันคุยกันช้า ทั้งระบบต้องรอโหนดที่ช้าที่สุด ทางออกคือเครือข่ายความหน่วงต่ำอย่าง InfiniBand และเทคโนโลยี RDMA ที่ให้เครื่องอ่าน-เขียนหน่วยความจำของกันและกันได้โดยตรง

พูดง่ายๆ คือ ซูเปอร์คอมพิวเตอร์ที่มี GPU แรงที่สุดในโลก แต่ข้อมูลไหลไม่ทัน ก็ไม่ต่างจากรถแข่งที่ติดอยู่ในพิทสต็อป

HPC กับ AI: จากคนละสนาม สู่สนามเดียวกัน

ในอดีต HPC อยู่แต่ในห้องทดลองของรัฐบาล มหาวิทยาลัย และศูนย์วิจัยเฉพาะทาง แต่ทุกวันนี้ เส้นแบ่งระหว่าง HPC แบบดั้งเดิมกับโครงสร้างพื้นฐาน AI แทบจะหายไปแล้ว ดาต้าเซ็นเตอร์ที่บริษัทเทคโนโลยีใช้เทรนโมเดล AI ระดับโลก ก็คือระบบ HPC ดีๆ นี่เอง เพียงแต่เปลี่ยนเป้าหมายจากการจำลองฟิสิกส์ มาเป็น Deep Learning ขนาดมหึมา

และเทคโนโลยีจำนวนมากที่ AI ใช้อยู่ ก็สืบทอดมาจาก HPC โดยตรง

• เครือข่าย InfiniBand และ RDMA ที่เชื่อม GPU ในดาต้าเซ็นเตอร์ AI เติบโตมาจากคลัสเตอร์ HPC
• การรวมผลแบบ All-Reduce ระหว่างเทรนโมเดล มาจากแนวคิดของ MPI
• การใช้ GPU เป็นกำลังหลัก ถูกพิสูจน์ในซูเปอร์คอมพิวเตอร์อย่าง Titan มาก่อน
• ระบบระบายความร้อนด้วยของเหลว มีมาตั้งแต่ยุค Cray-2

ถึงอย่างนั้น ทั้งสองโลกก็ยังต่างกันในจุดสำคัญ งานจำลองทางฟิสิกส์ต้องการความแม่นยำสูงแบบ 64 บิต (FP64) ขณะที่ AI ทำงานได้ดีด้วยความแม่นยำต่ำกว่า เช่น 16 บิตหรือ 8 บิต ซึ่งเร็วและประหยัดพลังงานกว่ามาก ชิปรุ่นใหม่จึงต้องรองรับทั้งสองแบบ และซูเปอร์คอมพิวเตอร์ยุคนี้ก็ถูกใช้ทั้งจำลองทางวิทยาศาสตร์และเทรน AI ไปพร้อมกัน

บทสรุป

HPC ไม่ได้อยู่ในยุคใดยุคหนึ่ง แต่เป็นสนามแข่งที่เทคโนโลยีทุกยุคมาบรรจบกัน เป็นที่ที่ CPU, GPU, HBM และเครือข่ายความเร็วสูงถูกนำมาผนึกกำลัง เพื่อทะลวงขีดจำกัดของโจทย์ที่ยากที่สุดของมนุษยชาติ

วันนี้ HPC กับ AI กำลังหลอมรวมเป็นสนามเดียว และกำลังเผชิญกำแพงเดียวกัน นั่นคือ "พลังงาน" ซึ่งอ่านต่อได้ในบทความ ข้ามขีดจำกัดพลังประมวลผล ที่เล่าเส้นทางของฮาร์ดแวร์ AI ตั้งแต่ยุค CPU จนถึงกำแพงพลังงานและความร้อนในปัจจุบัน