Tweet
หลังจากถล่มโลก ไปกับ ฟรอนเทีย อินเทลโต้กลับด้วย Aurola amd ก็ ยังมี Eicapitan ไว้ฟัด
ไม่ทัน ไรบริษัทเมต้า จัด server AI ระดับห้า ล้าน เทร่าฟลอป ควงคู่กะ nvidia A100
แรงกว่า ฟรอนเทีย แต่ ยังไม่ได้อันดับนะครับ เพราะต้องรอการเข้าไปตรวจสอบทดสอบ จาก top 500 กันต่อ
เรียกว่า ฝั่งพีซี ยอดขายอาจไม่สู้พี่ทิดอิน แต่ ฝั่ง server นี่อินเทล โดนแทะ แน่นอน และ บอกเลย
ปีนี้ปีหน้า หนักแน่นอน เพราะ Nvidia จะดัน Grace มาแทน อิปิคส์ และชิพอินเทล server
Meta ประกาศความสำเร็จในการสร้างซูเปอร์คอมพิวเตอร์ Research SuperCluster (RSC) เฟสที่สอง ที่เปิดตัวครั้งแรกต้นปี 2022 ตอนนี้มีสมรรถนะเกือบ 5 exaflops ถือเป็นซูเปอร์คอมพิวเตอร์อันดับหนึ่งของโลก (แชมป์ปัจจุบัน Frontier มีสมรรถนะ 1 exaflops)
สเปกเครื่องของ Research SuperCluster (RSC) ใช้เครื่อง NVIDIA DGX A100 จำนวน 2,000 เครื่อง นับจำนวน Tensor Core รวม 16,000 คอร์ เชื่อมต่อกันด้วย Quantum InfiniBand 16 Tb/s
ระบบสตอเรจใช้โซลูชันที่บริษัทพัฒนาเองเรียกว่า AI Research Store (AIRStore) โดยใช้ฮาร์ดแวร์จาก Penguin Computing และ Pure Storage ประกอบด้วยแคชขนาด 80PB และตัว bulk storage ขนาด 500PB, สมรรถนะ 16TB/s แต่ยังไม่มีรายละเอียดสถาปัตยกรรมเปิดเผยออกมา
หน้าที่ของ RSC คือการวิจัยด้าน AI ของบริษัท Meta ตัวอย่างคือโมเดลภาษาขนาดใหญ่ LLaMA, โมเดลแปลภาษา No Language Left Behind, โมเดลแปลภาษา Universal Speech Translator ซึ่งโมเดลขนาดใหญ่เหล่านี้ต้องใช้ทรัพยากรมหาศาลในการประมวลผล ตัวเลขของ Meta ระบุว่าสามารถลดเวลาเทรน LLaMA (1.4 ล้านล้าน tokens) ลงได้เหลือ 21 วัน, ลดเวลาเทรน No Language Left Behind จากเดิม 1 เดือนลงมาเหลือ 7-10 วัน
เครดิต บล้อคนอน
https://www.blognone.com/node/133932
ไม่ทัน ไรบริษัทเมต้า จัด server AI ระดับห้า ล้าน เทร่าฟลอป ควงคู่กะ nvidia A100
แรงกว่า ฟรอนเทีย แต่ ยังไม่ได้อันดับนะครับ เพราะต้องรอการเข้าไปตรวจสอบทดสอบ จาก top 500 กันต่อ
เรียกว่า ฝั่งพีซี ยอดขายอาจไม่สู้พี่ทิดอิน แต่ ฝั่ง server นี่อินเทล โดนแทะ แน่นอน และ บอกเลย
ปีนี้ปีหน้า หนักแน่นอน เพราะ Nvidia จะดัน Grace มาแทน อิปิคส์ และชิพอินเทล server
Meta ประกาศความสำเร็จในการสร้างซูเปอร์คอมพิวเตอร์ Research SuperCluster (RSC) เฟสที่สอง ที่เปิดตัวครั้งแรกต้นปี 2022 ตอนนี้มีสมรรถนะเกือบ 5 exaflops ถือเป็นซูเปอร์คอมพิวเตอร์อันดับหนึ่งของโลก (แชมป์ปัจจุบัน Frontier มีสมรรถนะ 1 exaflops)
สเปกเครื่องของ Research SuperCluster (RSC) ใช้เครื่อง NVIDIA DGX A100 จำนวน 2,000 เครื่อง นับจำนวน Tensor Core รวม 16,000 คอร์ เชื่อมต่อกันด้วย Quantum InfiniBand 16 Tb/s
ระบบสตอเรจใช้โซลูชันที่บริษัทพัฒนาเองเรียกว่า AI Research Store (AIRStore) โดยใช้ฮาร์ดแวร์จาก Penguin Computing และ Pure Storage ประกอบด้วยแคชขนาด 80PB และตัว bulk storage ขนาด 500PB, สมรรถนะ 16TB/s แต่ยังไม่มีรายละเอียดสถาปัตยกรรมเปิดเผยออกมา
หน้าที่ของ RSC คือการวิจัยด้าน AI ของบริษัท Meta ตัวอย่างคือโมเดลภาษาขนาดใหญ่ LLaMA, โมเดลแปลภาษา No Language Left Behind, โมเดลแปลภาษา Universal Speech Translator ซึ่งโมเดลขนาดใหญ่เหล่านี้ต้องใช้ทรัพยากรมหาศาลในการประมวลผล ตัวเลขของ Meta ระบุว่าสามารถลดเวลาเทรน LLaMA (1.4 ล้านล้าน tokens) ลงได้เหลือ 21 วัน, ลดเวลาเทรน No Language Left Behind จากเดิม 1 เดือนลงมาเหลือ 7-10 วัน
เครดิต บล้อคนอน
https://www.blognone.com/node/133932