Review AMD Ryzen 3 3300X ไม่มี AVX512 แจ้งเกิดไม่ได้นะคะ ใครบางคนไม่ได้กล่าวไว้ .....

[playpotonjom]

เลือกตามการใช้งานละกันครับ ค่อย ๆ คุยกันนะครับ



Ref: https://inaccel.com/cpu-gpu-fpga-or-...ning-training/

[best0032001]

ก็ผมบอกแล้วไงว่า ให้คุณ ไปเขียน บอกคนทั้งโลกให้เลิก ใช้ AVX512 ทำ AI
คุณมา เหมา รวมคนใช้ AVX512 ทำ AI ว่าเป็นเรื่อง ตลก กบในกะลา

ก็ผมบอกแล้วไงว่ามันใช้ได้ดีกับบ้าง use case ผมไม่ได้บอกว่าทำได้ดีที่สุด มันเหมาะ สมกับบางcase บางองค์กร
คุณควรจะไป comment ในคลิปนี้ว่า เลิก ขายservice นี้ซะนะ google การใช้ AVX512 เป็นเรื่องกบในกะลา google ควรออกจาก กะลา

มันก็กลับมาเรื่อง เดิม ถ้าคุณมี server ที่ใช้ avx512 ได้แล้วดันบอกว่า ไม่ต้องใช้หรอกไม่มีประโยชน์

ใช้ avx512 ที่มากับ serverรุ่นใหม่ของขององค์กรคือการทำงานในกะลา คุณลองไปพูดแบบนี้กับผู้บริหารเขาจะปลื้มไหม
คือจะใช้ไม่ใช้ก็มันซื้อมาแล้ว คุณซื้อ server ตอนนี้ รุ่นใหม่มันก็มี AVX512 หมด
คุณจะอยากได้หรือไม่อยากได้ AVX512 คุณไม่มีสิทธิ์เลือก มันมากับ CPU intel รุ่นใหม่
เขาทำแผนจัดซื้อ งบประมาณกว่าจะส่งแผนที่คลังเบิกงบจัดซื้อไม่ใช่เรื่องง่ายๆ

แล้วserver ทุกเครื่องไม่มี GPU บาง โครงการมันเป็น POC ขององค์กรเขายังไม่กล้าลงทุนเยอะ ต้องใช้ Hardware ที่มีตามงบยที่ขอยากเย็นให้ได้ประโยชน์สูงสุด
ย้ำอีกครั้งนะ AVX 512ใช้งาน ทำ AI ได้ดี คุณไม่ต้องมาบอกผมให้คุณไปเถียงคนอื่น เพราะผมใช้ได้ดีเหมาะสมกับ ต้นทุนองค์กร
case study มันก็มี
https://www.intel.com/content/dam/ww...case-study.pdf

ผล test มันก็มี
https://www.extremetech.com/computin...tx-in-ai-tests

คุณควรจะออกมาจากกะลา
ในโลกความจริงมันมี use caseที่มีประโยชน์ของมัน

[playpotonjom]

แล้วserver ทุกเครื่องไม่มี GPU บาง โครงการมันเป็น POC ขององค์กรเขายังไม่กล้าลงทุนเยอะ ต้องใช้ Hardware ที่มีตามงบยที่ขอยากเย็นให้ได้ประโยชน์สูงสุด
ย้ำอีกครั้งนะ AVX 512ใช้งาน ทำ AI ได้ดี คุณไม่ต้องมาบอกผมให้คุณไปเถียงคนอื่น เพราะผมใช้ได้ดีเหมาะสมกับ ต้นทุนองค์กร

ตอนผมทำตอนนั้นใช้ Google Colab แทนครับ CPU ช้าเกิน ใช้ Colab แล้วเลือกใช้ GPU จาก Nvidia สะดวกดีครับ

แถม GPU แรงใช้ได้เลย ดีกว่าตอนนั้นที่ผมใช้ GTX1070ti รันอีก แถมไม่เปลืองไฟตัวเองด้วย

The GPUs available in Colab often include Nvidia K80s, T4s, P4s and P100s.
ref: https://research.google.com/colabora...esource-limits

จริง ๆ ตอนนี้ใช้ RX 5700XT อยู่ อยากเล่น ROCm อยู่เหมือนกัน แค่ขี้เกียจลง Linux ในเครื่อง มันไม่มีเวอร์ชั่น Windows ให้ใช้ จริง ๆ ถ้าอยากทำก็ Build เองก็ได้นะ แต่รู้สึกเสียเวลา 555
Nvidia ดีกว่าตรงที่รันแบบ Native หรือผ่าน Docker ได้เลย

เพิ่มเติม ROCm ต่อให้รันได้ แต่ก็ยัง Performance สู้ CUDA ไม่ได้แหะ เพราะมันเป็น HIP ระบบพอร์ตโค้ดจาก CUDA แต่ก็ยังดีกว่าใช้ไม่ได้เลย

ทุกวันนี้ใช้ Macbook AMD GPU แต่ดันเอามาใช้ประโยชน์อะไรกับ ML ไม่ได้เลย ไม่มี Lib มารองรับ ขนาด ROCm ยังไม่ได้ 5555

[best0032001]

คุยกับ playpotonjom เรื่อง GPU แรงกว่ามากอันนี้ ไม่เถียง ผลtest ทุกคนรู้ และถ้าเลือกได้ ก็อยากใช้แบบนี้
ส่วนตัวผมอยากใช้ cloud มากกว่า server ที่มีการจัดซื้อ dev ทำงานบนcloud สะดวก สบาย ง่ายและเร็วกว่ามาก

เขียนงานเล่นส่วนตัว ใช้ firebase host +firebase cloud function นี้สะดวกมาก
แต่มันติดเรื่อง นโยบาย องค์กร กฎหมายบางอย่างของภาครัฐ ที่ทำให้บ้างอย่างใช้ cloud ไม่ได้ในบางเรื่อง
รวมถึง งบประมาณที่ต้องทำก่อนใช้ แค่ทุกวันบางอย่างที่run บน cloud ยังปวดหัวเลย ต้องซื้อ credit เติมเข้าไปนะ ตัดบัตรไม่ได้
ผิดระเบียบ จัดซื้อ
ถ้าเป็นภาคเอกชน หรือ startup นี้ ใช้ cloud กันสบายๆ


อย่างที่บอกละครับว่า ใช้ของตามที่มี และอยู่ในขั้น POC ดูผลว่าเป็นไงด้วย อันนี้กะ ตีพิมพ์ทางวิชาการด้วย เรื่อง DL กับ AVX512

[playpotonjom]

คุยกับ playpotonjom เรื่อง GPU แรงกว่ามากอันนี้ ไม่เถียง ผลtest ทุกคนรู้ และถ้าเลือกได้ ก็อยากใช้แบบนี้
ส่วนตัวผมอยากใช้ cloud มากกว่า server ที่มีการจัดซื้อ dev ทำงานบนcloud สะดวก สบาย ง่ายและเร็วกว่ามาก

เขียนงานเล่นส่วนตัว ใช้ firebase host +firebase cloud function นี้สะดวกมาก
แต่มันติดเรื่อง นโยบาย องค์กร กฎหมายบางอย่างของภาครัฐ ที่ทำให้บ้างอย่างใช้ cloud ไม่ได้ในบางเรื่อง
รวมถึง งบประมาณที่ต้องทำก่อนใช้ แค่ทุกวันบางอย่างที่run บน cloud ยังปวดหัวเลย ต้องซื้อ credit เติมเข้าไปนะ ตัดบัตรไม่ได้
ผิดระเบียบ จัดซื้อ
ถ้าเป็นภาคเอกชน หรือ startup นี้ ใช้ cloud กันสบายๆ


อย่างที่บอกละครับว่า ใช้ของตามที่มี และอยู่ในขั้น POC ดูผลว่าเป็นไงด้วย อันนี้กะ ตีพิมพ์ทางวิชาการด้วย เรื่อง DL กับ AVX512

เรื่องพวกนี้ถ้าองค์กรไม่เปิดกว้าง หรือไม่มี Tech Leader ที่กล้าตัดสินใจ กล้าคุยกับผู้ใหญ่ จะยาก ๆ หน่อย แต่ถ้าผู้ใหญ่เขาเข้าใจแล้ว สนุกสนานเลยครับ AWS, GCP, Azure กันสนุกเลย

[CyberClear]

ผมไม่อยากเผือกน่ะ ถ้ามีซีพียูที่สามารถรัน AVX512 แล้ว dev ไม่ใช้ แล้วให้ไล่ dev ออก สงสัยคงได้ตกงานกันเพียบล่ะน่ะ

ถามกลับ ที่อวยๆ AVX512 นี่ ซีพียู desktop หรือ workstation/server ครับ แล้วคนส่วนใหญ่เขาใช้งานอะไรครับ
ขนาด AVX2 มีมานานมากๆ แล้ว ปัจจุบันมีซอฟท์แวร์สำหรับ end-user กี่โปรแกรม แบบนี้สมควรไล่ออกหมดให้หมดทุกบริษัท

AVX512 มีประโยชน์ต่อผู้ใช้ในระดับ end-user อย่างไร จงอธิบาย.....................

โปรแกรมส่วนใหญ่บนโลกใบนี้ ไม่ได้ประมวลผลในแบบเวคเตอร์ แล้วจะเรียกใช้ AVX เพื่อ ?

ผมเห็นด้วยกัน คห นี้
อ่านการ build AVX512 ใน google ยังไม่ค่อยจะมี อาจจะได้ใช้อย่างแพร่หลายใน 10 ปีข้างหน้า(มั้ง)

dev ต้องโดนไล่ออก

[THEFOOL]

AVX512 มีประโยชน์ต่อผู้ใช้ในระดับ end-user อย่างไร จงอธิบาย.....................

ทำให้บางคน ออกมาอวย .. AMD

[๐ผ่านมาเจอ๐]

เท่าที่อ่านๆที่ทั้งสองท่านได้แจงแถลงไขกันมา ผมได้ความรุ้เยอะเลย End User ได้ใช้ประโยชน์ทางอ้อม ส่วนที่ต้องใช้จริงๆ คงเป็นระดับEnterprise ที่ให้บริการแก่End User อีกที

ปล. ดีๆกันครับ อากาศก็ร้อนพอแล้วครับผม

[THEFOOL]

AVX512 มีประโยชน์ต่อผู้ใช้ในระดับ end-user อย่างไร จงอธิบาย.....................

ทำให้ดูหนังชมพูได้ลื่นสมูทขึ้น

[playpotonjom]

จากที่ลองดูผ่าน ๆ

AVX-512 are 512-bit extensions to the 256-bit Advanced Vector Extensions SIMD instructions for x86 instruction set architecture proposed by Intel in July 2013

จากที่ดูในตัวอย่างที่ Intel อธิบาย ผมว่า End-user จะได้ใช้งานแบบไม่รู้ตัวว่ากำลังใช้อยู่นะครับ เช่นถ้าเป็นเกม เราอาจจะได้ระบบป้องการ cheat ตอนเราเล่นออนไลน์ได้ดีขึ้น คือ dev สามารถสั่งให้มันเข้ารหัสข้อมูลด้วย algorithm สูง ๆ ใน packet ที่ส่งไป-กลับ client - server เพื่อกันพวก dump packet มาแก้ไข แล้วเอาไปโกงผู้เล่นอื่นในเกม (อันนี้ผมคิดเองนะ)
อย่างถ้าเป็นหนังก็จะได้ดู Netflix หรือ Youtube ที่ภาพชัดขึ้นกว่าเดิม และขนาดเล็กลง อะไรประมาณนี้

ref: 1. https://www.intel.com/content/www/us...animation.html
2. https://en.wikipedia.org/wiki/Advanc...tor_Extensions

[Sumomo]

สายเกม devทำอิงconsole อยู่แล้วครับ AMDกินตลาดเกือบหมดเกลี้ยง เห็นลือๆว่า nintendo switchจะหนีมาใช้AMDอีก
ถ้าAMD ยังไม่มี AVX512 devก็ไม่ได้ทำอะไรกับมันหรอก
ryzen ที่ใช้กับ console เต็มที่ก็avx2
อายุคอนโซลราวๆ7 ปีและไม่คิดว่า intelจะทำตลาดคอนโซลสู้AMDได้มันคงตีกินไปยาวๆ

ยังไงซะระยะยาวสายเกมAVX512เนี่ยไม่มีผลอะไรกับคนทั่วไปหรอกอย่างน้อยก็7ปี

[playpotonjom]

สายเกม devทำอิงconsole อยู่แล้วครับ AMDกินตลาดเกือบหมดเกลี้ยง เห็นลือๆว่า nintendo switchจะหนีมาใช้AMDอีก
ถ้าAMD ยังไม่มี AVX512 devก็ไม่ได้ทำอะไรกับมันหรอก
ryzen ที่ใช้กับ console เต็มที่ก็avx2
อายุคอนโซลราวๆ7 ปีและไม่คิดว่า intelจะทำตลาดคอนโซลสู้AMDได้มันคงตีกินไปยาวๆ

ยังไงซะระยะยาวสายเกมAVX512เนี่ยไม่มีผลอะไรกับคนทั่วไปหรอกอย่างน้อยก็7ปี

นั้นสิครับ แต่ก็ไม่แน่นะครับ เพราะ CPU ที่ Console ใช้เป็นรุ่น Custom เขาอาจจะใช้ชุดคำสั่งพวกนี้ลงไปให้แล้วก็ได้ ผมอ้างอิงความคิดนี้จาก RDNA ที่รุ่นใน Console จะรองรับ Ray tracing นะครับ ทั้งที่ตัวปัจจุบันตอนนี้ไม่รองรับ

เพิ่มเติมนะครับ ถ้า Console ไม่รองรับ AVX-512 จริง แต่นั้นไม่ใช่เป็นการบอกว่า Engine เกมที่รันอยู่บน PC จะไม่รองรับ ในลิงค์เป็น Unreal Engine ที่เกมส่วนใหญ่ก็น่าจะใช้กันเยอะอยู่นะครับ
ref: https://devmesh.intel.com/projects/i...nd-the-curtain

อย่างอีกเจ้า Unity Engine ยังรองรับ AVX2 เลยทั้ง ๆ ที่บน Console ยุคปัจจุบัน ยังไม่มีให้ใช้
ref: https://docs.unity3d.com/Packages/co...ual/index.html

จริง ๆ ผมว่าอยากให้มองว่ามันมีประโยชน์ มีก็ใช้ ไม่มีก็ใช้ของเดิมที่มีอยู่ Dev ที่ทำระบบเขาคิดถึงตรงนี้อยู่แล้วละครับ คงไม่มี dev ที่ไหนเขียนระบบมาให้ใช้แค่ AVX-512 เพียงอย่างเดียวหรอกเนอะ

[Keith9431]

nitpicking ...

[best0032001]

กลับมาเล่าเรื่อง งานวิจัย เทรนในการทำ AI ซึ่งสำคัญต่อโลก ต่อจากนี้

เนื่องจาก Lib Framework อย่าง Tensor ถูกพัฒนาalgorithm มาทำงาน มา Cuda ได้เป็นอย่างดี
ความนิยมการ ในการคูณ matrix เพื่อทำ AI(Deep learning) นิยม ไปใช้ GPU ของ Nvidia อย่างมาก

แม้ AMD จะพยายาม ออก product ชิบ คำนวน AI อะไรก็ตาม ก็ไม่ได้รับความนิยม ใดๆทั้งนั้น ในตลาด Dev จริงๆ(เป็นเรื่องตลกมากที่พยายาม ส่ง link ตัวอย่าง หน่วยประมวลผล ของAMD มาให้ดู)

แม้ Tensor จะใช้ GPU ของ Nvidia ได้เป็นอย่างดี
แต่ราคา ของ HPC with GPU นั้นไม่ถูกเลย

มันจึงมีความพยายาม พัฒนางานวิจัยที่ทำให้ Server ธรรมดาเนียละ ที่จริงๆๆ มันก็ Run Deep learning แต่มัน คูณได้ช้ากว่า GPU ของ Nvidia สามารถ คูณได้เร็วขึ้น ให้เหมาะกับงานบ้างอย่าง

intel วิจัยแล้วออก พัฒนา Product คือ Intel® Deep Learning Boost ที่ทำให้ ทำงานได้เร็วกว่า CPU รุ่นเก่าของตัวเอง โดย ใช้ AVX 512 เป็น base ของ Intel® Deep Learning Boost เทคโนโลยี

แต่ ก็มีงานวิจัยอื่นๆ ซึ่งที่กำลังดัง ช่วงนี้คือ SLIDE algorithm ซึ่งวิจัยโดย Rice University
https://wccftech.com/intel-ai-breakt...idia-v100-gpu/

ผลการวิจัย คือ สามารถทำให้ 44-Core Intel Xeon Destroying NVIDIA Tesla V100 GPU
ซึ่ง SLIDE algorithm ไม่ได้ใช้ AVX 512 และไม่เกี่ยวข้อง Intel® Deep Learning Boost ใดๆดังนั้น

ผลก็คือ สามารถ ประหยัดค่าใช้ Server ได้อย่างมาก
แต่สำหรับ Dev ทั่วไป ยังคงไปใช้ SLIDE algorithm ไม่ได้ ได้แค่คาดหวังว่า Tensorflow version ต่อไปจะ รองรับ SLIDE algorithm

ดังนั้นวันนี้ Dev ในสายที่ใช้ CPU server ที่มีอยู่แล้ว จึงมีทางเลือก แค่ Tensorflow with AVX 512 ในการคำนวน server ส่วน ถ้าจะ คำนวนบน desktop สำหรับ ขั้น devก็ใช้ Tensorflow with Cuda
ซึ่งในโลกของ AI ไม่มีอะไรที่เกี่ยวข้องกับ AMD เลยแม้แต่น้อย ส่วน dev คนไหน อินดี้ พยายามใช้ CHIP AMD ทำ AI ก็ขอให้โชคดี

ปล ก็ไม่รู้ว่าทำไม ต้องมาพิมพ์เรื่อง ai in real wolrd
ทั้งๆที่แค่มาบอกว่า game ไม่เกี่ยวกับ AVX 512 เลย

ปล ตอนนี้ กำลัง ทำงานวิจัย เรื่อง Server AVX 2 vs Server avx 512 vs Cuda desktop for AI computing

[THEFOOL]