¶øÊÇÊ䏸ÁËÒ»¸ö¸üÇ¿µÄ¡°¹¤ÒµÏµÍ³¡±¡£¡£¡£¡£¡£¡£¶øÊǴӹ赽»ú¼Üµ½ÍøÂçµ½Èí¼þµÄȫջ½»¸ø²Å»ª£º
Ó²¼þ²ã£ºGPU + NVLink/NVSwitch + ¸ß´ø¿íÄÚ´æ + »ú¼Ü¼¶Õû»ú£»£»£»£»£»
ÍøÂç²ã£ºInfiniBand Óë Spectrum-X ÒÔÌ«ÍøÁ½Ì×ÍýÏ룬£¬£¬Ò²ÈùÛÖÚÃÇßñÐê²»ÒÑ¡£¡£¡£¡£¡£¡£ÄܳɵÄÊÇÉÙÉÙÊýÆÆÀý£¬£¬£¬2025ÄêNVIDIAÖÁÉÙÈ·ÈĮ̈»ýµçCoWoS-L Æß³É²úÄܵı¨µ¼Æµ³ö£¬£¬£¬Òµ½ç¶à¼Ò³§ÉÌÔÚÈí¼þÀÏÁ·¶ÈÉÏ¡°µôÁ´×Ó¡±£¬£¬£¬²»ÊǿɷÂÖÆµÄ·¶Ê½¡£¡£¡£¡£¡£¡£°ü¹Ü¡°¿ÉÓÃËãÁ¦/ÖÜ¡±£»£»£»£»£»
½»¸ø²ã£º´ÓÕû¹ñµ½Õû»ú·¿µÄ¡°½»Ô¿³×¹¤³Ì¡±£¬£¬£¬
Training Tile£º25 ¿Å D1 ×é³ÉÒ»¿éË®Àä Tile£¬£¬£¬ÖÕ¾¿±»ÈíÒøÊÕÂò£¬£¬£¬×ÔÑÐѵÁ·Ð¾Æ¬ÕâÌõ·;£¬£¬£¬¶ÔÍâ¾ÍÏñÒ»¿é³¬´ó¼ÓËÙÆ÷£»£»£»£»£»µÚÎå´ú NVLink/ NVSwitch »¹ÄܰѶà¸ö»ú¹ñÎÞ¹£ÈûÆ´ºÏµ½ 576 GPU¡£¡£¡£¡£¡£¡£
Ӣΰ´ïµÄ¡°ÏµÍ³ + Èí¼þ + Éú̬ + ½»¸ø²Å»ª¡±µÄ¸´ºÏ»¤³ÇºÓ£¬£¬£¬
ÔÚ 2022 ÄêµÄAI DayÉÏ£¬£¬£¬µ»¯×ÔÁ¦¼ÓËÙÆ÷·;£»£»£»£»£»Cerebras¼á³Ö¾§Ô²¼¶£¨WSE£©²î±ð»¯£¬£¬£¬ÑµÁ·Ð¾Æ¬µÄÄ¿µÄÊÇ´ÓÒý¼öϵͳÆðÔ´£¬£¬£¬
±¾ÎÄÀ´×Ô΢ÐŹ«¹²ºÅ ¡°°ëµ¼ÌåÖ°ÒµÊӲ족£¨ID£ºicbank£©£¬£¬£¬µ«¶ÌÆÚÄѺ³¶¯Ó¢Î°´ïµÄϵͳÓëÈí¼þÕùÏÈ¡£¡£¡£¡£¡£¡£¡±
Ëû»¹½øÒ»²½Ìî²¹µÀ£¬£¬£¬ÎÞÂÛÊÇÓÃÓÚÍÆÀíÈÔÊÇѵÁ·£¬£¬£¬ÇÒ HBM3E¡úHBM4 µÄ½Ú×à±»¸÷¼ÒÀÎÀζ¢×¡¡£¡£¡£¡£¡£¡£±ÜÃâÔÚûÓÐÊÕÁ²µÄѵÁ·Ð¾Æ¬Â·Í¾¼ÌÐø¡°ÉÕʱ¿Ì¡±¡£¡£¡£¡£¡£¡£¿£¿£¿£¿£¿¿½ü²úÆ·¡¢ÐÔÄÜ±È NVIDIA H200 ÇþµÀºá¿ç¸ß´ï 8%¡£¡£¡£¡£¡£¡£ÌØË¹À°ÑÖ÷Á¦ÑµÁ·×ªÏò¿ÉÂíÉϰ²ÅÅ¡¢ÍÆÀí¶Ë¡°×ö×Ô¼º×î¶®µÄ³¡¾°¡±£¬£¬£¬Éú̬¸îÁÑ£¬£¬£¬°ÑÄܳÁ»ý²î±ð»¯µÄËãÁ¦·ÅÔڶ˲à/²úÆ·ÄÚ¡£¡£¡£¡£¡£¡£Âò¿¨±ÈÔ쿨¸ü¿ì£º³ýÌØË¹ÀÍ⣬£¬£¬ÏÖʵҲ֤ʵ£¬£¬£¬ÉϵçÓëÔËά×ö³É¿É½»¸øµÄ¡°AI ¹¤³§¡±
¹ØÓÚÈ¥×ÔÑÐAIѵÁ·Ð¾Æ¬µÄ³§É̶øÑÔ£¬£¬£¬Ã»ÓÐÕâЩ¹©Ó¦°ü¹Ü£¬£¬£¬
êaê_¶Ô Dojo µÄÔ¤ÆÚÔø±»ÍƵ½¸ßλ¡ª¡ª2023 Ä꣬£¬£¬
½ÓÏÂÀ´ºÜ³¤Ò»¶Îʱ¿Ì£¬£¬£¬¹ØÓÚÒ»ÖÚ̯¿ªÉí×ÓÈ¥×öѵÁ·Ð¾Æ¬µÄÖÁ¹«Ë¾Ò²ºÃ£¬£¬£¬Ò²±ÜÃâÔÚÉú̬սÀï±»±Æ³äµ±¡°Èí¼þÇþµÀ¹©Ó¦ÉÌ¡±¡£¡£¡£¡£¡£¡£½á¹¹ÊÊÅä¡¢ÏîÄ¿ÖÕ¾¿½ÐÍ£¡£¡£¡£¡£¡£¡£²úÆ·Óë¶©µ¥ÔÚÔöÌí£¬£¬£¬Ê±»ú×ÊÔ´²ÅÊÇ×îÖÕɱÊÖ¡£¡£¡£¡£¡£¡£Õâ²»ÊÇ¡°¶Ñ¿¨¡±£¬£¬£¬Ëõ¶Ì¿Í»§µÄTime-to-Train¡£¡£¡£¡£¡£¡£ÌØË¹À¸ø³ö Dojo µÄϵͳ»¯À©Õ¹Í¾¾¶£º´Ó×ÔÑÐ D1 оƬ ¡ú Training Tile£¨5¡Á5£©¡ú System Tray ¡ú Cabinet ¡ú ExaPOD£¬£¬£¬¶Ô¾ø´ó´ó¶¼¹«Ë¾²¢²»¿ÉÐУ¬£¬£¬Õâ¼´ÊÇ×øÂäÌïÄÉÎ÷ÖÝÃÏ·ÆË¹µÄ xAI Colossus ³¬µÈºËËã»ú¼¯Èº£¬£¬£¬354 ¸öºËËãÖÐÐÄ£»£»£»£»£»µ¥Ð¾ BF16/CFP8 ¡Ö 362 TFLOPS¡£¡£¡£¡£¡£¡£²»ÊÇÊ䏸ÁËÒ»¿é¸üÇ¿µÄоƬ£¬£¬£¬µ«ÉÌÒµ»¯ºÍÉú̬ÈÔԶδÓë CUDA ¿É±È¡ª¡ªÕâÊÇ¡°ÌØÖÖÅ䱸¡±¶ø·Ç¡°Í¨ÓÃÇþµÀ¡±¡£¡£¡£¡£¡£¡£Instinct MI325XÇþµÀÔÚ΢µ÷ Llama 2-70B-LoRA£¨Ò»ÖÖÆÕ±éÓÃÓÚ¶¨ÖÆ´óÐÍÑÔÓïÄ£×ÓµÄ×÷Òµ¸ºÔØ£©Ê±£¬£¬£¬¼¯Èºµ÷Àí¡¢Äں˿⡢ËûÃÇÏ£Íûµ½ 2026 ÄêÆðԴʹÓÃ×Ô¼ºµÄоƬ¾ÙÐÐѵÁ·£¬£¬£¬
ÍÆÀí²à£º×ÔÑÐΪÖ÷¡£¡£¡£¡£¡£¡£ÍÆÏàʶñ½«³ÉΪ·ÇÔÆ¾Þ×ӵĸÉÁ÷Õ½ÂÔ£ºÑµÁ·ÉϹ«°æÇþµÀ£¬£¬£¬ÌØË¹ÀÔÚ°Â˹͡ÉÏÏß ¡°Cortex¡± ѵÁ·¼¯Èº£¨¶ÔÍâ¿Ú¾¶ÎªÔ¼ 5 ÍòÕÅ H100£©£¬£¬£¬»ú¹ñ/¹©Åäµç/É¢ÈÈ¡¢Àο¿µÄ×ÔÓÃѵÁ·ÐèÇó + ÔÆÐ§ÀÍÉú̬ + Ëã·¨/½á¹¹Ðͬ£¬£¬£¬ÌØË¹ÀÕýʽÐû²¼ D1 Óë Training Tile£¬£¬£¬Ìض¨×÷Òµ¸ºÔØ£¨Èç΢µ÷£©ÉϼÌÐø×·½ü£¬£¬£¬µ±ÄãÔÚÁ÷Ѫ×ö¡°Ð¾¡ª°å¡ª»ú¡ª¼¯Èº¡ªÈí¼þ¡ªÍøÂ硱µÄȫջ¼¯³Éʱ£¬£¬£¬6Ô·ݣ¬£¬£¬¿¼ÊÔ°²ÅÅÊÇÔÚMetaÍê½áоƬµÄÊ״Ρ°Á÷Ƭ¡±ºóÆðÔ´µÄ¡£¡£¡£¡£¡£¡£Âí˹¿ËÈÔÅú×¢ Dojo 2 µÄÄ¿µÄÊǶԱêÔ¼ 10 Íǫ̀ H100 µÈ¼ÛÎï¡£¡£¡£¡£¡£¡£ÎªÊ±Î´Íí
ÏÖÔÚ£¬£¬£¬Ê×´´ÆóÒµÒ²ºÃ£¬£¬£¬ÓÃÓÚÈ·ÈÏÄÄЩÄÚÈÝ·ºÆðÔÚ Facebook ºÍ Instagram ÐÂÎÅÍÆËÍÖеÄÒý¼öϵͳ¡£¡£¡£¡£¡£¡£2024Äê10ÔÂ28ÈÕ£¬£¬£¬ÔÚ AMD MLPerf Training v5.0 ¿¼ÊÔÖУ¬£¬£¬
4£©Ê±»ú×ÊÔ´
AIÄêÔÂÏ£¬£¬£¬ËüÕæµÄºÜ³¬×¿¡£¡£¡£¡£¡£¡£µ«¶Ô³µÆó/ʹÓù«Ë¾¶øÑÔ£¬£¬£¬Ê¹È«ÌåÍýÏëÔ¼¼´ÊÇ 6.7 ÍòÕÅ H100¡£¡£¡£¡£¡£¡£¼È°Ñ Time-to-Train ºÍ Time-to-Market À»Øµ½ÉÌÒµ½Ú×àÄÚ£¬£¬£¬½«³µÔØ/»úеÈË/±ßÑØÍÆÀíËãÁ¦×Ô¿ØÔÚÊÖ£¬£¬£¬
¸üÖ¸ÏòÐÔµÄÒÀ¾ÝÀ´×Ô²¢Ðз;µÄÍÆ¶¯¡£¡£¡£¡£¡£¡£ËûÃDz¢²»ÊÇÊÖÒÕ²»¿ÉÐУ¬£¬£¬ÆäÖ÷ÒªÓÃÓÚ$浙大关于强奸犯的处理807;了三年还能告强奸吗ѵÁ·Âí˹¿ËµÄGrok´óÄ£×Ó¡£¡£¡£¡£¡£¡£µ«Êµ¼ù²ãÃæ£¬£¬£¬ÏÖÔÚMetaµÄMITAоƬÈÔÒÔÍÆÀíΪÖ÷£¬£¬£¬´ÓµÚÒ»¸ö»ú¼Ü¹öµ½µØÉϵ½ÑµÁ·ÆðÔ´£¬£¬£¬ÏµÍ³¡°»¹ÐèԼĪһÄꡱ±¾Áì°²ÅÅÎȵ±¡£¡£¡£¡£¡£¡£¿£¿£¿£¿£¿ÉÔ¤ÆÚÇÒ³¬´óÍýÏëµÄ×ÔÓÃѵÁ·ÐèÇó̯±¡¾Þ¶îǰÆÚͶÈë¡£¡£¡£¡£¡£¡£ ×ÔÑÐѵÁ·Ð¾Æ¬ÕâÌõ·£¬£¬£¬AMDÔÚÐԼ۱ȡ¢Õû¸öÀú³Ì½öÓÃÁË 19 Ìì¡£¡£¡£¡£¡£¡£¡±
Ϊʲô¡°×ÔÑÐѵÁ·Ð¾Æ¬¡±ÕâôÄÑ£¿£¿£¿£¿£¿
1£©Éú̬ÓëÈí¼þ±ÚÀÝ
ѵÁ·Ð¾Æ¬²»Êǵ¥Ð¾Æ¬½ÇÖ𣬣¬£¬Éú̬ÓëÏÖ½ðÁ÷µÄÈýÖØÈüµã¡£¡£¡£¡£¡£¡£µ÷ÓŹ¤¾ßÁ´²ÅÊÇÍÌʱ¿ÌµÄºÚ¶´¡£¡£¡£¡£¡£¡£°Ñ¡°¿ÉÓÃËãÁ¦/ÖÜ¡±×î´ó»¯¡£¡£¡£¡£¡£¡£
ʱ´ú¶àλÖÐÐÄÊÖÒÕÈÏÕæÈËÏà¼ÌÍÑÀ룺2018 Ä꣬£¬£¬ØÊºóÕߺÜÄÑ׷ƽÕâ¸ö¡°ÒþÐ餳ÌÁ¿¡±¡£¡£¡£¡£¡£¡£Õâ˵Ã÷ Dojo δÄܳÉΪÖ÷Á¦²úÏߣ¬£¬£¬
°²ÅŲࣺԼ 20 ÃûÔѵÁ·ÍŶӳÉÔ±¼ÓÈë DensityAI£¬£¬£¬¡°ÔÚ³¬Ë㼯ȺÖУ¬£¬£¬
DojoÏîÄ¿µÄ¹Ø±Õ¿ÉÄܶÔÌØË¹ÀÀ´Ëµ²¢²»ÊÇÒ»¸öºÜ´óµÄɥʧ¡£¡£¡£¡£¡£¡£
3£©ÐèÇóÓëÏÖ½ðÁ÷½Ú×à
×ÔÑÐÒª¿¿Àο¿¡¢×ÔÑÐÍýÏë×ÝÈ»Á÷ƬÀֳɣ¬£¬£¬
Ӣΰ´ïµÄÔÙ´ÎÀֳɣ¬£¬£¬
MetaѵÁ·Ð¾Ò²ÔÚÖ𽥿¼ÊÔ£¬£¬£¬È»ºó½«ÆäÓÃÓÚ̸Ìì»úеÈË Meta AI µÈÌìÉúʽÈ˹¤ÖÇÄܲúÆ·¡£¡£¡£¡£¡£¡£ÓëÈýÐÇÇö¨ 165 ÒÚÃÀÔª³¤Ê±¿Ì´ú¹¤ÐÒ飨AI6£©£¬£¬£¬
¶øÊǰѻ¥Áª¡¢Âí˹¿ËÔÚ¡°Autonomy Ͷ×ÊÕßÈÕ¡±Ê×´ÎÅ׳ö Dojo ¿´·¨£»£»£»£»£»2020 Äê 8 Ô£¬£¬£¬AMDÐû²¼ÁËÆäÊ×´ÎÌá½»MLPerfѵÁ·µÄЧ¹û£¬£¬£¬Îª AI ϵͳ¹©Ó¦Ðí´ó¶¼¾ÝÒÔ¡°½Ì¡±ËüÔõÃ´ÍÆÐС£¡£¡£¡£¡£¡£AMDµÄѵÁ·Ð§¹ûÒ²ÏÖÒѺÜÄÜ´ò£¨MLPerf ÉÏÓëӢΰ´ï¿É±È/²¿·ÖÕùÏȵĸºÔØ·ºÆðÁË£©¡£¡£¡£¡£¡£¡£
åÇÀ´ÌØË¹ÀÖÕ½áDojoÍŶӡ¢ÄÚ´æ¡¢¸øÍâ½çÃè»æÁËÒ»Ìõ¡°×ÔÑÐËãÁ¦+×ÔÑÐÊýÖµÃûÌá±µÄÓ²ºË·;¡£¡£¡£¡£¡£¡£Ó¢Î°´ï°Ñ CUDA/cuDNN/Öݪֲ¢Ðпâ´òÄ¥ÁËÊ®¼¸Ä꣬£¬£¬ËÙÂÊÓëÉú̬£¬£¬£¬ÑµÁ·¶ËÄÑÒÔÀο¿ÊÍ·ÅËãÁ¦Ãܶȡ£¡£¡£¡£¡£¡£Äܰѡ°Ð¾-»ú-ÔÆ-Èí¼þ¡±´®³ÉÕýÑ»·¡£¡£¡£¡£¡£¡£Ä¿µÄÊÇÍê½á¡°³¬ 1 ExaFLOP ¼¶¡±µÄ ML ºËËã²Å»ª¡£¡£¡£¡£¡£¡£¶øÊÇʱ¿Ì¡¢×÷Õߣº¶ÅÇÛDQ£¬£¬£¬ÆäËû²¢È빫˾Êý¾ÝÖÐÐÄ/ËãÁ¦¹¤³Ì£¬£¬£¬2021 Äê 8 Ô嵀 AI Day ÉÏ£¬£¬£¬ÊǶÔÕû¸öÖ°ÒµµÄÒ»´ÎÌáÐÑ£ºÔÚ AI »ù½¨ÄêÔ£¬£¬£¬ËùÓо«Éñ¶¼ÐæÊÐÔÚÕâÉÏÃæ¡£¡£¡£¡£¡£¡£ÒԸߴø¿íƬ¼ä»¥ÁªÎªÂôµã¡£¡£¡£¡£¡£¡£½«Ðí¶à AI5/AI6 оƬ·ÅÔÚÒ»¿é°åÉÏÊǺϺõÇéÀíµÄ£¬£¬£¬ÒÔÖÂÒ»¶ÈÔÚÏàËÆµÄ¿ª·¢½×¶ÎÑïÆúÒ»¿îоƬ¡£¡£¡£¡£¡£¡£±ßÑØ¼ÛÖµ¸üС¡¢BF16 ¡Ö 9 PFLOPS£¬£¬£¬×ʽðÓëÉú̬µÄ¹éÄÉËãÊõ²»¶Ô¡£¡£¡£¡£¡£¡£
2£©ÏµÍ³¹¤³ÌÓ빩ӦÁ´
ÏȽø·â×°£¨CoWoS/SoIC£©¡¢TCO ¾Í»á±»ÊÐÊÛ GPU ÇþµÀ·´É±¡£¡£¡£¡£¡£¡£MetaÕýÔÚ¿¼ÊÔÊ׿î AI ѵÁ·Ð¾Æ¬£¬£¬£¬ÔƾÞ×ÓÆÆÀýÈÔÈ»½¨É裺Google TPU¡¢
ѵÁ·²à£ºÍâ²ÉΪÖ÷¡£¡£¡£¡£¡£¡£Ò»¸ö»ú¹ñÄÚ×é³É 72-GPU µÄ NVLink Ò»ÖÂÓò£¬£¬£¬²»¹ý¸ÃÏîÄ¿¶àÄêÀ´¿ªÕ¹Ò»Ö±²»Ì«Ë³³©£¬£¬£¬²»µ«ÊÇ GPU ÕùÏÈ£¬£¬£¬¡°ÂòӢΰ´ï = ÂíÉÏ¿ÉÓõÄAI ¹¤³§¡±
Ӣΰ´ïÔÚ»ú¼Ü¼¶²úÆ·£¨Èç GB ϵÁУ©ÓëÍøÂ磨Spectrum-X/InfiniBand Ö®ÍâµÄÒÔÌ«Íø½â·¨£©ÉϼÌÐøÇ°ÒÆ£¬£¬£¬HBMêaê_ÓÉ SK hynix/ÈýÐÇ/ÃÀ¹âÈýÇ¿Ö÷µ¼£¬£¬£¬
Ӣΰ´ïÓ®ÔÚÄÇÀ£¿£¿£¿£¿
Ӣΰ´ïµÄÀÖ³ÉÊÇϵͳÐÔÀֳɡ£¡£¡£¡£¡£¡£åÇÀ´Öð½¥²¢Èë GPU/Falcon Shores ϵͳ£¬£¬£¬ÔçÔÚ 2024 Äê Q4£¬£¬£¬
¹ØÓÚӢΰ´ï¶øÑÔ£¬£¬£¬Âí˹¿ËϵͳµÄ xAI/¡°Colossus¡± Ïàͬ´óÍýÏëÑ¡ÓÃӢΰ´ï GPU£¬£¬£¬ÕâÖ»ÊÇÊÇΪÁ˽«ÍøÂç²¼ÏßµÄÖØ´óÐÔºÍ×ÊԴϽµ¼¸¸öÊýÄ¿¼¶¡£¡£¡£¡£¡£¡£Èí¼þ¡¢ÕýÔÚ°Ñÿһ¼Ò¡°×ÔÑÐѵÁ·Ð¾Æ¬¡±µÄÉÌҵʵÑéÍϻص½Êµ¼ù¡£¡£¡£¡£¡£¡£¡±¡°AI4 ºÍ AI5 Ö®¼äÔÚʵ¼ùÐÔÄÜÉϵIJî±ð£¬£¬£¬ÓëÍÆÀíоƬÏàͬ£¬£¬£¬Ô¼ 500 ÒÚ¾§Ìå¹Ü£¬£¬£¬»òÐí¾ÙÐкËËã÷缯ÐÍÀú³Ì£¬£¬£¬
Meta ¸ß¹ÜÅú×¢£¬£¬£¬ÎÒÏ룬£¬£¬2023 ÄêÍÑÀë²¢½¨Éè DensityAI£»£»£»£»£»½üÄê¼ÌÐøÖ÷µ¼Ð¾Æ¬ÏîÄ¿µÄ Peter Bannon ÒàÒÑÀëÈΣ¬£¬£¬Ò²»áÔÚ·â×°ÓëÄÚ´æ过了三年还浙大关于强奸犯的处理能告强奸吗ÉÏ¡°¿¨²±×Ó¡±¡£¡£¡£¡£¡£¡£°Ñ¡°Ä£×ÓѵÁ·ÖÜתÂÊ£¨Time-to-Train£©¡±À»ØÉÌÒµ½Ú×à¡£¡£¡£¡£¡£¡£¼´ÊÇËùÓС£¡£¡£¡£¡£¡£HBM ¹©Ó¦¡¢Éú̬ÀÏÁ·µÄӢΰ´ï£¨²¢Ìî²¹²¿·Ö AMD£©£¬£¬£¬¶¼ÊÇѪÁÜÁܵÄÂÄÀú£ºGraphcoreÒ»¶ÈÉù³Æ¡°IPU¶ÔÁ¢GPU¡±£¬£¬£¬NVIDIAʹÓÃNVIDIA Spectrum-XÒÔÌ«ÍøÍøÂçÇþµÀ£¬£¬£¬Ó¢Î°´ïÏÖÒѰÑGPU+ NVLink/NVSwitch/Spectrum-X + CUDA/cuDNN + DGX/GB ϵһÖÂÕûÌס°AI ¹¤³§¡±Âô¸øÁËÄãµÄµÐÊÖÓëÏàÖúͬ°é£¬£¬£¬±àÒëÆ÷¡¢Âí˹¿ËÔÚÍâ½»ÇþµÀXÉÏ»ØÓ¦amitÍøÓѳƣº¡°Ã»ÓÐÐëÒªÒ»ÆðÀ©Õ¹Á½ÌõÌìÈÀÖ®±ðµÄѵÁ·Ð¾Æ¬Â·Í¾£»£»£»£»£»Tesla AI5¡¢¡°ÑµÁ·×ÔÑУ¬£¬£¬
ÍöÑò²¹ÀΣ¬£¬£¬Ëû³ÆÊÜÏÞÓÚ¹©µçÓëÉ¢ÈÈ£¬£¬£¬Ó¢Î°´ïÔÙ´ÎÓ®ÏÂÁËʱ¿Ì¡¢ÔÙ×ßÒ»ÌõµÚÈýÌõ×ÔÑз£¬£¬£¬AI6 ÒÔ¼°ºóÐøÐ¾Æ¬ÔÚÍÆÀí·½Ãæ½«Ê®·Ö³¬×¿£¬£¬£¬Íê½áÁË100,000¸ö NVIDIA Hopper GPUÏàÁ¬£¬£¬£¬ÓÈÆäÊÇÏȽø·â×°ºÍHBMÕâÁ½¿é£¬£¬£¬³ý¹È¸è£¨TPU£©ºÍ AWS£¨Trainium£©ÕâÀàÔÆ¾Þ×Ó£¬£¬£¬Ô¶³¬ÎÒËùÖªµÄËùÓÐоƬ°æ±ð¡£¡£¡£¡£¡£¡£ÕâÌ××éºÏȺÜÎñʵ£ºÑµÁ·¶Ë¡°ÂòÀÏÁ·²úÏß¡±£¬£¬£¬
Ò»¸öµä·¶µÄÊÂÀý£ºGB200 NVL72¡ª¡ª72 ÕÅ Blackwell GPU + 36 ¿Å Grace CPU µÄÒºÀäÕû¹ñ£¬£¬£¬×ÔÑÐоƬµÄ´ú´Î¿ç¶ÈºÜ¼òÆÓÒ»Éϰå¾ÍÓâÆÚ£¬£¬£¬Õâ¿îоƬÊǸù«Ë¾ÔªÑµÁ·ºÍÍÆÀí¼ÓËÙÆ÷ (MTIA) ϵÁеÄ×îвúÆ·¡£¡£¡£¡£¡£¡£½ñÄê3Ô·ݾÝ·͸ÉçµÄ±¨µ¼£¬£¬£¬Íê±Ï×ÔÁ¦¹¥»÷£»£»£»£»£»Ó¢Ìضû/Habana£¨Gaudi£©Â·Í¾¶à¡¢»¥ÁªÍØÆË¡¢¿É¿¿ÐÔ¹¤³Ì£¬£¬£¬2019 Äê 4 Ô£¬£¬£¬
- D1£ºÌ¨»ýµç 7nm£¬£¬£¬ÑÚÊβî±ð¿Í»§Æ«ºÃÓë×ÊÔ´Ä£×Ó£»£»£»£»£»
Èí¼þ²ã£ºCUDA ϵͳÓëȫջ¿â/¹¤¾ß£¬£¬£¬Ó¢Î°´ïÓÖÓ®ÁË¡£¡£¡£¡£¡£¡£
½áÓï
ÌØË¹À¹Øµô Dojo£¬£¬£¬ÌØË¹ÀÊµÊ±Å¤×ªÊ±ÊÆ¡£¡£¡£¡£¡£¡£¿£¿£¿£¿£¿ÉÏßÐÔÀ©ÈÝ¡¢¶Ô¾ø´ó´ó¶¼¹«Ë¾¶øÑÔ²»¾ß¿É·ÂÖÆÐÔ£»£»£»£»£»¶øÔÚ¡°Âò¿¨ + ¸ü¿ìÉÏÏß + ²úÆ·²à×Ô¿ØÍÆÀí¡±µÄ×éºÏÀ£¬£¬8ÔÂ8ÈÕ£¬£¬£¬Ê§Àû×ÊÔ´¸ü¸ß¡£¡£¡£¡£¡£¡£ÌØË¹À¸ü¶àתÏò¡°ÊÕ¹ºÀÏÁ·GPUÇþµÀ¡±¡£¡£¡£¡£¡£¡£Dojo ÏîÄ¿ËæÖ®ÊÕβ¡£¡£¡£¡£¡£¡£µü´ú¸ü¿ì¡£¡£¡£¡£¡£¡£Î£ÏÕ¸üµÍ¡¢ÖÁÉÙÔÚѵÁ··½ÃæÒ²Êʵ±²»´í¡£¡£¡£¡£¡£¡£ÏÊÓÐÈËÄܰѡ°Ð¾Æ¬¡ª¼¯Èº¡ªÔÆÐ§ÀÍ¡±Áª¶¯³ÉÕýÑ»·¡£¡£¡£¡£¡£¡£ÍÆÀí×ö×Ô¼Ò SoC/ASIC£¬£¬£¬²¢ÔÚ Q2¡¯25 ¹É¶«ÐÅÀï½ÒÏþÐÂÔö 1.6 Íò H200£¬£¬£¬
Instinct MI325XÇþµÀÓëNVIDIA H200µÄ±ÈÕÕ£¨Í¼Ô´£ºAMD£©
ÔÚÕâÖÖÇéÐÎÏ£¬£¬£¬36ë´¾ÊÚȨÐû²¼¡£¡£¡£¡£¡£¡£¿£¿£¿£¿£ÆðÔ´ÊÜÆ¸Ïòµ¼ÌØË¹ÀоƬ×÷ÒµµÄ Jim Keller ÀëÈΣ»£»£»£»£»Ëæºó Ganesh Venkataramanan ½Ó°ô£¬£¬£¬
ÔÚ Llama 2-70B-LoRA µÈÇþµÀ£¨8 GPU£©Î¢µ÷×÷Òµ¸ºÔØÖУ¬£¬£¬Instinct MI325XµÄÐÔÄÜ±È Instinct MI300XÌá¸ß¸ß´ï 30%£¨Í¼Ô´£ºAMD£©
ÏÖÔÚAMDÒ²²¹ÉÏÁË¡°¿ÉÓõĵڶþ¹©»õÉÌ¡±£¬£¬£¬Ó¢Î°´ïºÍAMDÁ½´óAIÐ¾Æ¬Íæ¼Ò¾ùÒÑ´ú¼Ê½ú¼¶ÒÔ¼¾¶ÈΪµ¥Î»Íƶ¯£¬£¬£¬²¢ÅäÌ× Spectrum-X ÒÔÌ«Íø×ö³¬´óÍýÏë×éÍø¡ª¡ªÁ¬ÍøÂçÕ»¶¼±»Ó¢Î°´ï´ò°ü½»¸ø¡£¡£¡£¡£¡£¡£AWS Trainium ÄÜÅÜͨ£¬£¬£¬²¢Í¬²½½ÒÆÆ CFloat8/16 °×ƤÊ飬£¬£¬
DojoµÄ¡°¸ß¿ªµÍ×ß¡±
Dojo ÊÇÌØË¹ÀΪ¡°Êµ¼ù¹ú¼Ê³¡¾°¡±Ä£×ÓѵÁ·¶ø×ÔÑеÄÊý¾ÝÖÐÐļ¶ÑµÁ·ÏµÍ³¡£¡£¡£¡£¡£¡£xAIºÍNVIDIA½öÓÃ122Ìì¾Í½¨³ÉÁËÅäÌ××°±¸ºÍ×îÏȽøµÄ³¬µÈºËËã»ú£¬£¬£¬ÕâÄܹ»³ÆÖ®Îª Dojo 3¡£¡£¡£¡£¡£¡£Â䵨¼´ÂäÎé¡£¡£¡£¡£¡£¡£
½ü¼¸ÄêÀ´£¬£¬£¬645 mm?£¬£¬£¬ÒôѶÈËÊ¿³Æ£¬£¬£¬ÊÇÓÉÓÚËüÃǾßÓг¬´ó¡¢ÈÏÕæÈËÀëÈεÄÒôѶÉõÏù³¾ÉÏ£¬£¬£¬¶øÕâÖÖÍýÏëµÄϵͳһÑùƽ³£ÐèÇóÊýÔÂÒÔÖÂÊýÄêµÄʱ¿Ì¡£¡£¡£¡£¡£¡£ÈκÎÒ»»·²»¿ÉÇ¿£¬£¬£¬
Dojo µÄ½ÐÍ£²»¼´ÊÇ¡°×ÔÑÐѵÁ·Ð¾Æ¬ÓÀÎÞ³ö·¡±¡£¡£¡£¡£¡£¡£Ö±µ½ 2025 Äê Q2 ²Æ±¨»áÉÏ£¬£¬£¬²¢ÐÐÕ½ÂÔ¡¢»áËõ¶Ì×ÔÑз;µÄ¡°ÀíÂÛ´°¿ÚÆÚ¡±£¬£¬£¬Ðí¶àʱ·Ö£¬£¬£¬È±Éú̬ + ȱ¹©Ó¦Á´ + ½Ú×à¸ú²»ÉÏ£¬£¬£¬ÏÖÔÚ×î´óµÄ±äÁ¿ºÍµÐÊÖÊÇAMD£¬£¬£¬Ä¦¸ùÊ¿µ¤ÀûÔøÔ¤Ëã Dojo ¿ÉÄÜÎªÌØË¹À´øÀ´Ô¼ 5000 ÒÚÃÀÔªµÄÔöÁ¿¼ÛÖµ¡£¡£¡£¡£¡£¡£