ÍⲿҽÁƸÅÄî¹ÉƱÓÐÄÄЩ°¡£¿×îÐÂÍⲿҽÁÆÁúÍ·¹ÉÉÏÊй«Ë¾Ò»ÀÀ±í
ÈÕÆÚ£º2022-07-13 21:37:10 À´Ô´£º»¥ÁªÍø
GPT-3 ÏÆÆðAI ´óÄ£ÐÍÀ˳±,´óÄ£ÐÍϲÎÊýÁ¿¼´ÊÇ׼ȷ¶È¡£´óÄ£ÐͳÉΪAI ¿ª·¢Ð·¶Ê½¡£¸ù¾ÝMIT Technology Review ºÍIEEE Computer,2020 Äê,Open AIÍÆ³öÆäеÄԤѵÁ·Ä£ÐÍGPT-3,GPT-3 Ïà±ÈÆäÉÏÒ»´úÄ£ÐÍÔÚÊý¾ÝÁ¿ÉÏʵÏÖÁËÁ¿¼¶µÄ·ÉÔ¾¡£Ä£Ð͵IJÎÊýÁ¿ÓÉ15 ÒÚ¸öÌáÉýÖÁ1750 ÒÚ¸ö,ѵÁ·Ê¹ÓõÄÊý¾ÝÁ¿ÓÉ40GBÌáÉýÖÁ45TB¡£ÔÚËã·¨¼¸ºõûÓб仯µÄÇé¿öÏÂ,GPT-3 ½öÒÀ¿¿²ÎÊýÁ¿µÄÌáÉý¾ÍʵÏÖÁ˱íÏÖÉϵķÉÔ¾:GPT-3 ¿ÉÒÔÔڸ߾«È·¶ÈµØ×Ô¶¯Éú³ÉÎÄÕ¡¢ÓëÈ˽»Á÷¡¢ÉõÖÁÍê³É´úÂë±àд,ÖÁ½ñÈÔÊÇ×îºÃµÄAI ÓïÑÔÄ£ÐÍÖ®Ò»¡£ÔÚGPT-3 ´ó»ñ³É¹¦µÄÍÆ¶¯ÏÂ,AI ¿ª·¢ÉÌÃÇ¿ªÆôÁË´óÄ£Ð͵ľºÈü¡£Ä¿Ç°,Google µÄSwitch-Transformer ºÍGLaM·Ö±ðÓÐ1 ÍòÒÚºÍ1.2 ÍòÒÚ¸ö²ÎÊý¡£ÔÚÎÒ¹ú,±±¾©ÖÇÔ´È˹¤ÖÇÄÜÔºÍÆ³öµÄÎòµÀ2.0ÔòÓÐ1.75 ÍòÒڵIJÎÊý¹æÄ£¡£¶ÔÓÚAI Ä£ÐͶøÑÔ,²ÎÊýÁ¿¾ö¶¨ÁËÄ£ÐÍËù½ÓÊܵÄѵÁ·Á¿¡£Ä£ÐÍÓµÓÐÔ½¶àµÄ²ÎÊý,¾ÍÄÜ´ÓѵÁ·Êý¾ÝÖÐժȡ¸ü¶àµÄÏà¹ØÐÅÏ¢,Ò²Òò´ËÄܹ»×ö³ö¸ü׼ȷµÄÔ¤²â¡£
´óÄ£ÐͶÔËã·¨ÓëÓ²¼þÌá³ö¸ü¸ßÒªÇó,½øÒ»²½ÌáÉý¼¼ÊõÃż÷¡£Ïà±ÈÓÚ´«Í³AI Ä£ÐÍ,´óÄ£ÐͶÔÏà¹ØËã·¨ºÍÓ²¼þÉèÊ©ÓÐןü¸ßµÄÒªÇó¡£ÏëÒª´¦ÀíǧÒÚÁ¿¼¶ÒÔÉϵIJÎÊý,´óÄ£ÐÍÐèÒªÉϰٸö¶ÀÁ¢µÄGPU À´ÑµÁ·Ä£Ð͵ÄÉñ¾ÍøÂç,ͬʱÐèÒªËã·¨À´½«ËùÓеÄѵÁ·Êý¾ÝÔÚ¸÷GPU Ö®¼ä½øÐкÏÀí·ÖÅä,È·±£ÕâЩÊý¾ÝÒÔºÏÊʵÄ˳Ðò¡¢ÔÚºÏÊʵÄʱ¼ä±»Ê¹Óá£ÔÚ¿ª·¢AI ´óÄ£ÐÍʱ,¸÷AI ³§É̶¼ÔÚ¶ÔÏàÓ¦µÄËã·¨ºÍÓ²¼þÉèÊ©½øÐÐÉý¼¶,È·±£³¬´óÌåÁ¿µÄ²ÎÊýÄܱ»Ä£ÐÍËùÎüÄÉ¡£¸ù¾ÝÁ¿×Óλ°Ù¼ÒºÅ,Google Ôò¿ª·¢³öÁËLIMoE Ï¡Ê軯´óÄ£ÐÍ,ÔÚʵÏÖÁãÑù±¾Ñ§Ï°µÄͬʱ¼«´ó³Ì¶È½µµÍÁËѵÁ·³É±¾¡£ÎªÈ·±£´óÄ£Ð͵Ä˳Àû¿ª·¢,¸÷³§ÉÌÒ²ÔÚ²»¶ÏÌáÉýÏà¹ØÓ²¼þÉèÊ©¡£ÎÒÃÇÈÏΪ,ÔÚδÀ´AI ´óÄ£Ð͵Ŀª·¢ÖÐ,Ö§³Ö¿ª·¢µÄËã·¨¡¢Ó²¼þÉèÊ©µÈ·½ÃæµÄ×ÛºÏʵÁ¦½«³ÉÎªÖØÒªµÄ¼¼ÊõÃż÷,½«¾ö¶¨AI ´óÄ£Ð͹æÄ£µÄÉÏÏÞºÍʵ¼ÊµÄÄ£ÐÍЧ¹û,²¢³ÉΪAI ³§ÉÌÄ£ÐÍ¿ª·¢³É¹¦Óë·ñµÄ¹Ø¼üÒòËØ¡£
´óÄ£ÐÍ×÷Ϊ»ùʯ¸ÅÄî¹É,¸³Á¦AI Ä£Ð͵ÄÓÅ»¯¼°¶à³¡¾°ÔËÓá£ÔÚ´óÄ£Ð͵ÄÔçÆÚ½×¶Î,ÊÜÄ£ÐÍÀàÐÍÏÞÖÆ,Ä£Ð͵ÄʹÓó¡¾°ÓÐÏÞ¡£Èç½ñ,Ô½À´Ô½¶àµÄAI ³§ÉÌ¿ªÊ¼×ªÏò¶àģ̬´óÄ£ÐÍ(large-scale multimodal model),ÕâЩģÐÍÄܹ»Í¬Ê±´¦ÀíͼÏñ¡¢Îı¾¡¢ÊÓÆµ¡¢ÒôƵµÈÊý¾ÝÀàÐÍ,²¢Ö§³ÖÎ޼ලʽѧϰ¡£ÔÚ´óÄ£Ð͵ÄÖ§³ÖÏÂ,AI ¶àģ̬ģÐÍÄܹ»ÔÚ¸ü¶à¡¢¸ü¸´Ôӵij¡¾°Ìṩ֧³Ö¡£¸ù¾Ý°Ù¶ÈÎÄÐĹÙÍøºÍIDC ¹Ù΢,°Ù¶ÈµÄÎÄÐÄ·¿çģ̬´óÄ£Ðͽ«³¡¾°Í¼ÖªÊ¶ÈÚÈëµ½ÊÓ¾õ-ÓïÑÔÄ£Ð͵ÄԤѵÁ·¹ý³Ì;°¢Àï´ïĦԺµÄM6 ´óÄ£ÐͼÈÔÚ°¢ÀïÄÚ²¿ºËÐÄÒµÎñ³¡¾°Â䵨,ÔÚÍⲿҽÁÆ¡¢ÄÜÔ´¡¢½ðÈÚÐÐÒµ»ýÀÛÁ˶à¸öʵ¼ù°¸Àý¡£¶ÔÓÚ¸÷ÐÐÒµ¶øÑÔ,´óÄ£Ð͵ÄÓ¦ÓüÛÖµÒ²¿ªÊ¼Öð½¥ÇåÎú:´óÄ£ÐͲ»ÒªÇóÆóÒµ¾ß±¸º£Á¿µÄÊý¾Ý»ù´¡¡¢Ïà±È´«Í³AI Ä£ÐÍÁúÍ·¹ÉÉÏÓ¦ÓõÄЧ¹û¸üÓÅ¡¢²¢ÄܽµµÍAI ¿ª·¢Ãż÷¡£ÎÒÃÇÈÏΪ,Ëæ×ÅÒÔ´óÄ£ÐÍΪ»ù´¡µÄ¶àģ̬ģÐ͵ijÖÐøÓÅ»¯,δÀ´AI Ä£Ðͽ«ÄÜÔÚ¸ü¶à³¡¾°¡¢¸ü¸´ÔӵŦÄÜÖÐÌåÏÖ×Ô¼ºµÄÓÅÊÆ,´óÄ£Ð͵ÄÔËÓ÷¶Î§½«»á³ÖÐøÌáÉý,²¢½«ÕýÏò·´À¡½øÒ»²½Íƶ¯´óÄ£Ð͵ÄÏà¹ØÑз¢¡£ÎÒÃÇÈÏΪ,GPT-3 µÄ³É¹¦Ö¤Ã÷Á˲ÎÊýÌåÁ¿¶ÔAI Ä£Ð͵ÄÖØÒªÐÔ,×Ô´Ë¿ªÆôÁË´óÄ£ÐÍʱ´ú¡£ÏëҪȷ±£AI Ä£Ð͹æÄ£µÄ²»¶ÏÌáÉý,¸÷³§ÉÌÁúÍ·¹ÉÉϱØÐë³ÖÐøÓÅ»¯Ë㷨ģ¿é¼°Ïà¹ØÓ²¼þÉ豸;¶øÔÚ´óÄ£Ð͵ÄÖ§³ÖÏÂ,AI Ä£Ðͽ«²»¶ÏÓÅ»¯²¢×îÖÕʵÏÖÔÚ¸ü¹ã·º¡¢¸ü¸´Ôӵij¡¾°µÄÂ䵨¡£
·çÏÕÌáʾ:ÐÐÒµÏà¹ØÕþ²ßÍÆ½ø²»¼°Ô¤ÆÚ,Ç°ÑØ¼¼ÊõÁúÍ·¹É·¢Õ¹²»¼°Ô¤ÆÚ»òÓ¦ÓÃЧ¹û²»¼ÑµÄ·çÏÕ¡£
Êý¾ÝÍÆ¼ö
×îÐÂͶ×ÊÆÀ¼¶Ä¿±êÕÇ·ùÅÅÃûÉϵ÷Ͷ×ÊÆÀ¼¶ ϵ÷Ͷ×ÊÆÀ¼¶»ú¹¹ÁúÍ·¹ÉÉϹØ×¢¶ÈÐÐÒµ¹Ø×¢¶È¹ÉƱ×ÛºÏÆÀ¼¶Ê×´ÎÆÀ¼¶¹ÉƱ
- ¡¤ÖÐÌ©»¯Ñ§Òµ¼¨Ô¤¸æ×îÐÂÏûÏ¢£º2023µÚÒ»¼¾¶È¾»ÀûÈóͬ±ÈÂÔµÍÓÚÔ¤ÆÚ
- ¡¤Ãôо¹É·ÝÒµ¼¨Ô¤¸æ×îÐÂÏûÏ¢£º2023µÚÒ»¼¾¶È¾»ÀûÈóͬ±È¼õÉÙ674.39%
- ¡¤°ÙÈó¹É·ÝÒµ¼¨Ô¤¸æ×îÐÂÏûÏ¢£º2023µÚÒ»¼¾¶È¾»ÀûÈóͬ±ÈÔö³¤104.7%
- ¡¤ÌÕ´ÉÐÐÒµ¹ÉƱ2023Òµ¼¨·ÖÎö£ºÌÕ´É»ù°å·¢Õ¹Ñ¸ËÙ£¬¾«ÃÜÌÕ´ÉÁ㲿¼þÓÐÍû¼ÓËÙ¹ú²ú»¯
- ¡¤Ìì°Âµç×ÓÒµ¼¨Ô¤¸æ×îÐÂÏûÏ¢£º2023µÚÒ»¼¾¶È¾»ÀûÈóͬ±ÈÔö³¤10.37%
- ¡¤ÏãÆ®Æ®Òµ¼¨Ô¤¸æ×îÐÂÏûÏ¢£º2023µÚÒ»¼¾¶È¾»ÀûÈóͬ±ÈÔö³¤110%
Ïà¹ØÍÆ¼ö£º