Pasiuna

Sa imong hunahuna ang Grok3 mahimong "katapusan" sa mga pre-trained nga mga modelo?

Opisyal nga gilusad ni Elon Musk ug sa xAI team ang pinakabag-o nga bersyon sa Grok, Grok3, atol sa usa ka livestream. Sa wala pa kini nga panghitabo, usa ka hinungdanon nga kantidad sa mga may kalabutan nga kasayuran, inubanan sa 24/7 nga promosyon nga hype sa Musk, nagpataas sa mga gilauman sa kalibutan alang sa Grok3 sa wala pa kaniadto nga lebel. Usa lang ka semana ang milabay, si Musk masaligon nga nagpahayag sa usa ka livestream samtang nagkomento sa DeepSeek R1, "Ang xAI hapit na maglansad sa usa ka mas maayo nga modelo sa AI." Gikan sa mga datos nga gipresentar nga live, ang Grok3 gikataho nga milabaw sa tanan nga karon nga mainstream nga mga modelo sa mga benchmark alang sa matematika, siyensya, ug programming, nga ang Musk nag-angkon pa nga ang Grok3 magamit alang sa mga buluhaton sa pagkalkula nga may kalabotan sa mga misyon sa SpaceX sa Mars, nga nagtagna sa "mga kalampusan sa lebel sa Nobel Prize sulod sa tulo ka tuig." Bisan pa, kini karon mga pahayag lamang ni Musk. Pagkahuman sa paglansad, gisulayan nako ang pinakabag-o nga beta nga bersyon sa Grok3 ug gipangutana ang klasiko nga trick nga pangutana alang sa dagkong mga modelo: "Unsa ang mas dako, 9.11 o 9.9?" Ikasubo, kung wala’y mga kwalipikasyon o marka, ang gitawag nga labing maalamon nga Grok3 dili gihapon makatubag sa kini nga pangutana sa husto. Ang Grok3 napakyas sa tukmang pag-ila sa kahulogan sa pangutana.

Kini nga pagsulay dali nga nakakuha ug daghang atensyon gikan sa daghang mga higala, ug sulagma, ang lainlaing parehas nga mga pagsulay sa gawas sa nasud nagpakita sa Grok3 nga nanlimbasug sa mga batakang pangutana sa pisika/matematika sama sa "Unsang bola ang una nga nahulog gikan sa Leaning Tower sa Pisa?" Busa, kataw-anan kini nga gimarkahan nga "usa ka henyo nga dili gusto nga motubag sa yano nga mga pangutana."

Maayo ang Grok3, apan dili kini mas maayo kaysa R1 o o1-Pro.

Ang Grok3 nakasinati og "mga kapakyasan" sa daghang kasagarang mga pagsulay sa kahibalo sa praktis. Atol sa xAI launch event, ang Musk nagpakita sa paggamit sa Grok3 aron pag-analisar sa mga klase sa karakter ug mga epekto gikan sa dula nga Path of Exile 2, nga iyang giangkon nga kanunay magdula, apan kadaghanan sa mga tubag nga gihatag sa Grok3 dili husto. Ang musk sa panahon sa livestream wala makamatikod niining dayag nga isyu.

Kini nga kasaypanan wala lamang naghatag og dugang nga ebidensya alang sa mga netizens sa gawas sa nasud sa pagbiaybiay sa Musk tungod sa "pagpangita usa ka kapuli" sa pagdula apan nagpataas usab sa hinungdanon nga mga kabalaka bahin sa kasaligan sa Grok3 sa mga praktikal nga aplikasyon. Alang sa ingon nga "henyo," bisan unsa pa ang aktuwal nga kapabilidad niini, ang kasaligan niini sa labi ka komplikado nga mga sitwasyon sa aplikasyon, sama sa mga buluhaton sa pagsuhid sa Mars, nagpabilin nga pagduhaduha.

Sa pagkakaron, daghang mga tester nga nakadawat og access sa Grok3 mga semana ang milabay, ug kadtong bag-o lang nagsulay sa mga kapabilidad sa modelo sulod sa pipila ka oras kagahapon, ang tanan nagpunting sa usa ka komon nga konklusyon: "Ang Grok3 maayo, apan kini dili mas maayo kay sa R1 o o1-Pro."

Usa ka Kritikal nga Panglantaw sa "Pagsamok sa Nvidia"

Sa opisyal nga gipresentar nga PPT sa panahon sa pagpagawas, ang Grok3 gipakita nga "halayo sa unahan" sa Chatbot Arena, apan kini nga maalamon nga naggamit sa mga teknik sa graphic: ang bertikal nga axis sa leaderboard naglista lamang sa mga resulta sa 1400-1300 score range, nga naghimo sa orihinal nga 1% nga kalainan sa mga resulta sa pagsulay makita nga talagsaon nga mahinungdanon niini nga presentasyon.

Sa aktwal nga mga resulta sa pagmarka sa modelo, ang Grok3 kay 1-2% lang sa unahan sa DeepSeek R1 ug GPT-4.0, nga katumbas sa daghang mga kasinatian sa mga tiggamit sa praktikal nga mga pagsulay nga nakit-an nga "walay makita nga kalainan." Ang Grok3 milabaw lamang sa mga nagsunod niini sa 1%-2%.

Bisan kung ang Grok3 nakapuntos nga mas taas kaysa sa tanan nga karon nga gisulayan sa publiko nga mga modelo, daghan ang wala magtagad niini nga seryoso: pagkahuman, ang xAI kaniadto gisaway tungod sa "pagmaniobra sa puntos" sa panahon sa Grok2. Ingon nga gisilotan sa leaderboard ang istilo sa gitas-on sa tubag, ang mga marka mikunhod pag-ayo, nga nanguna sa mga insider sa industriya nga kanunay nga gisaway ang panghitabo sa "taas nga marka apan ubos nga abilidad."

Kung pinaagi sa "manipulasyon" sa leaderboard o mga trick sa disenyo sa mga ilustrasyon, gipadayag nila ang obsession sa xAI ug Musk sa ideya nga "panguna sa pack" sa mga kapabilidad sa modelo. Ang Musk nagbayad og taas nga presyo alang niini nga mga margin: sa panahon sa paglansad, nanghambog siya sa paggamit sa 200,000 H100 GPUs (nag-angkon nga "labaw sa 100,000" sa panahon sa livestream) ug nakab-ot ang kinatibuk-ang oras sa pagbansay nga 200 milyon nga oras. Kini ang hinungdan sa pipila nga nagtuo nga kini nagrepresentar sa usa ka hinungdanon nga kaayohan alang sa industriya sa GPU ug gikonsiderar ang epekto sa DeepSeek sa sektor nga "binuang." Ilabi na, ang uban nagtuo nga ang bug-os nga gahum sa pagkalkula mao ang kaugmaon sa pagbansay sa modelo.

Bisan pa, gitandi sa pipila nga mga netizens ang pagkonsumo sa 2000 H800 GPU sa sulod sa duha ka bulan aron makahimo og DeepSeek V3, nga gikalkula nga ang aktwal nga pagkonsumo sa kuryente sa Grok3 263 ka beses kaysa sa V3. Ang gintang tali sa DeepSeek V3, nga nakakuha og 1402 puntos, ug Grok3 ubos ra sa 100 puntos. Pagkahuman sa pagpagawas sa kini nga datos, daghan ang dali nga nakaamgo nga luyo sa titulo sa Grok3 ingon ang "labing kusgan sa kalibutan" nahimutang ang usa ka tin-aw nga epekto sa marginal utility-ang lohika sa mga dagkong modelo nga nagpatunghag labi ka kusog nga pasundayag nagsugod sa pagpakita sa pagkunhod sa pagbalik.

Bisan sa "taas nga marka apan ubos nga abilidad," ang Grok2 adunay daghang mga de-kalidad nga datos sa first-party gikan sa X (Twitter) nga plataporma aron suportahan ang paggamit. Bisan pa, sa pagbansay sa Grok3, natural nga nahibal-an sa xAI ang "kisame" nga giatubang karon sa OpenAI — ang kakulang sa premium nga datos sa pagbansay dali nga nagpadayag sa marginal utility sa mga kapabilidad sa modelo.

Ang mga nag-develop sa Grok3 ug Musk lagmit ang una nga nakasabut ug nahibal-an kini nga mga kamatuoran, mao nga ang Musk kanunay nga naghisgot sa social media nga ang bersyon nga nasinati karon sa mga tiggamit mao ang "beta ra" ug nga "ang tibuuk nga bersyon ipagawas sa umaabot nga mga bulan." Gikuha sa Musk ang papel sa manager sa produkto sa Grok3, nagsugyot sa mga tiggamit nga maghatag feedback sa lainlaing mga isyu nga nasugatan sa seksyon sa mga komento. Tingali siya ang labing gisundan nga manager sa produkto sa Yuta.

Bisan pa, sa sulod sa usa ka adlaw, ang pasundayag sa Grok3 sa walay duhaduha nagpataas sa mga alarma alang sa mga naglaum nga mosalig sa "massive computational muscle" aron mabansay ang mas kusgan nga dagkong mga modelo: base sa publiko nga magamit nga impormasyon sa Microsoft, ang OpenAI's GPT-4 adunay gidak-on nga parameter nga 1.8 trilyon nga mga parameter, kapin sa napulo ka pilo sa GPT-3. Ang mga hungihong nagsugyot nga ang gidak-on sa parameter sa GPT-4.5 mahimong mas dako pa.

Samtang ang mga gidak-on sa mga parameter sa modelo mosaka, ang mga gasto sa pagbansay nag-skyrocket usab. Sa presensya sa Grok3, ang mga contenders sama sa GPT-4.5 ug uban pa nga gusto nga magpadayon sa "pagsunog sa salapi" aron makab-ot ang mas maayo nga performance sa modelo pinaagi sa gidak-on sa parameter kinahanglan nga tagdon ang kisame nga karon klaro nga makita ug hunahunaon kung giunsa kini pagbuntog. Niining higayona, si Ilya Sutskever, kanhi punoan nga siyentipiko sa OpenAI, nagpahayag kaniadto kaniadtong Disyembre, "Ang pre-training nga nahibal-an namon matapos na," nga mitumaw pag-usab sa mga diskusyon, nga nag-aghat sa mga paningkamot sa pagpangita sa tinuud nga agianan alang sa pagbansay sa dagkong mga modelo.

Ang panglantaw ni Ilya nakapaalarma sa industriya. Sakto niyang nalantawan ang nagsingabot nga kakapoy sa ma-access nga bag-ong datos, nga mitultol ngadto sa usa ka sitwasyon diin ang performance dili makapadayon sa pagpauswag pinaagi sa data acquisition, nga gipakasama kini sa pagkahurot sa fossil fuels. Gipakita niya nga "sama sa lana, ang hinimo sa tawo nga sulud sa internet usa ka limitado nga kapanguhaan." Sa mga panagna ni Sutskever, ang sunod nga henerasyon sa mga modelo, post-pre-training, adunay "tinuod nga awtonomiya" ug mga kapabilidad sa pagpangatarungan "susama sa utok sa tawo."

Dili sama sa pre-trained nga mga modelo karon nga nag-una nga nagsalig sa content matching (base sa nakat-onan na nga modelo sa sulod), ang umaabot nga AI system makakat-on ug maka-establisar og mga pamaagi aron masulbad ang mga problema sa paagi nga susama sa "panghunahuna" sa utok sa tawo. Makab-ot sa usa ka tawo ang sukaranan nga kahanas sa usa ka hilisgutan nga adunay sukaranan nga propesyonal nga literatura, samtang ang usa ka dako nga modelo sa AI nanginahanglan milyon-milyon nga mga punto sa datos aron makab-ot ang labing sukaranan nga lebel sa lebel sa pagsulod. Bisan kung ang mga pulong giusab gamay, kini nga mga sukaranan nga mga pangutana mahimong dili masabtan sa husto, nga naghulagway nga ang modelo wala gyud miuswag sa salabutan: ang sukaranan apan dili masulbad nga mga pangutana nga gihisgutan sa sinugdanan sa artikulo nagrepresentar sa usa ka tin-aw nga pananglitan niini nga panghitabo.

Panapos

Bisan pa, labaw pa sa bangis nga puwersa, kung ang Grok3 sa tinuud molampos sa pagpadayag sa industriya nga ang "pre-trained nga mga modelo nagkaduol na sa ilang katapusan," kini adunay daghang mga implikasyon alang sa natad.

Tingali pagkahuman nga hinayhinay nga nahurot ang kasamok nga naglibot sa Grok3, masaksihan namon ang daghang mga kaso sama sa pananglitan ni Fei-Fei Li sa "pag-tune sa mga modelo nga adunay taas nga pasundayag sa usa ka piho nga dataset sa $50 lang," nga sa katapusan nakadiskubre sa tinuud nga agianan sa AGI.