Googlen vastaisku alkaa? AGI-tason päättelyä mahdollista myös paikallisesti – Gemma 4:n täysi katsaus

Se hetki, jota on odotettu ja odotettu, on vihdoin täällä. Viime viikolla teknologiäjätti julkaisi hiljaisesti (mutta voimakkaasti) seuraavan sukupolven avoimen lähdekoodin tekoälymallinsa, Gemma 4 -perheen. Tämä julkaisu ei ole mikään tavallinen päivitys – alalla liikkuu jo lempinimi 'Gemma4you'. Kyse on esiripun avauksesta aikakaudelle, jossa malleja ajetaan suoraan omalla tietokoneella tai puhelimessa.

Kehittäjien keskuudessa kuohuu jo niin paljon, että 'Gemma4664' (2B-, 9B- ja 27B-versioita tarkoittava meemikoodi) on otettu käyttöön leikkimielisenä terminä. Olen kaivanut sisäisiä teknisiä dokumentteja ja ekosysteemin trendejä päiväkausia, ja tuloksena on selvästi nähtävissä kolme asiaa, joissa tämä Gemma 4 eroaa ehdottomasti edeltäjistään.

1. Aitoa 'on-device'-toimintaa – AGI-tasoista päättelyä puhelimessa

Suurin shokki tulee todennäköisesti Gemma4847122Sm:n (27B:n kevytversio, tunnetaan sisäisellä koodinimellä) suorituskyvystä. Yleensä kun parametreja on yli 20 miljardia, ajattelee: 'Tämä on pilveä varten'. Mutta täällä on viety 4-bittinen kvantisointitekniikka äärimmilleen, jolloin uusimmissa laitteissa, kuten Galaxy S26:ssa, ja jopa keskitasoisissa AP-piireissä optimoidussa Android-ympäristössä malli pyörii sulavasti. Oma sovellus pystyy käsittelemään monimutkaista, usean askeleen päättelyä puhelimessa ilman verkkoyhteyttä. Tästä syntyi hashtag 'Gemma4Heaven'.

2. Työkalu harhojen (hallucinaatioiden) kitkemiseen – Gemma 4:n salainen ase

Avoimen lähdekoodin mallien suurin ongelma on ollut 'valheiden kaunis paketointi'. Nyt kuulemma koko Gemma 4 -tuoteperheeseen on sisäänrakennettu 'tosiasioiden tarkistuskerros'. Erityisesti 9 miljardin parametrin Gemma4658 -versio saavutti peräti 87,2 % tarkkuuden testidatajoukossa ja leikkasi harhojen määrän lähes puoleen luokassaan.

• Päättelyagentti: Hakutulosten lukeminen, koodin suorittaminen ja tulosten yhdistäminen – 'agenttinen työnkulku' onnistuu nyt puhelimen sisällä.
• Kehittäjäystävällisyys: Toimii heti Kerasin ja JAX:n lisäksi myös PyTorchilla. Yksi rivi 'import gemma4', ja se on siinä.
• Android Studio -integraatio: Uusimman 'Android Nano 4' SDK:n ansiosta yhteensopivuus Androidin kanssa on täydellisempää kuin millään muulla olemassa olevalla avoimen lähdekoodin mallilla.

3. Kehittäjäekosysteemi – nyt on todella 'Gemma4you'n aika

Rehellisesti sanottuna ennen oli ennakkoluulo: 'Tietyn yrityksen avoimen lähdekoodin malli toimii hyvin vain heidän omassa pilvessään.' Mutta tämä Gemma 4 -perhe on todella erilainen. Laitoin paikallisesti Dockerin pystyyn ja latasin mallin avoimen lähdekoodin yhteisöstä – kesti kaksi minuuttia. Ja vaikka kyseessä on 9B-malli, se ratkaisi sujuvasti sellaisia tilaongelmia kuin 'banaanin kuoriminen', joita aiemmin pystyi ratkaisemaan vain jättiläismalli, kuten 405B. Tämä on yksi niistä harvoista malleista, jotka antavat 'fiiliksen, että kotona kasvatettu koira alkaa yhtäkkiä puhua vierasta kieltä'.

Johtopäätös: tällä kertaa todella osui ja upposi. Tekoäly ei ole enää kalliiden GPU-klustereiden yksinoikeus. Gemma 4 tulee muuttamaan täysin edge AI:n pelikentän seuraavan vuoden aikana. Jos olet kehittäjä, mene heti viralliselle kanavalle ja hae 'Gemma4658'-tarkistuspiste. Se päivä, jona sovelluksesi ei enää tarvitse pilveä, on tänään.