Claude alhaalla: Suuri tekoälykatkos, joka paljasti digitaalisen korttitalomme

Annapa kun maalaan teille kuvan maanantaiaamustani. Kahvikuppi kädessä, valmiina rykäisemään läjäpäin raportteja, käynnistin Clauden auttamaan monimutkaisen talousdatan jäsentelyssä. Ja sitten... ei mitään. Digitaalinen vastine varatulle äänelle. Tuhannet meistä tuijottivat virheilmoituksia, päivittivät kuumeisesti ja kokivat sitä erityistä modernia paniikkia, kun robotti ei vastaakaan. Claude oli alhaalla, ja muutaman tunnin ajan puolet Lontoon tietotyöläisistä olisi yhtä hyvin voinut yrittää tehdä veroilmoitustaan sulkakynällä ja musteella.

Olet todennäköisesti jo kuullut jälkipyykin. Noin lounasaikaan GMT-aikaa Anthropicin järjestelmät alkoivat tuottaa "kohonneita virhetasoja". Epävirallisten alan sisäpiirilähteiden mukaan tuhannet käyttäjät maailmanlaajuisesti kärsivät ongelmista. Alustalle, joka on profiloitunut tekoälykilpailun harkitsevaksi ja turvallisuuslähtöiseksi vaihtoehdoksi, tämä oli kiusallinen hetki. Mutta siinä missä teknologia-media seuraa innolla katkoksen ratkeamista, minua kiinnostaa enemmän, mitä se kertoo siitä korttitalosta, jota olemme rakentamassa. Tämä ei ollut vain palvelimen nikottelua; se oli välähdys tulevaisuuteen, joka on paljon hauraampi kuin chatbottien myyjät antavat ymmärtää.

Järjestelmän 'ongelmakoneet'

Korkean panoksen valmistusteollisuuden maailmassa on käsite, jonka jokainen tehtaanjohtaja tuntee ulkoa: ongelmakone. Se on se tietty kone linjalla – oikukas pakkaaja, ikääntyvä kuljetinhihnan moottori – joka aiheuttaa suhteettoman suuren osan seisokeista. Tehtaan lattialla voi olla kiiltäviä uusia laitteita, mutta jos tuo yksittäinen ongelmakone hyytyy, koko operaatio pysähtyy. Kahdeksankymmentä prosenttia ongelmista johtuu kahdestakymmenestä prosentista laitteista.

Katsokaapa nyt digitaalista infrastruktuuriamme. Olemme rakentaneet valtavia, upeita palvelinfarmeja ja kouluttaneet näitä ihmeellisiä malleja. Mutta maanantain Claude alhaalla -tapaus huutaa, ettemme ole vielä selvittäneet, miten tunnistaa, saati korjata, tekoälytoimitusketjumme ongelmakoneita. Oliko kyse yhdestä pisteestä, joka petti? Laajenevasta ohjelmistoviasta? Rehellisesti sanottuna "miksi" on vähemmän tärkeä kuin "mitä": keskeinen osa maailmanlaajuista kognitiivista infrastruktuuria osoitti, että se voidaan sammuttaa yhtä helposti kuin valo. Luotamme näihin järjestelmiin kaikessa koodin generoinnista sijoitusanalyysiin, mutta niiden toimintavarmuus on yhä autotallibändin alkutaipaleella.

Tarinat, joita kerromme itsellemme

Tämä tuo mieleeni jotain, mitä olen viime aikoina pyöritellyt mielessäni, osittain innoittamana Paul Murrayn loistavan romaanin The Mark and the Void: A Novel uudelleenlukemisesta. Jos et ole sitä lukenut, se on raaka, hulvaton romaani finanssikriisistä, sijoittuen dublinilaiseen investointipankkiin Irlannin "kelttitiikerin" kuolinkouristuksissa. Kirjan nerous on siinä, miten se paljastaa ne fiktiot, joihin yhdessä suostumme uskomaan – kertomukset siitä, että markkinat ovat rationaaliset, mallit ovat luotettavia, järjestelmä on vakaa. Kaikki tiesivat kuplan olevan olemassa, mutta he jatkoivat tanssimista, kunnes musiikki lakkasi.

Eikö tämä ole juuri se tilanne, jossa olemme tekoälyn kanssa? Me liitämme näihin chatbotteihin lähes myyttisiä ominaisuuksia. Kerromme itsellemme, että ne ovat kuin se ultimate Adventures of Egg Box Dragon – se Richard Adamsin lastenkirjan maaginen olento, joka löysi kaiken kadonneen. Heitämme ongelmia Claudelle, ChatGPT:lle ja muille, odottaen niiden hakevan vastauksia digitaalisesta eetteristä, vakuuttuneina niiden kaikkivoipaisuudesta. Mutta kun virta katkeaa, kun "kohonneet virhetasot" nousevat, kohtaamme epämiellyttävän totuuden: mitään taikaa ei ole. Se on vain koodia, ja koodi hajoaa. Lohikäärme on pahvia ja maalattu vihreäksi.

On toinenkin kirjallinen rinnastus, joka tuntuu osuvalta. Dominic Smithin romaanissa The Electric Hotel seurataan mykkäelokuvan uranuurtajan, Claude Ballardin, nousua ja tuhoa. Hän on mies, jonka elokuvan taika valtaa, vain nähdäkseen taiteenlajinsa – ja mestariteoksensa – tuhoutuvan ajan, laiminlyönnin ja yhden tuhoisan tulipalon seurauksena. Romaani on vaikuttava meditaatio taiteen ja muistin hauraudesta. Ja tässä me nyt olemme, vuosisata myöhemmin, rakentamassa toisenlaista sähköistä unelmaa, yhtä alttiina yhdelle pettävälle pisteelle. Digitaaliset muistomme, tekoälyavusteinen työmme – poof. Poissa, kunnes joku insinööri jossain palvelinkeskuksessa onnistuu käynnistämään projektorin uudelleen.

Joululahjojen haamu

Tämä katkos pakottaa myös arvioimaan uudelleen näiden alustojen tarjoamaa "palvelua". En voinut olla ajattelematta vanhaa lastenkirjaa, Claude the Dog: A Christmas Story, jossa nimetön koira antaa kaikki joululahjansa pois köyhäksi ystävälleen. Se on tarina anteliaisuudesta ja antamisen todellisesta hengestä. Mutta meidän asiayhteydessämme, kun Claude menee alas, se ei anna; se ottaa. Se vie aikaamme, tuottavuuttamme, luottamustamme. Olemme tulleet niin riippuvaisiksi näistä digitaalisista kainalosauvoista, että kun ne tempaistaan pois, me jäämme nilkuttamaan.

Niille yrityksille, jotka ovat kiirehtineet integroimaan näitä sovellusrajapintoja ydintoimintoihinsa, maanantai oli kylmä suihku. Jos olet rakentanut asiakaspalvelurobottisi, sisäisen data-analyysisi tai koodivarastosi alustalle, joka voi kadota varoituksetta, kuka on nyt se ongelmakone? Onko se viallinen palvelin vai teknologiajohtaja, joka oletti "pilven" olevan itsestään selvän luotettava?

Tässä on se epämiellyttävä todellisuus, jolle alan on katsottava silmiin:

• Kestävyys ei ole itsestäänselvyys: Kohtelemme tekoälyn toiminta-aikaa kuin sähköä, mutta se on tällä hetkellä lähempänä premium-lisäkanavaa. Se pimenee, kun sataa.
• Kertomus on rikki: Meidän on lopetettava tekoälyn mytologisointi ja alettava kohdella sitä kriittisenä infrastruktuurina. Se tarkoittaa varajärjestelmiä, offline-varasuunnitelmia ja tervettä annosta skeptisyyttä.
• Todellinen arvo on piilossa: Yritykset, jotka voittavat tämän kilpailun seuraavan vaiheen, eivät välttämättä ole ne, joilla on hienoimmat mallit, vaan ne, jotka pystyvät takaamaan luotettavuuden. Se alusta, joka pysyy pystyssä, kun muut kaatuvat, on se, johon yritykset todella luottavat.

Kun markkinat avautuvat tällä viikolla, puhe pyörii Anthropicin vasteajan ja heidän tilannepäivitystensä ympärillä. Mutta viisaat rahat – ihmiset, jotka oppivat vuoden 2008 opetukset – esittävät vaikeampia kysymyksiä. He etsivät oman operationaalisen riskiarvionsa tyhjää kohtaa (The Mark and the Void). He tunnistavat teknologiapinojensa ongelmakoneet ennen kuin ne pysäyttävät koko tehtaan lattian täydelliseen, hiljaiseen hiljaisuuteen.

Valot ovat nyt takaisin päällä. Claude vastaa taas kyselyihin, toimien kuin mitään ei olisi tapahtunut. Mutta me näimme kulissien taakse. Me näimme tyhjyyden. Ja se näytti paljon "504 Gateway Time-out" -virheeltä harmaana Lontoon aamuna.