Hárkolluvillan: Af Tyrklandsferðum og gervigreind

GERVIGREIND - 17

Ég hef lengi þróað með mér há kollvik. Þetta er ferli sem gerist hægt, næstum ósýnilega, þar til maður stendur einn daginn fyrir framan spegilinn og áttar sig á því að ennið hefur tekið yfir dágóðan hluta af höfuðleðrinu. Ég skal alveg viðurkenna að ég hef stundum horft gagnrýnum augum á þennan „þykktarmun“ á hársverðinum og velt vöngum yfir lausnum.

Hugsunin hefur vissulega hvarflað að mér – ekki alvarlega, en hún hefur komið: Hvað ef maður skellti sér bara til Tyrklands í hárígræðslu?

Það er orðið hálfgerð þjóðaríþrótt að fljúga suður á bóginn og koma til baka með nýjan gróður. En það sem hefur hingað til stoppað mig (fyrir utan kannski smá skynsemi í fjármálum) er hégóminn. Ég er hræddur um að fólk muni sjá það. Að ég myndi mæta í Bónus eða á Glerártorg og fólk myndi hvísla: „Sérðu Magnús? Hann er með ígræðslu. Þetta lúkkar eitthvað svo... gervilegt.“

Sem er í raun fáránleg pæling. Þetta væri jú bara hár af mér, flutt af hnakkanum og fram á ennið. En óttinn við að „sjást“ er raunverulegur.

Hvað kemur hopandi hárlína mín gervigreind við? Jú, þessi ótti minn byggir á nákvæmlega sama misskilningi og tröllríður nú umræðunni um gervigreind í skólum og á vinnustöðum.

Það kallast Hárkolluvillan (The Toupee Fallacy).

Þú sérð bara lélegu hárkollurnar 

Hugmyndin er einföld: Þú trúir því að þú getir alltaf þekkt hárkollu (eða hárígræðslu) úr fjarlægð. Af hverju? Vegna þess að í hvert skipti sem þú sérð hárkollu, þá tekurðu eftir henni.

En það sem þú áttar þig ekki á, er að þú hefur líklega mætt hundruðum manna með fullkomnar hárkollur eða listavel gerðar ígræðslur sem þú tókst aldrei eftir. Þú sérð bara mistökin. Þú sérð bara ódýru vinnuna.

Nákvæmlega það sama er að gerast með gervigreindina.

„Ég þarf ekki hugbúnað til að segja mér hvað er gervigreind,“ segja spekingarnir í pottinum og á kaffistofum. „Ég sé þetta strax. Þetta hefur ákveðinn stíl. Þetta er svo vélrænt.“

Vandamálið er að það er ekki verið að greina gervigreind heldur skort á réttum vinnubrögðum, á meðan vönduðu verkin fljúga undir radarnum eins og flugvélarnar sem engin göt sjást á.

Björgunarskekkjan og flugvélar með göt

Við erum að falla í klassíska gildru sem kallast björgunarskekkja (Survivorship Bias). Í seinni heimsstyrjöldinni skoðaði herinn skemmdir á flugvélum sem komu aftur úr bardaga. Þeir sáu göt á vængjum og skrokknum og hugsuðu: „Við þurfum að styrkja þessi svæði!“

Tölfræðingurinn Abraham Wald benti á villuna: Þið eruð að skoða vélarnar sem komust heim. Vélarnar sem voru skotnar í mótorinn eða stjórnklefann komu aldrei til baka. Þið eigið að styrkja svæðin þar sem engin göt eru.

Þegar kennari, ritstjóri eða vinnuveitandi segist „sjá“ gervigreind er hann að horfa á flugvélina með götunum. Hann sér:

• Nemandann sem skilaði inn hráu úttaki úr sjálfgefnum stillingum án þess að lesa yfir, sem skilur eftir sig augljós einkennisorð eins og „delve“ eða „tapestry“.
• Starfsmanninn sem treystir á fyrstu drög tækninnar án þess að beita rýni, heimildaleit eða eigin rödd.

Hann sér ekki flugvélarnar sem komu aldrei til baka:

• Fagmanninn sem notar tæknina sem öflugan gagnrýnanda og samstarfsmann við að byggja upp flókna rökfærslu en endurskrifar svo allt með sínum einstaka stíl og sannreynir sérhverja staðreynd.
• Snillinginn sem notar tólin til að dýpka eigið ferli og draga fram sjónarhorn sem annars hefðu gleymst, en heldur þétt í stýrið á lokavinnslunni.

Þegar afburðir verða grunsamlegir

Þessi ofurtrú á eigið innsæi („vibe check“) er stórhættuleg. Sömuleiðis blind trú á tæknilausnir sem lofa gulli og grænum skógum. Staðreyndin er sú að gervigreindargreiningartól eru svona 99% snákaolía; þau eru oft líklegri til að merkja við Brennu Njáls sögu eða Biblíuna sem tölvuskrifaðan texta en raunverulegt svindl.

Ef við kennum fólki að leita að „vélrænum“, „ofurleiðréttum“ eða „of vel uppbyggðum“ texta, þá erum við að leggja gildrur fyrir þá sem leggja metnað í vinnu sína.

Við erum farin að sjá dæmi þess að fólk sem skrifar formlegan og vandaðan texta sé sakað um svindl. Af hverju? Vegna þess að textinn er „of góður“ til að vera mannlegur. Meðalmennskan fær passann, en afburðirnir vekja grunsemdir.

Vandinn er sá að við erum að horfa á rangan mælikvarða. Í stað þess að leita að „vélrænum blæ“ ættum við að meta gæði rökstuðningsins, nákvæmni heimilda, dýpt ferlisins og þann skapandi neista sem felst í því að draga sínar eigin ályktanir.

Ég efast en útiloka ekki að einhvern tímann fari ég til Tyrklands í lagningu, að sinni fá þó kollvikin að vera í friði. En við þurfum að hætta að horfa á texta og leita að „hárkollunni“. Ef þú heldur að þú getir séð gervigreind með berum augum, þá ertu sennilega bara að sjá þá sem nenna ekki að leggja sig fram.

Hinir fljúga undir radarnum. Hættum að dæma tólið og byrjum að dæma verkið. Góður texti er góður texti, sama hvernig hann varð til – svo lengi sem hugsunin, ábyrgðin og rökstuðningurinn á bak við hann eru þín.

Magnús Smári Smárason er verkefnastjóri gervigreindar við Háskólann á Akureyri