AI savjetuje da jedemo kamenje i stavljamo ljepilo na pizzu

Google je uveo svoju najnoviju eksperimentalnu značajku pretraživanja na Chromeu, Firefoxu i pregledniku aplikacije Google za stotine milijuna korisnika. "AI Pregledi" (AI Overviews) štede vam klikanje na poveznice korištenjem generativne umjetne inteligencije, za pružanje sažetaka rezultata pretraživanja.

Na pitanje "kako duže zadržati svježinu banana" koristi se umjetnom inteligencijom za generiranje korisnog sažetka savjeta kao što je čuvanje banana na hladnom tamnom mjestu i dalje od drugog voća poput jabuka.

No Toby Walsh, profesor umjetne inteligencije na Sveučilištu UNSW Sydney kaže da neki sažeci Googleovog AI-ja u rezultatima pretraživanja mogu biti katastrofalni, u što se i sam uvjerio na više primjera, jer Googleova generativna umjetna inteligencija ne donosi sažetke temeljem onog što je točno, već onoga što je popularno.

Između ostaloga AI Overviews vam govori da su "astronauti susreli mačke na Mjesecu i igrali se s njima", a što je još više zabrinjavajuće, također preporučuje da "trebate pojesti barem jedan mali kamen dnevno" jer je "kamenje vitalni izvor minerala i vitamina", te predlaže stavljanje ljepila u preljev za pizzu.

Zašto se ovo događa Walsh objašnjava time što generativni AI alati ne znaju što je istina, već samo ono što je popularno. Na primjer, na webu nema puno članaka o jedenju kamenja jer je to samo po sebi loša ideja, međutim postoji vrlo čitan satirični članak iz The Oniona o jedenju kamenja. I tako je Googleov AI svoj sažetak temeljio na onome što je bilo popularno, a ne na onome što je istina.

Walsh smatra da Alphabet zbog ovoga riskira gubitak povjerenja javnosti u Google kao mjesto na kojem se mogu pronaći točni odgovori na pitanja, dok ujedno potkopava vlastiti poslovni model vrijedan milijarde dolara.

"Rizici nisu ograničeni na Google. Bojim se da bi takva upotreba umjetne inteligencije mogla biti štetna za šire društvo. Istina je već pomalo osporavana i zamjenjiva ideja. Neistine AI-ja vjerojatno će ovo pogoršati", dodaje Walsh i kaže da ćemo se za jedno desetljeće možda osvrnuti na 2024. kao zlatno doba weba, kada je većina toga bio kvalitetan sadržaj koji su stvorili ljudi, prije nego što su botovi preuzeli vlast i ispunili web sintetičkim sadržajem koji je generirao sve nižu kvalitetu.

"Vlade tek sada shvaćaju ideju da bi nam možda trebale zaštitne ograde i propisi kako bi se osiguralo odgovorno korištenje umjetne inteligencije. Primjerice, farmaceutske tvrtke ne smiju puštati u promet lijekove koji su štetni, ali do sada je tehnološkim tvrtkama uglavnom bilo dopušteno da rade što žele", kaže profesor Walsh koji se nada da će se društvo, znanost i politika puno ozbiljnije uhvatiti u koštac s nekontroliranim razvojem umjetne inteligencije.