Výskumníci z Massachusettského technologického inštitútu (MIT) zistili, že obrázky a videá spracované UI môžu ľuďom vštepovať falošné spomienky – spomienky, ktorým jednotlivci môžu veriť ešte silnejšie ako skutočným udalostiam. Toto zistenie priniesol Gizmodo s odvolaním sa na štúdiu vedenú profesorkou MIT Pattie Maesovou.
Experimentu sa zúčastnilo 200 účastníkov. Najprv im bola ukázaná séria originálnych fotografií; následne niektorým účastníkom boli tie isté obrázky ukázané znova, zatiaľ čo iným boli ukázané verzie, ktoré boli upravené neurónovou sieťou.
V následnom teste pamäte tí, ktorí si pozreli upravené obrázky, si nielen s väčšou pravdepodobnosťou nesprávne zapamätali pôvodný obsah, ale prejavovali aj nadmernú mieru dôvery vo svoje falošné spomienky.
Podľa MIT Media Lab bol efekt merateľný: keď boli účastníkom ukázané videá generované UI na základe upravených fotografií, výskyt falošných spomienok bol 2,05-krát vyšší ako v kontrolnej skupine. Okrem toho bola dôvera účastníkov v tieto vymyslené detaily 1,19-krát vyššia ako východisková hodnota.
Už od 19. storočia je známe, že ľudská pamäť je vo svojej podstate nespoľahlivá a vysoko sugestibilná. Generatívna umelá inteligencia však do tejto problematiky vnáša kvalitatívne odlišný rozmer. Ako poznamenáva Gizmodo, „obsah umelej inteligencie sa stáva online čoraz presvedčivejším a rozšírenejším, čo podnecuje novú vlnu podvodov a dezinformácií.“
Nebezpečenstvo sa neobmedzuje len na zlomyseľný úmysel. Generatívne modely sú náchylné na „halucinácie“ – chyby vo svojom výstupe. Keďže vládne agentúry, banky, armáda a nemocnice zrýchľujú zavádzanie umelej inteligencie, kladie sa čoraz väčší dôraz na potrebu „človeka v slučke“ – špecialistu, ktorého úlohou je overovať výstup systému. Predpokladá sa, že takýto dohľad umožní odhaliť chyby skôr, ako spôsobia skutočnú škodu.
Výskum však ukazuje, že ľudia sú slabí v identifikácii „halucinácií“ umelej inteligencie. Okrem toho, akonáhle je pamäť človeka skreslená nesprávnym výstupom zo systému, už nie je nezávislým pozorovateľom schopným overiť informácie.
Podľa portálu Gizmodo je schopnosť priemerného používateľa rozlíšiť obsah vytvorený umelou inteligenciou od reality „len o málo lepšia než náhodné hádanie“.
Tento problém presahuje hranice laboratórií. V štúdii uskutočnenej v minulom roku sa ukázalo, že technológia deepfake a texty generované umelou inteligenciou dokážu u ľudí vyvolať falošné spomienky na úplne vymyslené politické škandály, čo následne znižuje ich ochotu ísť voliť.
V inom experimente na MIT, ktorý simuloval výsluch svedka, viedol generatívny chatbot k viac než trojnásobnému nárastu falošných spomienok v porovnaní s kontrolnou skupinou; počas samotného dialógu chatbot pozmenil až 36,4 % odpovedí účastníkov.
Samostatná štúdia realizovaná na Georgetownskej univerzite a Washingtonskej univerzite zistila, že ak účastníci, ktorí videli videozáznam dopravnej nehody, dostali presný písomný opis udalosti, 83,6 % z nich si správne vybavilo detail týkajúci sa dopravnej značky. Naopak, v skupine, ktorá čítala opis vygenerovaný umelou inteligenciou obsahujúci chybu, uviedlo správnu odpoveď len 44,8 % účastníkov. Táto chyba pretrvala aj v prípadoch, keď boli účastníci upozornení, že text vytvorila umelá inteligencia.
Zatiaľ čo odborníci hľadajú spôsoby, ako ľudí naučiť rozpoznávať deepfake nahrávky, odvetvie umelej inteligencie smeruje k systémom navrhnutým tak, aby fungovali úplne autonómne, bez akéhokoľvek ľudského zásahu. Tento rozpor už viedol k tragickým následkom: interné vyšetrovanie Pentagonu, o ktorom informovala agentúra Bloomberg, dospelo k záveru, že americký útok na iránsku školu – pri ktorom zahynulo viac než 150 ľudí – bol čiastočne spôsobený prílišnou dôverou v údaje umelej inteligencie, ktoré poskytla spoločnosť Palantir.
Preložil: OZ Biosféra www.biosferaklub.info