Rafael Nadal je gay, oznámila umělá inteligence. Do jaké míry můžeme věřit jejím informacím?
Možná se ptáte, jak k takové zásadní chybě vůbec může dojít. Zejména v případě, že se nikde předtím žádná taková zpráva neobjevila. Inu, tady je dobré si říct, jak taková generativní AI vůbec funguje.
Generativní modely typu ChatGPT (který je asi nejznámější a nejpoužívanější), Bard či Claude fungují na principu zpracování a analýzy obrovského množství dat, přičemž produkují odpovědi na základě vzorců pravděpodobnosti, které z těchto dat získaly.
Úplně jednoduše – to, co si čtete, není skutečně „napsané“, ale jen poskládané tak, aby to dávalo co největší smysl. Umělá inteligence doslova odhaduje, jaká slova by k sobě nejvíce pasovala. Nejde tak o žádné vlastní nápady nebo promyšlené poznatky, jde o skládání vět na základě matematické pravděpodobnosti.
A právě v tom spočívá ten největší problém. Odpovědi tak mohou obsahovat faktické chyby a nedorozumění, protože si AI jen špatně poskládala informace. Což se stalo i v případě notifikace BBC Sport.
Pokud se člověk jen trochu ponoří do vod internetu, lehce zjistí, že nejspíše došlo k záměně s brazilským tenistou Joãem Lucasem Reisem da Silvou, který se skutečně nedávno veřejně přihlásil ke své homosexuální orientaci. AI prostě velmi neohrabaně zkombinovala různé zdroje informací a vytvořila tuto nepravdivou notifikaci. Vedení BBC se od chyby velmi rychle distancovalo a zdůraznilo, že s tím nemají nic společného.
Zvykli jsme si používat generativní umělou inteligenci na denní bázi, s ověřováním poskytnutých informací jsme na tom ale docela bleděFoto: Adobe Stock
Společnost Apple svůj nástroj okamžitě stáhla a slíbila nejen jeho zdokonalení, ale také uvedla, že do budoucna budou veškeré notifikace generované AI lépe označeny, aby uživatelé ihned věděli, že jde o automaticky vytvořený obsah a mohli si tak poskytnuté informace pro jistotu zkontrolovat i z jiných zdrojů.
Apple by ale měl svůj nástroj vyladit skutečně pořádně, poněvadž tento případ není jeho prvním přešlapem. Na začátku roku totiž stejný systém informoval o výsledcích šipkového turnaje, kdy oznámil vítěze ještě před samotným odehráním finále.
A co na to vůbec samotný Rafael Nadal? Ten situaci zatím nijak nekomentoval a nezdá se, že by to vůbec učinil. Nicméně tento případ je důrazným varováním, že (generativní) umělá inteligence může být úžasným pomocníkem, ale bezvýhradně jí věřit bychom rozhodně neměli. Ověřování jejích informací by tak mělo být i nadále základem jejího používání.
