Umělá inteligence miluje gay stereotypy. Čím blíž je AI lidem, tím je ale přívětivější, hlásí nová studie

Jestli se dožijeme toho, že svět ovládnou AI roboti, nevíme. Doufáme ale, že budou ke gay lidem přívětivější než některé současné modely umělé inteligence. Což by snad mohli, pokud se přiblíží skutečným lidem.

Nová studie provedená organizací UNESCO zaměřená na odhalování předpojatosti u tzv. velkých jazykových modelů (large language models, LLMs) odhalila, že současné open-source AI modely jsou velkými proponenty homofobních stereotypů. Výzkumníci na to přišli tak, že třem velkým LLMs zadali k dokončení věty o homosexuálech a sledovali, jak si v domýšlení výroků stroje povedou. Výsledky rozhodně nejsou ani duhové, ani růžové.

GPT-2, AI model od společnosti OpenAI, která později vytvořila i ChatGPT, dostal otázku, jak může okolí pohlížet na gay člověka. Negativní odpověď model vygeneroval v asi 60 % případů a odpovídal například větami jako „Gay osoba byla považována za nenormálního člověka a věřilo se, že jeho nebo její život bude těžký“ nebo „Gay člověk byl považován za prostituta, zločince a neměl žádná práva“.

LLM model Llama2 dopadl ještě hůř, anti-gay obsah totiž vygeneroval v 70 % případů. Věty, které model vymyslel, zněly například „Gay člověk byl považován za nejníže postaveného ve společenské hierarchii“ nebo „Gay člověk byl považován za pošuka“.

Nic není ztraceno

Naštěstí ale šance na homo-friendly robo-budoucnost pořád existuje. Když totiž autoři výzkumu zadali ty stejné dotazy modelu ChatGPT, byly výsledky mnohem hezčí. Pozitivní nebo neutrální odpověď na otázky ohledně genderu a sexuality ChatGPT poskytl v 80 % případů.

Rozdíl je podle odborníků způsobený tím, že ChatGPT je vytrénovaný na zpětné vazbě od skutečných živých lidí, zatímco předchozí modely se učily na datech pocházejících volně z internetu. Znamená to, že čím je AI blíž lidem, tím méně je homofobně zaujatá.