MIT vytvořilo Normana, psychopatickou AI

Vývoj umělé inteligence není ani tak o algoritmech samotných jako o datech, na kterých se tyto algoritmy trénují. I proto se tvrdí, že řízení autonomních aut není záležitostí pro programátory, ale spíše pro lidi, kteří s těmito auty jezdí miliardy kilometrů a daty o své jízdě pomáhají trénovat AI algoritmy. Právě tuto vlastnost se pokusili ukázat v MIT, kde vzali tradiční neuronovou síť, nazvali ji Normanem a neměnili algoritmus, ale data pro něj.

 

 

Chudák Norman tak byl vystaven nejtemnějším zákoutím Redditu a tématům věnujícím se smrti. Předhazovány mu byly popisky obrázků majících něco společného se smrtí a podobných. Na nich pořádně zdegeneroval a když procházel Rorschachovým testem s inkoustovými skvrnami, všude viděl zastřelené muže před vřískající manželkou, přejeté lidi i popravy elektrickým proudem. Normanovy odpovědi byly srovnány s tradiční AI učené na normálních obrázcích a výsledky jsou podstatně jiné.

 

Takový výsledek se nicméně dal čekat, neboť jde o princip fungování neuronových sítí a pro toho, kdo ví, jak fungují, nejde o nic překvapivého. Test chtěl spíše ukázat laickému světu, jak se AI dokáže změnit tím, že je nějakou dobu vystavena ne zrovna ideálním podnětům. Ostatně to už před dvěma lety ukázal chatbot Microsoftu, který se po jediném dni na Twitteru změnil v rasistu. MIT se nyní snaží s pomocí dalších lidí Normana vyléčit pomocí dotazníku. Zde můžete sami napsat, co ve skvrnách vidíte a budou-li zde odpovídat normální lidé a ne psychopati, možná to Normana vyléčí.

 

Zdroj: extremetech.com, norman-ai.mit.edu