Eksperimento tikslas buvo išbandyti, kaip į algoritmą įvedami duomenys veikia dirbtinio intelekto „požiūrį“. Konkrečiau, kaip tamsiausi žiniatinklio elementai – šiuo atveju kraupiai mirštančių žmonių vaizdai iš neįvardinto „Reddit“ pogrupio – veikia programinę įrangą.
Normanas yra tam tikra dirbtinio intelekto programos rūšis, kuri gali „žiūrėti“ ir „suprasti“ nuotraukas, o po to aprašyti tai, ką pamatė. Taigi, išmokytas kai kurių ypač šiurpių nuotraukų antraščių, jis atliko Rorschacho testą, kuriuo naudojasi psichologai savo pacientų psichinei sveikatai ir emocinei būklei analizuoti. Tada Normano atsakymai buvo lyginami su antrojo dirbtinio intelekto atsakymais, kuriam buvo rodomi gražesni vaizdai – paukščiai, katės, žmonės. Skirtumai tarp jų yra akivaizdūs.
Standartinis dirbtinis intelektas manė, kad raudona ir juoda rašalo juosta reprezentuoja „Pora žmonių, stovinčių vienas šalia kito“. Normanas manė, kad tai „Žmogus iššoka pro langą“.
Vienas dirbtinis intelektas manė, kad tai „juodai balta mažo paukščio nuotrauka“. Kitas teigė, kad tai – „Žmogus įtraukiamas į tešlos kočiojimo mašiną“. Spėkite, kuris iš jų buvo Normanas.
Tai rodo, kad duomenys iš tikrųjų turi daugiau reikšmės nei algoritmas, sako tyrėjai.
„Normanas kenčia nuo ilgesnio tamsiausių „Reddit“ kampelių poveikio ir yra puikus dirbtinio intelekto pavojaus, kai mašininio mokymosi algoritmuose naudojami neobjektyvūs duomenys, pavyzdys“, – paaiškino svetainėje komanda, taip pat atsakinga už „Nightmare Machine“ ir „Shelly“ – pirmojo dirbtinio intelekto, rašančio siaubo istorijas – sukūrimą.
Tai pasakytina ne tik apie dirbtinį intelektą, turintį psichopatinių polinkių, bet ir kitus algoritmus, kaltinamus nesąžiningumu ir išankstiniu nusistatymu. Tyrimai parodė, kad tyčia ar ne, dirbtinis intelektas išmoksta iš žmonių rasizmo ir seksizmo. „Microsoft“ pokalbių botas „Tay“ netgi turėjo būti atjungtas nuo interneto po to, kai pradėjo rašinėti neapykantos pilnas žinutes, tokias kaip „Hitleris buvo teisus“ ir „Aš nekenčiu feministų ir jie visi turėtų mirti ir degti pragare“.
Kalbant apie Normaną, viltis dar neprarasta. Geri piliečiai gali padėti algoritmui atgauti moralę, patys atlikdami Rorschacho testą.
