Norman a pszichopata mesterséges intelligencia
Az MIT kutatói bejelentették, hogy sikerült létrehozniuk egy pszichopata mesterséges intelligenciát. A kísérlet célja az volt, hogy megcáfolják azt a tézist, hogy gépekkel ki lehet majd szűrni az emberi döntéseket befolyásoló személyiségből adódó elfogultságot.
Mikor egy MI kiegyensúlyozásáról beszélnek az általában nem az algoritmus finomítását jelenti, hanem a tanulási adatbázis célszerű megválasztását. Remek példa rá, hogy egyes arcfelismerő algoritmusok a fotókon a fehér bőrű modellek nemét is szinte hibátlanul találják, el a feketéket pedig gorillának látják. De hasonló probléma merült fel, mikor egy szoftvernek osztályoznia kellett a modelleket az arcuk szépsége alapján és a színes bőrűeket kategorikusan lepontozta. Ennek az oka nem a fejlesztők fehér felsőbbrendűséget hirdető nézetei voltak, hanem az hogy a tanulásra használt adatbázisban alul prezentáltak voltak a feketékről készült képek. Vagy ott van a Microsoft emlékezetes buktája Tay, akit egy nap után le kellett kapcsolni, mert a twitter-felhasználók szövegeléséből kapott egy olyan „adat-injekciót”, hogy a feministák és vegánok kiirtását hirdette, és szerinte Hitler nem tett semmi rosszat.
Az MIT-n csavartak egyet a dolgon és ráengedték az algoritmusukat egy meg nem nevezett halál/belezés témájú subreddit fórumra. És ezzel megszületett Norman. Aki a Psycho Norman Bateséről kapta nevét.
Azután következett a kísérlet második fázisa: Normannek és egy teljesen átlagos képadatbázison szocializálódott MI-nek Rorsach-teszteket mutattak és le kellett írniuk mit látnak a képen.
1.kép
2. kép
3. kép
4. kép
5. kép
6. kép
7. kép
8. kép
9. kép
10. kép
http://norman-ai.mit.edu/
