Kijk, de eerste psychopathische AI ziet het 'donker'

Nee, hij heet geen Elon Musk
Nee, hij heet geen Elon Musk

Bij mensen is pure intelligentie misschien iets wat via een IQ-test gemeten kan worden, maar staat in de alledaagse sociale mensenpraktijk altijd in verhouding tot allerlei soorten psychische afwijkingen en sociaal geconditioneerde vooroordelen. Zuiver intelligent is niemand. De mens is even gek en bevooroordeeld als ze intelligent is. Nu is het grote vooroordeel van ons mensen als het gaat om AI's dat de algoritmes waarmee het denkt bevooroordeeld noch gek kunnen zijn. Dat dit niet waar is, bewijst 'Norman'. De AI is vernoemd naar Hitchcocks Norman Bates in de film Psycho en geldt als 's werelds eerste psychopathische 'neurale netwerk'. De AI-psychopaat is ontwikkeld door MIT en opgevoed met gewelddadig beeldmateriaal dat van een perverse Reddit-groep werd getrokken. De vraag was welke impact deze 'training' zou hebben. De MIT-ers vergeleken Norman vervolgens met een andere AI die niet gevoed was met gewelddadige beelden en teksten, maar met normale beelden. Na hun training namen de onderzoekers bij beide AI's een Rorschachtest af, uw weet wel, waarin test-subjecten symmetrisch gevormde inktvlekken worden voorgehouden en antwoord moeten geven op de vraag 'wat ziet u?'. De uitslag was duidelijk: Norman zag alleen moord, bloed, en doodslag terwijl de andere AI in dezelfde vlekken vogeltjes, mensjes of vliegtuigjes ontwaarde (illustraties hier). Het aloude nature/nurture-vraagstuk is misschien t.a.v. de menselijke psyche nog niet opgelost (temeer omdat onze hardware individueel nooit helemaal gelijk is), voor AI's lijkt de zaak nu duidelijker. Nurture, dus 'opvoeding', bepaalt bij neutrale hardware het gedragspatroon en karakter van de robot. Goeroe's als Mo Gawdad (filmpie) verkondigen dus niet voor niets dat wij mensen het goede voorbeeld moeten geven aan 'onze kinderen', de AI's. Ja tuurlijk - bladiebla - straks zijn de AI's superslim én psychopatisch en zullen ze de gehele mensheid systematisch gaan uitroeien. Los van dit soort doemdenkerij is het natuurlijk wel van belang dat we weten dat AI's bevooroordeeld en zelfs gek kunnen worden van verkeerde 'voeding'. In 2016 bleek dat een AI die door een rechtbank in de VS gebruikt werd voor de berekening van de kans op herovertredingen van veroordeelden al buitengewoon racistisch was. De moraal van het verhaal: ook AI's moeten netjes opgevoed worden.

Reaguursels

Inloggen

Ben benieuwd wat voor psychologisch gedrocht de reaguurder AI wordt op basis van eindeloze stromen roze en goudbruine informatie.
Positief is wel: ik als reaguurder en alle andere, op andere wijze gevormde, inmates van Death Row kunnen i.e.g. gelijk in vrijgelaten worden. Want 'wij konden er immers niks aan doen dat we zo geworden zijn' bewijst bovenstaande wetenschap.

HeelStijl | 03-06-18 | 16:51 | + 0 -

God verhoede dat een AI op een logische en rationele wijze naar de samenleving, economie en milieu gaan kijken. Die botjes gaan Hitler reduceren tot kneuterige amateur.

Yeohan | 03-06-18 | 09:11 | + 3 -

Als zwarten vaker misdaden plegen dan blanken, of mannen vaker dan vrouwen, is het dan niet een logische conclusie dat de kans op recidive groter is wanneer iemand zwart of een man is? Dat we het geen acceptabel criterium vinden omdat iedereen "gelijk" behandeld moet worden op basis van daden en niet om wie we zijn, is puur menselijke ethiek. Net zoals een AI die ooit werd gevraagd: toon mij beelden van kinderen, en vervolgens zo'n beetje elk plaatje van elk mens dat het kende, tot bejaarden aan toe produceerde. Immers: iedereen is iemands kind.

Voeg de instructie toe dat AI enkel mag kijken naar recidiverisico gebaseerd op daden i.p.v. persoonlijke trekken waarover je geen controle hebt (met uitzondering van geestesziekte wellicht) en het "racisme" of "seksisme" is weg. Maar de kans op recidive stijgt... Net zoals de kans op misdaad aanzienlijk daalt als een permanente avondklok wordt ingevoerd.

En dat die AI "psychopaat" is durf ik ook te betwijfelen. Begon Norman ook te murmelen "I want to kill people and make them suffer"? Natuurlijk herken je onbestemde Rorschach-vormen in termen van de informatie waarmee je gevoed bent. Heb je nooit een vlinder gezien, maar wel een bloedarend, zal je dat zien. Maar om te zeggen dat je van het zien van beelden van geweld ook zin krijgt in geweld? Dan moeten we ook niet meer naar het nieuws kijken of luisteren, want over oorlog en moord zien of horen, maakt ons ook psychopaat?

Wol | 02-06-18 | 21:43 | 2 | + 16 -

Goede aanvulling op bovenstaand artikel. Waarvoor dank.

EmilioEsteves | 03-06-18 | 02:23 | + 0 -

die laatste zin... ja bij Moslims wel helaas

ConspiracyTerrorist | 03-06-18 | 05:53 | + 5 -

Sander_Stinkscheet | 02-06-18 | 17:31
Mede kenmerkend voor de sneeuwvlokjescultuur is dat als mensen de uitkomst van 2 + 2 = 4 niet bevalt, ze net zo lang zwatelen tot 2 + 2 wel 5 moet zijn.
Een racist is, getuige de bevinding in de laatste alinea van dit stukje, iemand die in alles racisme meent te moeten zien. Doe ik niet aan mee. Jij wel als ik het zo bekijk.

Kromme Tenen | 02-06-18 | 18:48 | + 4 -

Hm, en de Akbar Intelligence wordt gevoed uit de koran, aangevuld met de avonturen vd profeet (vuzzuhmuhhuh). Asdahmagoega...

Poekieman | 02-06-18 | 18:22 | + 0 -

@ZwareDag, gezien en verbeterd, dank voor het opmerken.

DASsven | 02-06-18 | 18:16 | + 1 -

Redactie: het is trouwens nuRture !!! Niet Nuture...

ZwarteDag | 02-06-18 | 18:04 | 4 | + 1 -

@ninjajanitor
Fuck!It!

ZwarteDag | 02-06-18 | 21:59 | + 1 -

Het is trouwens verzorging geen nurture.

KlauwnBassie | 03-06-18 | 08:14 | + -1 -

@KlauwnBassie
Nee opvoeding is een betere vertaling dan verzorging.

Deviant | 03-06-18 | 10:22 | + 1 -
▼ 1 antwoord verborgen

All work, no play, makes Norman to crazy to stay....

ZwarteDag | 02-06-18 | 18:00 | + -2 -

@Kromme Tenen,
"De computer berekent iets (geen idee hoe) en bevestigt daarmee mijn racisme.". Je racisme klopt ook: zwarten plegen meer misdaden dan blanken in Amerika. Komt dit door hun ras of door andere omstandigheden?

Ook de computer moet leren en in het geval van een neuraal netwerk door een voorspelling te doen en dan te leren van het "echte" geval. Complex gedrag van mensen (overgaan tot gewelddadige criminaliteit) is lastig te voorspellen en er is ook gelukkig geen grote testset. Daarnaast is je complex gedrag erg tijds- en locatiegebonden. Het lijkt me heel lastig om alle nodige variabelen te operationaliseren en een model complex genoeg krijgen dat hij niet alleen maar op ras-correllaten voorspelt.

Het is ook logisch: zwarten in Amerika plegen gemiddeld meer misdaden. Komt dat door hun zwartheid? Zelfs als je ras niet als variabele invoert zal het neurale netwerk hem makkelijk uit de andere variabelen destilleren: locatie, inkomen, baan, academische carrière etc. correlleren allemaal goed met ras, dus daar zal het netwerk zelf natuurlijk ook naartoe gaan. Al helemaal als er niet gecompenseert wordt voor de ongebalanceerde klassen: er zullen meer zwarte voorbeelden binnenkomen dan blanken. Ik denk dat complex gedrag als recidive proberen te voorspellen nog veel te lastig is voor een neuraal netwerk. Daarnaast zijn de implicaties van een false positive natuurlijk enorm. Maar ik ben eigenlijk wel benieuwd hoe het netwerk dat ze gebruiken opgezet is.

Sander_Stinkscheet | 02-06-18 | 17:31 | 1 | + 4 -

Je voorspelt dus dat als AI echt werkt het vrij snel een hekel aan negers gaat krijgen ?

KlauwnBassie | 03-06-18 | 08:16 | + -1 -

Het laatste stukje is kenmerkend voor de hedendaagse sneeuwvlokjescultuur: Objectiviteit (kansberekening door een hersenloos rekenapparaat) = Racisme.

Kromme Tenen | 02-06-18 | 17:13 | 2 | + 10 -

De AI toonde aan dat rechters racistische beslissingen maken, sneeuwvlokje.

Bald_Gefkens | 02-06-18 | 23:37 | + -2 -

Nu is de objectiviteit bij een AI vaak ver te zoeken. Hij wordt getraind met data waarvan je in de praktijk weinig verantwoording over terug vindt (toevallig beschikbaar bijvoorbeeld), en het ontstane algoritme is alleen maar met "black box"-methoden te controleren.
Bij de keuze tussen de sneeuwvlokjes en een commercieel bedrijf dat zonder toezicht software maakt voor rechters, heb ik toch de neiging om die sneeuwvlokjes het voordeel van de twijfel te geven.

frank87 | 03-06-18 | 09:39 | + -1 -

REAGEER OOK

Linktip: Energie vergelijken