Waarom een verwijzing naar Skynet bij sommige AI-onderzoeken onvermijdelijk is

Een Godwin voor AI-discussies
Een Godwin voor AI-discussies

De Godwin mag dan voor het merendeel van de langdurige online-discussies van toepassing zijn, als het onderwerp kunstmatige intelligentie (AI) is, dan neemt naarmate de discussie langer duurt de kans niet zozeer toe op een verwijzing naar Hitler of het nazisme, maar veeleer het opdoemen van een Skynet-scenario. Een 'Skywin'. Sinds de Terminator-films uit het vorige millennium staat Skynet immers voor de apocalyps met God noch Hitler, maar een hyperslimme kunstmatige intelligentie in de rol van nemesis. Het is een archetype natuurlijk, een variant van de Bijbelse eindtijdverhaal waarin schepsel zich keert tegen schepper et cetera. Wie de ontwikkelingen in de AI-wetenschap een beetje volgt, ontkomt ook niet aan een 'Skywin'. Lees de volgende zin van een van de Yale-onderzoekers die bezig zijn om een AI zoiets als eigendom en de sociale regels daaromtrent te leren(uittreksel hiero): 'Understanding about object ownerships, permissions, and customs is one of these topics that hasn’t really received much attention but will be critical to the way that machines operate in our homes, schools, and offices'. Aldus verkondigde de wetenschapster van Yale tegen Futurism

Het is zeker een interessant AI-onderzoek, waarin de bots leren wat eigendom is en hoe en middels welke normen verbaal geanticipeerd kan worden binnen een concrete situatie waarin een eigendomskwestie aan de orde is. Zo kan de Yale-robot in een gegeven situatie aangeven of iets van hem is, juist een ander toebehoort dan wel bepalen of een bepaalde eigendomsnorm wordt geschonden. Voordelen hiervan: 'enabling a robot to learn and follow ownership norms thus brings not only the practical benefit of social competence in environments with owned objects, but also deeper insight into the effective navigation of systems of human norm.' Goed, maar op het moment dat onderzoekers volstrekt voorbij gaan aan praktische de vraag of het überhaupt handig is om geavanceerde AI's in onze scholen, huizen en kantoren in te zetten, gaat er al iets goed mis. Als dan ook nog wordt voorbijgegaan aan de vraag of het juist in sociale omgeving handig is om AI's bewust te maken van eigendom en eigendomsnormen, dan is een Skywin onvermijdelijk. Want wie zegt dat een zelfbewuste, hyper-intelligente AI niet straks voor eigen rechter gaat spelen? Of dat via een omweg de eigen claim als altijd prevaleert en de bot zich ten koste van de mensheid de wereld toe-eigent? Waarom moet een AI überhaupt bewust zijn van zoiets als eigendom? Is een volstrekt altruïstische AI niet veel minder gevaarlijk en handiger? Bovendien zijn conflicterende eigendomsnormen en -claims niet naast religie niet een belangrijke oorzaak van oorlog en geweld? Men kan mensen als Elon Muks daarom hun Skywin niet kwalijk nemen. Als de AI-wetenschap geen ethische vragen meer stellen voorafgaand en tijdens hun onderzoek en bovendien er nu al vanuit gaan dat mens en machine gelijkwaardige partners zijn, dan gaat het straks allemaal helemaal hopeloos mis. 

Reaguursels

Inloggen

"Zo kan de Yale-robot in een gegeven situatie aangeven of iets van hem is, juist een ander toebehoort dan wel bepalen of een bepaalde eigendomsnorm wordt geschonden."
Q: Yalebot, what is fiat currency?
A: Error.

Aetje | 24-12-18 | 11:48 | + 1 -

Als je wil weten wie de eigenaar is, kijk je simpelweg waar de data naartoe gaat. Geldt ook voor telefoontjes. Daar moet alleen de wet zich nog even op aanpassen.

George Foreman | 23-12-18 | 19:18 | + 2 -

Ik gebruik zelf ook AI voor verschillende projecten, op dit punt zie ik het nog als een onschuldig iets. Toch zie ik potentie voor gevaar in de toekomst. Als AI op een punt komt dat het zichzelf kan gaan ontwikkelen gecombineerd met robotica wordt het gevaarlijk. AI is pure logica, het is niet meer dan logisch dat het een keer de conclusie trekt dat mensen overbodig zijn.

Deviant | 23-12-18 | 18:55 | 2 | + 2 -

Net dat is het gevaar he, de pure logica, de logica die het eigen algorithme in een volstrekt logische wereld gaat plaatsen en alles daaraan gaat aftoetsen. Op dat moment zal menselijke inmenging ook als niet logisch gezien worden en buiten gesloten worden.

Lt-Kol Kilgore | 24-12-18 | 05:52 | + 0 -

Ik ben een groot liefhebber van logica, maar logica kan je echt geen absolute waarheid leveren. Wat overbodig is, is helemaal afhankelijk van je uitgangspunten.
Je moet veel banger zijn voor het Robocop-scenario: dat de AI getraind wordt om slechteriken te doden, maar toch een bugje heeft.

frank87 | 24-12-18 | 07:08 | + 2 -

Ik zie Al helemaal voor me dat iedereen bij geboorte 1 robot cadeau krijgt die dan fungerrt als economsiche doppelganger. Eerst verantwoordelijk voor de opvoeding en educatie en later slaven in een warehouse terwijl de eigenaar aan het VR-infuus ligt.

Yeohan | 23-12-18 | 18:32 | + 5 -

Gewetenloze robots ingezet door gewetenloze mensen. Het kan nog best eng worden.

kloopindeslootjijook | 23-12-18 | 18:22 | + 2 -

Waarom zou je robots inderdaad eigendom toekennen. Bij eigendom hoort verantwoordelijkheid voor de wet, en dan moet je de hele wetgeving nog een keertje over doen, voor het geval de robot de verantwoordelijke is.
Gewoon: een robot heeft een eigenaar, en als de robot iets fout doet is de eigenaar in het uiterste geval verantwoordelijk.

frank87 | 23-12-18 | 17:51 | 2 | + 4 -

Huisdieren zijn ook eigendom, met wat extra rechten. Lijkt me een prima uitgangspunt

George Foreman | 23-12-18 | 20:13 | + 2 -

@George Foreman | 23-12-18 | 20:13 - Het is juist verkeerd dat dieren rechten krijgen. Dat zouden verplichtingen voor mensen in de bejeging van dieren moeten zijn. Als je daar niet helder in bent dan krijg je wantoestanden zoals PETA die een fotograaf aanklaagt omdat ze vinden dat het auteursrecht van een selfie aan een aap toebehoort.

Huisregelneef_III | 23-12-18 | 23:17 | + 4 -

I robot verplicht leesvoer voor eenieder.

Biet | 23-12-18 | 17:42 | + 7 -

De Belgen lopen mijlenver op ons voor, daar is Skynet al jarenlang in de lucht.

Huisregelneef_III | 23-12-18 | 17:31 | + 9 -

REAGEER OOK

Linktip: Energie vergelijken