Robots moeten immoreel zijn

Robots zijn een soort buitenlanders. Ze pakken namelijk Onze Banen af. In de nabije toekomst wordt oma niet meer gewassen door een vriendelijke mevrouw die van de zorginstelling slechts twee minuten krijgt om haar taken uit te voeren, maar door een robot. (Die, om de aanschaf van extra robots te voorkomen, waarschijnlijk ook maar twee minuten krijgt.) Of wat dacht u van een robot-butler in uw eigen huis. Allemaal kapothandig, maar ook potentieel gevaarlijk. Stelt u zich voor dat u zo'n mechanische butler ietwat afwezig commandeert een mes voor u te pakken. U staat te koken en beweegt nogal levendig door de kombuis. De robot pakt het mes, loopt gedienstig naar u toe en parkeert het mes per ongeluk tussen uw ribben omdat u als een Italiaan staat te koken en er tegenaan liep. Het commando is hier dus fout, want de situatie is in potentie te gevaarlijk om er gehoor aan te geven. Denk ook aan de robot die te horen krijgt dat hij het gras moet maaien terwijl er kinderen op het gazon spelen. Toch onhandig. Maar hoe zorg je ervoor dat het negeren van commando's wordt ingeprent in een apparaat dat niets meer dan een metalen slaaf is? Onderzoekers claimen een programma te schrijven met als moreel gebod (het negeren van commando's uit eigen overwegingen is natuurlijk een morele aangelegenheid): 'If you are instructed to perform an action and it is possible that performing the action could cause harm, then you are allowed to not perform it'. Dit klinkt niet heel overtuigend. Context is belangrijk: kinderen kunnen geïnstrueerd zijn van het gazon te gaan als de robot er gaat maaien. Maar nog belangrijker is het eigen inzicht. Als je stomdronken eigenaar je gebiedt om nog een treetje bier uit de koelkast te halen, moet dat gebod dan genegeerd worden? Meer drinken kan gevaarlijk zijn, zeker als er bijvoorbeeld kinderen in de kamer zijn. Wij vragen ons sterk af of robots ooit die hoge vlucht gaan maken die ons is voorspeld, want morele dilemma's construeren en daar naar laten handelen, is een bijna onmogelijke programmeertaak. Tenzij we natuurlijk zo klaar zijn met oma dat we het bejaardentehuis een mooie proefopstelling vinden en we robots door trial and error laten leren. Dat zal een stuk sneller gaan.

Reaguursels

Inloggen

@TheStef | 13-04-16 | 13:20 | + 1 - Inderdaad. Terwijl de enige reden dat mensen thuis zitten bestaat uit de import van oostblokse vrachtwagenchauffeurs, metselaars en loodsgieters.

Vogelbeest | 13-04-16 | 16:07 | + 0 -

@Vogelbeest

Ik krijg een enorm retro gevoel van deze discussie naar de jaren 80 toen werd gesteld dat we allemaal zonder werk kwamen door de computer.

TheStef | 13-04-16 | 13:20 | + 1 -

Zolang ik programmeer, en dat is ruim 40 jaar, hoor ik het verkooppraatje dat computers ons werk gaan overnemen en dat we daardoor sneller klaar zullen zijn. Deels is dit ook zo, maar de praktijk is dat ik steeds meer werk te doen krijg: ik heb het nog nooit zo druk gehad als nu. Ik verwacht wel dat hele beroepsgroepen zullen verdwijnen. Administratieve functies bijvoorbeeld. De vraag is of dat zo erg is? Persoonlijk lijkt het mij een enorme bevrijding om niet meer op de afdeling debiteuren/crediteuren te hoeven werken, maar wie ben ik?

Red shirt | 13-04-16 | 10:49 | + 0 -

George Foreman | 12-04-16 | 17:58 | + 2 -

Is toepasbare binnen verschillende contexten. Bijdehand :)

Dude heb je eten | 13-04-16 | 09:47 | + 0 -

@Stonecity | 12-04-16 | 20:09 | + 2 - Krijgen die robots salaris dan? Het lijkt me logischer de eigenaar van de robots te belasten.

Vogelbeest | 13-04-16 | 08:43 | + 1 -

@Vogelbeest. Ja en Nee. Zolang we een overheid hebben die iedereen het liefst kapot belast met ook nog eens 0,0 resultaat betekent dat we niet naar een oplossing toe werken maar naar een situatie waarin we straks allemaal vrijwilligerswerk doen omdat de robots wel betaald moeten worden. Jouw betoog geldt ook zo'n beetje tot deze jaren. We gaan nu richting de onzinbanen en vrijwilligerswerk en dat vind ik geen oplossing.

Stonecity | 12-04-16 | 20:13 | + 7 -

Daarom moeten robots ook belasting betalen. Tenslotte, wie werkt wordt belast! Dus waarom zou dat niet voor een robot gelden?

Stonecity | 12-04-16 | 20:09 | + 4 -

Immoreel =/= Amoreel.

Seraphin | 12-04-16 | 20:04 | + 5 -

100 jaar geleden werkte 95% van de Nederlanders in de landbouw. Nu 2%. De rest is gemechaniseerd. Hebben we nu 93% werkeloosheid? Nee.
80 jaar geleden had iedere kroeg een kroegmuzikant. Allemaal ter ziele door de uitvinding van de grammofoon.
50 jaar geleden had ieder bedrijf een typekamer. Nu hebben we een kopieerapparaat.
75 jaar geleden was er nagenoeg geen handel buiten de eigen streek. Nu kan iedereen alle shit rechtstreeks uit China laten komen.
60 jaar geleden werkte er niemand bij een containerrederij. 70 jaar geleden werkte er niemand bij een telecombedrijf. 30 jaar geleden bouwde er niemand GSM's. 20 jaar geleden wist geen enkele Rotterdamsche kroegbaas wat een latte machiato is. 40 jaar geleden werkte er niemand bij Knorr om sausjes in zakjes te maken. In 1951 was er geen luchtvrachtindustrie. In 1967 was mijn vader de eerste in een straat met 300 huizen die een auto had.
In 1960 had iedereen een setje winterkleding en een setje zomerkleding. Nu heeft de gemiddelde Westerse vrouw 2 gigantische problemen: 1) Niets om aan te trekken. 2) Niet genoeg kasten om het in te doen.
In 1975 wist niemand wat een velgenhandel was. Voornamelijk omdat lichtmetalen velgen niet bestonden.
Moraal van het verhaal: Dingen veranderen. Het raakt vanzelf weer opgelost.

Vogelbeest | 12-04-16 | 19:32 | + 20 -

Inderdaad, gewoon Asimov lezen. bespaart weer veel weggegooid geld.

Zou je wel willen we | 12-04-16 | 19:11 | + 6 -

Misschien moeten die onderzoeker Asimov nog maar eens afstoffen

crankshaft | 12-04-16 | 18:59 | + 7 -

@dude
sommige partijen?
Verjaardagspartijtjes?

Het hebben van een morele standaard vergroot je overlevings- en voortplantingskansen binnen een maatschappij.

George Foreman | 12-04-16 | 17:58 | + 3 -

Ik vraag mij af hoe een robot kan toetsen wat de best uitkomst is: je te pletter zuipen, genoten hebben, maar vroeg sterven of vroom/gezond maar saai leven zodat je wel een stuk ouder wordt. Ik ben echt benieuwd hoe een robot/algoritme de meest kwalitatieve of beste manier leven kan achterhalen.

Verder is moraal is niks meer dan verpakt egoïsme. Het blijkt dat het hebben van bepaalde morele standaarden je veel geliefder bent bij sommige partijen, en je daarmee je kans vergroot op persoonlijk succes.

Dude heb je eten | 12-04-16 | 17:01 | + 2 -

Het bejaardenhuis is, politiek gezien, wel een aantrekkelijke proeftuin voor verzorgingsrobots. Eventuelle "ongelukjes" bij het verzorgen kun je gewoon direct begraven.
En dat spaart ook nog eens veel geld uit ook.
Ik voel hier een proeftuin aankomen.

Raider Twix | 12-04-16 | 16:58 | + 14 -

REAGEER OOK

Linktip: Energie vergelijken