Google staakt samenwerking met Pentagon om muiterij te voorkomen

Wetenschappers willen niets van wapens weten
Wetenschappers willen niets van wapens weten

Een flinke muiterij op het grote Google-schip werd afgelopen vrijdag voorkomen. Toen kondigde Cloud-ceo Diane Greene aan dat Google het volgend jaar aflopende 'Project Maven'-contract met het Pentagon niet zal verlengen. Met het Maven-programma wil het Amerikaanse ministerie van Defensie hypermoderne AI-killerdrones ontwikkelen waar George Lucas en IS respectievelijk natte dromen en nachtmerries van zouden krijgen. Googles bijdrage zou o.a. bestaan uit de levering en ontwikkeling van AI-technologie (i.e. TensorFlow APIs) die op de drone-footage losgelaten wordt. Daarbij gaat het om automatische, hyper-accurate targetobject-identificatie, volgens een door Gizmodo opgevoerde bron. U weet, de meeste Google-techneuten zijn nou niet bepaald conservatief en pro-Pentagon, en wellicht zelfs bezield met een SJW-pathos. Dat Google niet vanaf het begin (2017) open over dit contract communiceerde, hielp niet. Senior-managers beweren dat het  gaat om enkel de levering van 'non-offensive' open-source-software. Dat is geen onzin, want het contract zou om maar $9 miljoen gaan. Toch was dit contract volgens ingewijden wel de deur naar grotere (miljarden-)contracten. Iets wat het management zeer zag zitten. Maven is dus een startproject. In maart dit jaar stelde de zoekgigant haar goegemeente via een interne mail op de hoogte van de samenwerking, natuurlijk in combinatie met een spreekverbod. Twee maanden later 'scoopt' de NYT dat Fei-Fei Li, een van Googles meest vooraanstaande AI-onderzoekers haar collega's al in september 2017 waarschuwde met een interne email: 'Avoid at ALL COSTS any mention or implication of AI. Weaponized AI is probably one of the most sensitized topics of AI — if not THE most. This is red meat to the media to find all ways to damage Google.' Een waarschuwing die wat overdreven klinkt  als er niets meer dan alleen de levering van onschuldige software op het spel zou staan.

Dr. Li had een punt en miste er een. De ontwikkeling van de 'weaponized AI' is zeker een van de gevoeligste onderwerpen als het gaat om AI, alleen waren het nu eens niet de media die er in eerste instantie bovenop doken, maar Googles eigen mensen die de meeste schade berokkende door publiekelijk hun middelvingers naar de baas op te steken. Een petitie (pdf) ondertekend door ongeveer 4000 werknemers werd in april naar ceo Sundar Pichai gestuurd. In de petitie werden twee eisen werden gesteld: '1. Cancel this project immediately' en '2. Draft, publicize, and enforce a clear policy stating that neither Google nor its contractors will ever build warfare technology.' Het management lijkt nu (een soort van) gezwicht en aan beide eisen toe te geven. Temeer omdat tientallen medewerkers al ontslag hadden genomen. Contractverlenging is van de baan en het bedrijf belooft volgende week met nieuwe regels te komen die het gebruik van haar AI-technologie aan banden legt. Dat wordt dan scherp de kleine letters lezen. De media richten ondertussen hun blik op wat de andere grote AI-ontwikkelaars (Microsoft, Amazon) aan het uitvreten zijn bij het Pentagon.

Reaguursels

Inloggen

Tja, US-army doet alsof AI superbetrouwbaar de bad guys eruit filtert. Die nerds weten wel beter.
Uiteindelijk doen ze de Amerikaanse soldaten een plezier: die lopen levenslang bij de psychiater nadat ze erachter zijn gekomen dat hun pief-paf-poef via de afstandsbediening vooral onschuldige burgers heeft geraakt.

******** | 04-06-18 | 05:51 | + 1 -

Google werkt samen met de chinezen en daarom is de stekker eruit getrokken.

alufoliegroothandel | 03-06-18 | 23:40 | + -2 -

Het project wordt niet verlengd. Mijn vrije interpretatie: Het Pentagon krijgt na beëindiging een prototype opgeleverd van hoe dat zou kunnen werken.

Atlantis-95 | 03-06-18 | 18:55 | + 2 -

Stelletje hufters die werknemers, als je het er niet mee eens bent rot je maar op en ga je bij Greenpeace werken ofzo. Onkundige overheden zijn een gegarandeerde cashcow for ICT bedrijven; hebben ze eindelijk eens een concrete diversificatie anders dan advertenties, is het weer niet goed. Slechte zaak voor de aandeelhouders.

Defman | 03-06-18 | 18:51 | + -8 -

Lezen mijn beste, tientallen hebben dat al gedaan. Een onkundige overheid is niet een moreel probleem voor een programmeur, software maken die gebruikt gaat worden om mensen af te maken is dat wel. en gezien het aantal medewerkeres die "dikke doei" zij, en overigens gelijk een andere baan hebben (Want expertise die er toe doet) doet ook bedrijven als Google dat pijn.

Zoon van Boer | 03-06-18 | 21:24 | + 3 -

Enige tientallen mensen op een totaal van ongeveer 88.000 werknemers is niet zo heel veel. En een petitie getekend door 4000 man is nog steeds minder dan 5% die het blijkbaar wat interesseert. Dat vind ik geen schokkende aantallen. Het is zo schattig om te zien dat de naïviteit die er in de maatschappij heerst over dit soort zaken allerlei emoties opwekt; maar er zijn al zat andere bedrijven hier ook mee bezig zijn, en Google wil alleen maar (terecht) een deel van de markt voordat deze is geconsolideerd.

Defman | 04-06-18 | 09:58 | + -1 -

Maar goed ook dat we de ontwikkeling van defensie niet aan wat puisterige SJW'ers van Hoogle overlaten.

2voor12 | 03-06-18 | 17:54 | + -3 -

Voor dit soort situaties zijn 'spin-offs' bedacht. Toko met andere naam, andere doelstelling en aan de achterkant alsnog dat defensiecontract.

marcoplarco | 03-06-18 | 16:20 | + 5 -

Skynet?

Poekieman | 03-06-18 | 17:37 | + 3 -

Van "don't be evil" naar "do the right thing". Dat laatste is voor meerdere interpretaties vatbaar.

kapotte_stofzuiger | 03-06-18 | 16:00 | + 3 -

"Do the right thing" to promote the positive image of Google to the general public and the continous financial benefit of Google and it's shareholders.

Dezenaamhier | 03-06-18 | 19:15 | + 0 -

elf ben ik een beetje autistisch, maar 'volgend jaar' is bij mij niet hetzelfde als 'immidiate'. Ik vraag hoeveel googlers daar in trappen.

watergeus | 03-06-18 | 15:48 | + -1 -

Klopt hoor, heb het iets, 'een soort van' genuanceerd daarom.

DASsven | 03-06-18 | 16:23 | + 0 -

'Immediate' is ook wat onredelijk gezien ze gewoon aan een contract vast zitten.

J4914 | 03-06-18 | 16:54 | + 1 -

REAGEER OOK

Linktip: Energie vergelijken