Googles motto «Don’t be evil» gjelder ikke lenger

0
11

Googles morselskap Alphabet har forkastet et langvarig prinsipp og opphevet et forbud mot bruk av kunstig intelligens (AI) til å utvikle våpen og overvåkingsverktøy.

Alphabet har konsekvent droppet en del som tidligere applikasjoner som «sannsynligvis ville forårsake skade».

I et blogginnlegg forsvarte Google endringen, og argumenterte for at bedrifter og demokratiske myndigheter måtte samarbeide om AI som «støtter nasjonal sikkerhet».

Les: Selg alt Elon Musk før det kollapser

Eksperter sier at kunstig intelligens kan brukes bredt på slagmarken – selv om det er frykt for bruken også, spesielt med hensyn til autonome våpensystemer. – I bloggen sin sa Google at demokratier bør lede i AI-utvikling, styrt av det de kalte «kjerneverdier» som frihet, likhet og respekt for menneskerettigheter.

«Og vi mener at selskaper, myndigheter og organisasjoner som deler disse verdiene bør jobbe sammen for å skape AI som beskytter mennesker, fremmer global vekst og støtter nasjonal sikkerhet,»

Senior visepresident James Manyika og Demis Hassabis, som leder AI-laboratoriet Google DeepMind – sa at selskapets originale AI-prinsipper publisert i 2018 måtte oppdateres etter hvert som teknologien hadde utviklet seg.

Les på Sporten: Gir Ronny Deila to storsigneringer på vei mot det største trofeet

«Drap i stor skala»
Bevisstheten om det militære potensialet til AI har vokst den siste tiden.

I januar hevdet parlamentsmedlemmer at konflikten i Ukraina hadde vist at teknologien «gir alvorlige militære fordeler på slagmarken» Etter hvert som AI blir mer utbredt og sofistikert, vil det «endre måten forsvar fungerer på, fra backoffice til frontlinjen,» skrev Emma Lewell-Buck MP, som ledet en nylig commons-rapport om det britiske militærets bruk av AI.

Nå vet vi hvorfor «fredens president» Donald Trump vil bruke 500 milliarder dollar for å bygge kunstig intelligens i USA.

Men det er debatt blant AI-eksperter og fagfolk om hvordan den kraftige nye teknologien bør styres i brede trekk, hvor langt kommersielle gevinster bør tillates å bestemme retningen, og hvordan man best kan beskytte seg mot risikoer for menneskeheten generelt. – Vi får håpe noen tar til motmele mot rundt bruken av AI på slagmarken og i overvåkingsteknologier.

Bekymringen er størst for potensialet for AI-drevne våpen som er i stand til å utføre dødelige handlinger autonomt, med kampanjer som hevder at kontroller er et presserende behov. Doomsday Clock (Link til BBC)- som symboliserer hvor nær menneskeheten er til ødeleggelse – siterte denne bekymringen i sin siste vurdering av farene menneskeheten står overfor.

«Systemer som inkorporerer kunstig intelligens i militær målretting har blitt brukt i Ukraina og Midtøsten, og flere land beveger seg for å integrere kunstig intelligens i sine militære,»

«Slike innsats reiser spørsmål om i hvilken grad maskiner vil få lov til å ta militære beslutninger – til og med beslutninger som kan drepe i stor skala»,

Denne følelsen har blitt gjentatt av Catherine Connolly fra organisasjonen Stop Killer Robots.

«Pengene vi ser blir strømmet inn i autonome våpen og bruken av ting som AI-målrettingssystemer er ekstremt bekymringsverdig,» sa hun til Guardian.

«Don’t be evil»
Opprinnelig, lenge før den nåværende bølgen av interesse for AI-etikken, sa Googles grunnleggere, Sergei Brin og Larry Page, at deres motto for firmaet var «ikke vær ond».

Da selskapet ble omstrukturert under navnet Alphabet Inc i 2015 gikk morselskapet over til «Gjør det rette». Siden den gang har Google-ansatte noen ganger presset tilbake mot tilnærmingen som deres ledere har tatt.

I 2018 fornyet ikke firmaet en kontrakt for AI-arbeid med US Pentagon etter oppsigelser og en petisjon signert av tusenvis av ansatte. De fryktet at «Project Maven» var det første skrittet mot å bruke kunstig intelligens til dødelige formål.

Bloggen ble publisert like i forkant av Alphabets finansielle rapport for slutten av året, og viste resultater som var svakere enn markedets forventninger, og slo aksjekursen tilbake. Det var til tross for en 10 % økning i inntekter fra digital annonsering, dens største inntekt, styrket av amerikanske valgutgifter.

I sin resultatrapport sa selskapet at det ville bruke 75 milliarder dollar på AI-prosjekter i år, 29 % mer enn analytikere på Wall Street hadde forventet.

Selskapet investerer i infrastrukturen for å drive AI, AI-forskning og applikasjoner som AI-drevet søk.

tabola

No posts to display