Gartner IT-symposium / Xpo 2019: Gartner Fellow diskuterer etikk i kunstig intelligens

Gartner IT-symposium Xpo 2019: Gartner Fellow diskuterer etikk i kunstig intelligens. Gartner-stipendiat Frank Buytendijk sa at det er viktig å komme foran AI-prosjekter med opplæring i etikk.

TechRepublics Associate Managing Editor Teena Maddox snakket med Frank Buytendijk, utpekt VP og Gartner Fellow i Gartners Data Analytics Group, ved Gartner IT Symposium / Xpo 2019 om etikk innen teknologi og kunstig intelligens. Følgende er et redigert utskrift av samtalen.

Mer om kunstig intelligens

  • Google DeepMind-grunnlegger Demis Hassabis: Tre sannheter om AI
  • De 10 mest etterspurte AI-jobbene i verden
  • De 3 mest oversett begrensningene av AI i virksomheten
  • Hvordan bli maskinlæringsingeniør: Et jukseark

Frank Buytendijk: Når det er en ny teknologi som utvikler seg så raskt at vi som mennesker og som organisasjoner og til og med som et samfunn, ikke kan sette armene rundt og virkelig forstå hva den gjør, kommer spørsmålet om etikk opp. Er dette bra? Hva skjer? Trenger dette en slags foreldretilsyn, eller kan dette utvikle seg på en autonom måte? Og AI er absolutt den mest effektive teknologien som ber om disse spørsmålene. Så hvordan sikrer vi at AI oppfører seg på riktig måte, og hvordan unngår vi at den oppfører seg på feil måter?

De etiske utfordringene til AI: En leders guide (gratis PDF) (TechRepublic)

Det er en stor debatt i AI, og den store fremtidsvisjonen er at vi ønsker å ha etiske regler innebygd i AI. Dette ble faktisk pioner av science fiction-forfatteren, Isaac Asimov, da han introduserte sine robotregler (The Three Laws of Robotics). Ironien er at han brukte disse som et litterært instrument, og skrev skikkelig kule historier om hvordan disse reglene aldri fungerte, og det er det fortsatt i dag. Ideen om at du kan bygge etiske regler i AI er en fremtidsvisjon.

Lønnstilstanden i markedet i dag er at utviklere av AI må ta ansvaret for atferden til AI. Selv om algoritmene, i produksjon når de kjører, lærer på uventede og utilsiktede måter. Det er alltid et utvikleransvar som må opprettholdes selv når systemer er i produksjon.

Det er mange måter du kan bruke AI etisk og også uetisk. En måte som ofte siteres, er for eksempel å bruke attributter til mennesker som ikke bør brukes. For eksempel når du gir noen pantelån, tilgang til noe eller tar andre beslutninger. Raseprofilering blir vanligvis nevnt som et eksempel. Så du må være oppmerksom på hvilke attributter som brukes til å ta beslutninger. Hvordan lærer algoritmene? Andre måter å misbruke AI er for eksempel autonome drapsmenn. Vil vi la algoritmer bestemme hvem som blir bombet av en drone og hvem ikke? Og de fleste ser ut til å være enige i at autonome drapshandlinger ikke er en veldig god ide.

Det viktigste en utvikler kan gjøre for å skape etisk AI er å ikke tenke på dette som teknologi, men en øvelse i selvrefleksjon. Utviklere har visse skjevheter. De har visse egenskaper selv. For eksempel er utviklere opptatt av å søke etter den optimale løsningen på et problem; det er innebygd i hjernen deres. Men etikk er en veldig pluralistisk ting. Det er forskjellige mennesker som har forskjellige ideer. Det er ikke ett optimalt svar på hva som er bra og dårlig. Først og fremst bør utviklere være klar over sine egne etiske skjevheter om hva de synes er bra og dårlig og skape et miljø med mangfoldighet der de tester disse forutsetningene og hvor de tester resultatene sine. Utviklerhjernen er ikke den eneste hjernen eller typen hjerne som er der ute, mildt sagt.

Så, AI og etikk er virkelig en historie om håp. Det er for aller første gang at en diskusjon om etikk finner sted før den omfattende implementeringen, i motsetning til i tidligere runder der de etiske betraktningene fant sted etter virkningene. For eksempel med big data og personvern, foregikk all diskusjonen når det er for lite, for sent. Med virkningen av smarttelefoner på menneskelig kommunikasjon og forhold, skjedde det slags med oss. Det var aldri den diskusjonen på forhånd. Så med AI, foregår diskusjonen foran. Og det vi ser - og det er virkelig bra - er at organisasjoner som tar AI alvorlig også investerer i etisk trening. Så etikk blir deler av AI-opplæring i universiteter, en del av datavitenskapstrening i universiteter, og selskapene som satser på AI sørger også for etisk trening. Dette er virkelig noe som begynner å bli en god praksis.

Nyhetsbrev om innovasjon

Vær kjent med smarte byer, AI, Internet of Things, VR, AR, robotikk, droner, autonom kjøring og mer av de kuleste teknologiske nyvinningene. Leveres onsdager og fredager

Registrer deg i dag

© Copyright 2021 | pepebotifarra.com