Hvad er maskinlæringsalgoritmer? Sådan fungerer de

Kunstig intelligens og maskinlæring producerer mange af de fremskridt, vi ser i teknologibranchen i dag. Men hvordan får maskiner evnen til at lære? Desuden resulterer måden, vi gør på, i utilsigtede konsekvenser?

Her er vores hurtige forklarer om, hvordan maskinlæringsalgoritmer fungerer sammen med nogle eksempler på maskinlæring, der er gået galt.

Hvad er maskinlæringsalgoritmer?

Maskinlæring er en gren af ​​datalogi, der fokuserer på at give AI muligheden for at lære opgaver 5 Bedste Google AI-eksperimenter til at udforske kunstig intelligens 5 Bedste Google AI-eksperimenter til at udforske kunstig intelligens Google har flere AI-eksperimenter, som du kan gå og lege med, ikke nu. Takket være maskinlæring kan de ændre morgendagens verden med din hjælp. . Dette inkluderer udvikling af evner uden programmerere, der eksplicit koder AI til at gøre disse ting. I stedet er AI i stand til at bruge data til at lære sig selv.

Programmerere opnår dette gennem maskinlæringsalgoritmer. Disse algoritmer er de modeller, som en AI-læringsadfærd er baseret på. Algoritmer sammen med træningsdatasæt gør det muligt for AI at lære.

En algoritme tilvejebringer normalt en model, som en AI kan bruge til at løse et problem. For eksempel at lære at identificere billeder af katte versus hunde. AI anvender modellen, der er angivet af algoritmen, på et datasæt, der inkluderer billeder af katte og hunde. Over tid lærer AI, hvordan man identificerer katte fra hunde mere nøjagtigt og let uden menneskeligt input.

Maskinindlæring forbedrer teknologi såsom søgemaskiner, smart home-enheder, onlinetjenester og autonome maskiner. Det er sådan, Netflix ved, hvilke film, du mere sandsynligt vil nyde, og hvordan musikstreamingtjenester kan anbefale afspilningslister.

Men selvom maskinlæring kan gøre vores liv meget lettere, kan der også være nogle uventede konsekvenser.

7 gange, da maskinlæring gik forkert

1. Uønsker med Google Image Search Result

Google Søgning har gjort det meget lettere at navigere på nettet. Motorns algoritme tager en række ting i betragtning, når resultaterne ophobes, f.eks. Nøgleord og afvisningsprocent. Men algoritmen lærer også af brugertrafik, hvilket kan forårsage problemer for søgeresultatets kvalitet.

Intetsteds er dette mere synligt end i billedresultater. Da sider med høj trafik mere sandsynligt får deres billeder vist, prioriteres historier, der tiltrækker et stort antal brugere, inklusive clickbait, ofte.

F.eks. Søgeresultaterne for billeder “squatters lejre i Sydafrika” forårsagede kontrovers, da det blev opdaget, at det overvejende indeholdt hvide sydafrikanere. Dette til trods for statistikker, der viser, at det overvældende flertal af dem, der bor i uformelle boliger, såsom hytter, er sorte sydafrikanere.

De faktorer, der bruges i Googles algoritme, betyder også, at internetbrugere kan manipulere resultater. F.eks. Påvirkede en kampagne fra brugere Google Image Search-resultater i det omfang, at søgningen efter udtrykket “idiot” viser billeder af den amerikanske præsident Donald Trump.

2. Microsoft Bot blev en nazist

Stol på Twitter for at ødelægge en velmenende, maskinlærende chatbot. Dette er, hvad der skete inden for en dag efter frigivelsen af ​​Microsofts nu berygtede chatbot Tay.

Tay efterlod sprogmønstrene for en teenagepige og lærte gennem hendes interaktion fra andre Twitter-brugere. Hun blev imidlertid et af de mest berygtede AI-fejltagelser, da hun begyndte at dele nazistiske udsagn og racerslider. Det viser sig, at trold havde brugt AI's maskinlæring mod den og oversvømmet den med interaktioner fyldt med bigotry.

Ikke længe efter tog Microsoft Tay offline for godt.

3. AI ansigtsgenkendelsesproblemer

Ansigtsgenkendelse AI skaber ofte overskrifter af alle de forkerte grunde, såsom historier om ansigtsgenkendelse og bekymringer om privatlivets fred. Men denne AI skabte også store bekymringer, når man forsøgte at genkende folk i farve.

I 2015 opdagede brugerne, at Google Fotos kategoriserede nogle sorte mennesker som gorillaer. I 2018 undersøgte ACLUs undersøgelser, som viste, at Amazons Rekognition-ansigt-identifikationssoftware identificerede 28 medlemmer af den amerikanske kongres som politi mistænkte, med falske positiver, der uforholdsmæssigt påvirker folk af farve.

En anden hændelse involverede Apples Face ID-software Køb af en iPhone X? Face ID Måske få dig til at overveje at købe en iPhone X? Face ID kan få dig til at overveje iPhone Xs mest bemærkelsesværdige funktion er Face ID-enhedens oplåsningssystem. Men hvor sikker er det? Vil Apple have adgang til en enorm database over alles ansigter? forkert at identificere to forskellige kinesiske kvinder som den samme person. Som et resultat kunne iPhone X-ejerens kollega låse telefonen op.

I mellemtiden minder MIT-forskeren Joy Buolamwini om, at de ofte har brug for en hvid maske, mens de arbejder på ansigtsgenkendelsesteknologi for at få softwaren til at genkende hende. For at løse problemer som dette bringer Buolamwini og andre it-fagfolk opmærksomhed på problemet og behovet for mere inkluderende datasæt til AI-uddannelse.

4. Deepfakes bruges til hoaxes

Mens folk længe har brugt Photoshop til at oprette hoax-billeder, bringer maskinlæring dette til et nyt niveau. Software som FaceApp giver dig mulighed for at skifte emner fra en video til en anden med ansigt.

Men mange mennesker udnytter softwaren til en række ondsindede anvendelser, herunder overlejring af berømtheds ansigter i voksenvideoer eller generering af hoaxvideoer. I mellemtiden har internetbrugere bidraget til at forbedre teknologien for at gøre det stadig sværere at skelne rigtige videoer fra falske. Som et resultat gør dette denne type AI meget kraftfuld med hensyn til at sprede falske nyheder og svulmer Facebook Tilbudstips til at hjælpe dig med at finde falske nyheder Facebook Tilbudstips til at hjælpe dig med at finde falske nyheder Mens Facebook ikke producerer falske nyheder, er det i det mindste delvis ansvarlig for dens formidling. Derfor tilbyder det nu tip, der hjælper dig med at få vist falske nyheder, før de spreder sig. .

For at vise teknologiens magt oprettede direktør Jordan Peele og BuzzFeed CEO Jonah Peretti en deepfake-video, der viser, hvad der ser ud til at være den tidligere amerikanske præsident Barack Obama, der leverer en PSA om deepfakes magt.

5. Forøgelsen af ​​Twitter-bots

Twitter-bots blev oprindeligt oprettet for at automatisere ting som svar på kundeservice for mærker. Men teknologien er nu en vigtig årsag til bekymring. Faktisk har forskning estimeret, at op til 48 millioner brugere på Twitter faktisk er AI-bots.

I stedet for blot at bruge algoritmer til at følge visse hashtags eller svare på kundespørgsmål, prøver mange botkonti at efterligne virkelige mennesker. Disse 'mennesker' reklamerer derefter for hoaxer og hjælper med at få falske nyheder til at blive virale.

En bølge af Twitter-bots påvirkede endda den offentlige mening i en grad på Brexit og det amerikanske præsidentvalg i 2016. Twitter selv indrømmede, at det afslørede omkring 50.000 russiskfremstillede bots, der offentliggjorde om valget.

Bots fortsætter med at plage tjenesten og spreder desinformation. Problemet er så almindeligt, at det endda påvirker virksomhedens værdiansættelse.

6. Medarbejdere siger, at Amazon AI besluttede at ansætte mænd er bedre

I oktober 2018 rapporterede Reuters, at Amazon var nødt til at skrabe et værktøj til rekruttering af job, efter at softwarens AI besluttede, at mandlige kandidater var præferentielle.

Medarbejdere, der ønskede at være anonyme, kom frem til Reuters om deres arbejde med projektet. Udviklere ønskede, at AI skulle identificere de bedste kandidater til et job baseret på deres CV'er. Imidlertid bemærkede folk, der var involveret i projektet, snart, at AI straffede kvindelige kandidater. De forklarede, at AI brugte CV'er fra det sidste årti, hvoraf de fleste var fra mænd, som dets træningsdatasæt.

Som et resultat begyndte AI at filtrere CV'er baseret på nøgleordet “Kvinder”. De nøgleord blev vist i CV'et under aktiviteter som f.eks “kvindes skakklub kaptajn”. Mens udviklere ændrede AI for at forhindre denne sanktion af kvinders CV'er, skød Amazon i sidste ende projektet.

7. Upassende indhold på YouTube Kids

YouTube Kids har mange fjollede, finurlige videoer, der er beregnet til at underholde børn. Men det har også et problem med spammy-videoer, der manipulerer platformens algoritme.

Disse videoer er baseret på populære tags. Da små børn ikke er meget kræsne seere, tiltrækker junk-videoer, der bruger disse nøgleord, millioner af visninger. AI genererer automatisk nogle af disse videoer ved hjælp af lageranimationselementer, baseret på trendmærker. Selv når videoerne er lavet af animatorer, genereres deres titler specifikt til nøgleordspropning.

Disse søgeord hjælper med at manipulere YouTubes algoritme, så de ender med henstillinger. En betydelig mængde upassende indhold blev vist i feedsne for børn ved hjælp af YouTube Kids-appen. Dette omfattede indhold, der viser vold, jumpscares og seksuelt indhold.

Hvorfor maskinlæring går galt

Der er to hovedårsager til, at maskinlæring resulterer i utilsigtede konsekvenser: data og mennesker. Med hensyn til data er mantraet af “skrammel ind, skrammel” gælder. Hvis de data, der mates til en AI, er begrænset, partisk eller lav kvalitet; resultatet er en AI med begrænset omfang eller bias.

Men selv hvis programmerere får dataene rigtige, kan folk kaste en skruenøgle i værkerne. Oprettere af software indser ofte ikke, hvordan folk kan bruge teknologien ondsindet eller til egoistiske formål. Deepfakes kom fra teknologien, der blev brugt til at forbedre specialeffekter i biografen.

Det, der sigter mod at give mere fordybende underholdning, ender også med at ødelægge folks liv, når de udnyttes.

Der er mennesker, der arbejder for at forbedre sikkerhedsforanstaltningerne omkring maskinindlæringsteknologi for at forhindre ondsindet brug. Men teknologien er allerede her. I mellemtiden viser mange virksomheder ikke den krævede viljestyrke for at forhindre misbrug af denne udvikling.

Algoritmer til maskinlæring kan hjælpe os

Det kan virke lidt undergang og mørke, når du indser, hvor meget maskinindlæring og kunstig intelligens, der ikke er forventningerne til. Men det hjælper os også på mange måder - ikke kun med hensyn til bekvemmelighed, men at forbedre vores liv generelt.

.