Hvorfor IoT skulle blive “gennemsigtighedens internet”

Algoritmer er afgørende for tingenes internet.

Tilsluttede enheder autopilot vores biler; kontrollere lyset, varmen og sikkerheden i vores hjem; og køb hos os. Wearables sporer hjertefrekvens og iltniveauer, fortæller os, hvornår vi skal rejse os, og hvordan vi skal bevæge os, og fører detaljerede logfiler over, hvor vi befinder os. Smarte byer, baseret på en række forskellige IoT-enheder og -applikationer, styrer livet for millioner af mennesker rundt om i verden og styrer trafik, sanitet, offentlig administration og sikkerhed. Rækkevidden og indvirkningen af ​​Internet of Things på vores dagligdag ville være utænkelig uden algoritmer, men hvor meget ved vi om algoritmiske funktioner, logik og sikkerhed?

De fleste algoritmer fungerer med en beregningshastighed og kompleksitet, der ikke tillader effektiv menneskelig analyse. De er sort boks arbejde. Derudover er de fleste IoT-applikationsalgoritmer proprietære og fungerer i en dobbelt sort boks. Denne status quo kan være acceptabel, så længe resultaterne er positive, og algoritmerne ikke gør skade. Det er desværre ikke altid tilfældet.

Når black box-algoritmer fejler og forårsager materiel, fysisk, social eller økonomisk skade, skader de også IoT-bevægelsen. Sådanne fejltagelser underminerer den sociale og politiske tillid, som industrien har brug for for at sikre større adoption af smarte enheder, hvilket er nøglen til at komme videre.

Uigennemsigtige algoritmer kan være dyre og endda dødbringende

Black box-algoritmer kan føre til alvorlige problemer i den virkelige verden. For eksempel, i Yosemite Valley, Californien, er der en ubestemmelig vejstrækning, der konstant er forvirrer ubemandede køretøjer, og på nuværende tidspunkt har vi stadig ikke et svar på hvorfor. Den åbne vej er naturligvis fuld af risici og farer, men hvad med dit eget hjem? Smarte assistenter er her for at lytte til din stemme og følge dine ønsker og kommandoer vedrørende indkøb, varme, sikkerhed og næsten enhver anden hjemmefunktion, der kan automatiseres. Men hvad nu hvis den smarte assistent begynder at blive dum og lytter ikke til dig, men til fjernsynet?

Der er joke cirkulerer på nettet, at mange smarte hjemmeassistenter igangsætter uønskede onlinekøb, fordi Jim Patton, vært for CW6 News i San Diego, sagde sætningen: “Alexa bestilte mig et dukkehus.” Hvorvidt det skete i en sådan skala er irrelevant. Det virkelige problem er, at dukkehushændelsen lyder meget plausibel og igen rejser tvivl om den indre funktion af de IoT-enheder, som vi har betroet så meget af vores daglige liv, komfort og sikkerhed til.

Fra et IoT-synspunkt er den ikke-materielle skade fra sådanne hændelser betydelig. Når alene autonom bil fejler, får alle selvkørende køretøjer et omdømme ramt. Når én smart hjemmehjælper gør noget dumt, sættes der spørgsmålstegn ved alle smarte hjemmehjælperes intelligens.

Information elefant i rummet

Hver gang en algoritme træffer en forkert beslutning, lover dens udviklere en grundig undersøgelse og en hurtig løsning. Men på grund af den proprietære kommercielle karakter af alle disse algoritmer, er der ingen måde for myndighederne og den brede offentlighed at verificere, hvilke forbedringer der har fundet sted. Vi skal jo tage virksomhederne på ordet. Gentagne overtrædelser gør dette til et vanskeligt problem.

En af hovedårsagerne til, at virksomheder ikke afslører den indre funktion af deres algoritmer – så vidt de kan forstå det – er, fordi de ikke ønsker at vise alle de operationer, de udfører på vores data. Selvkørende biler fører en detaljeret log over hver tur. Hjemmeassistenter sporer aktiviteter rundt i huset; optag temperatur, lys og lydstyrkeindstillinger; og løbende opdatere indkøbslisten. Alt dette personlig information indsamlet centralt for at tillade algoritmer at lære og dirigere information ind i målrettet annoncering, detaljerede forbrugerprofiler, adfærdsnudges og direkte manipulationer.

Husker du den gang Cambridge Analytica effektivt bevæbnet Oplysninger fra profilerne på 87 millioner intetanende brugere af sociale medier misinformerede vælgerne og kunne være med til at ændre forløbet af det amerikanske præsidentvalg. Hvis din liste over venner og et par online diskussionsgrupper er nok til en algoritme til at bestemme de bedste måder at påvirke din overbevisning og adfærd, hvilket dybere og stærkere niveau af manipulation kan detaljerede logfiler over din puls, bevægelser og søvn give?

Virksomheder er interesserede i at holde algoritmerne uigennemsigtige, fordi det giver dem mulighed for at tilpasse dem til deres kommercielle formål og akkumulere enorme centraliserede databaser med følsomme brugerdata undervejs. Efterhånden som flere og flere brugere indser denne smertefulde, men nødvendige bevidsthed, er IoT-adoption og -udvikling langsomt ved at gå i stå, og skepsis bygger et bjerg foran algoritmiske fremskridt, der aldrig er sket. Hvad skal vi gøre?

Overgang til “gennemsigtighedens internet”

Først og fremmest bør du fokusere på at gøre algoritmerne mere forståelige og gennemsigtige. For at maksimere tilliden og eliminere de negative virkninger af algoritmisk uigennemsigtighed skal IoT blive “gennemsigtighedens internet”. Industrien kan opnå gennemsigtighed ved at afkoble kunstig intelligens fra centraliseret dataindsamling og gøre så mange algoritmer open source som muligt. Teknologi som forklædt fødereret læring og edge AI gør disse positive trin mulige. Vi har brug for viljen til at gå efter dem. Det bliver ikke nemt, og nogle store teknologivirksomheder vil ikke gå ned uden kamp, ​​men vi vil alle have det bedre på den anden side.

Om forfatteren

Leif-Nissen Lundbeck, PhD, medstifter og administrerende direktør Zayn. Hans arbejde fokuserer hovedsageligt på privatlivsbevarende AI-algoritmer og -applikationer. I 2017 grundlagde han et privatlivsfirma sammen med professor og chefforsker Michael Huth og COO Felix Hamann. Xayn mobilapp er en privat websøgnings- og opdagelsesbrowser, der kombinerer søgemaskine, opdagelsesfeed og mobilbrowser med fokus på privatliv, personalisering og intuitivt design. Det Berlin-baserede kunstige intelligens-firma, der vandt den første Porsche Innovation Competition, har arbejdet med Porsche, Daimler, Deutsche Bahn og Siemens.

Add Comment