Mi történt?

A Northeastern egyetem munkatársai kifejlesztettek egy olyan mintát, ami pólóra nyomtatva összezavarhatja a bennünket figyelő kamerák arcfelismerő algoritmusait, vagyis a mesterséges intelligenciát.

Miért fontos ez?

Mert szenzorok milliárdjai lesik mindennapi életünket, ami sokaknak bizony nem tetszik. Igen, téged is figyelnek, ráadásul adataink is hatalmas értékkel bírnak, amelyek könnyen illetéktelen kezekbe kerülhetnek.

Tovább olvasnál? Erről lesz még szó:

• Miért érdekelnek bárkit az én adataim? 
• Egy jövőkutató mesél arról, hogy a technológia mire képes napjainkban.
• Ez most jó vagy rossz? Hogyan kell együtt élnünk a gépekkel?

Figyelnek. Legyél fontos ember vagy egy átlagos életet élő civil, élj nagyvárosban vagy vidéken, szenzorok milliárdjai vesznek körbe már most is. A szám nem túlzó, a tudósok csupán abban nem értenek egyet, hogy néhány éven belül ez tíz- vagy éppen százmilliárdos nagyságrendet fog-e jelenteni. Tehát ez nem valamiféle orwelli disztópia vizionálása, és nem is a jövőnk, hanem tulajdonképpen a jelenünk.

A digitális megfigyelő rendszerek ott vannak a boltokban, az utcákban, a használati tárgyainkban – gondolj csak a telefonok arcfelismerő funkciójára, amivel érintés nélkül is be tudunk lépni mobilunkba. A régi diktafonokon világított a kis piros fény felvétel közben, láttuk, tudtuk, ha rögzítve vagyunk – a mai szenzorok viszont annyira aprók, hogy az emberi szem számára szinte észrevehetetlenek, így nem tudjuk, kis és mikor rögzít vagy figyel egy beszélgetést, egy csetelést vagy éppen egy videohívást.

Póló, ami kicselezi a mesterséges intelligenciát

A világ különböző országai már most mesterséges intelligenciát használnak arra, hogy figyeljék és nyomon kövessék állampolgáraikat – ezzel a technológiával pedig gyakorlatilag bármikor azonosíthatnak bennünket. Igen, ez Magyarországon is létezik, ahogyan az összes európai uniós tagállamban is – a rendőrségek például már most is használják vagy éppen tervezik használni az arcfelismerést a személyazonosításhoz. Ez pedig rengeteg kérdést vet fel akkor is, ha az ember nem sci-fi rajongó vagy nem hisz az összeesküvés-elméletekben.

A bostoni Northeastern egyetem tudósai az MIT és az IBM kutatóival közösen nemrég azon kísérleteztek, hogy létrehozzanak egy kaleidoszkópszerű mintát, ami viselőjét észrevétlenné teheti az AI (mesterséges intelligencia) számára. Xue Linnek, az egyetem adjunktusának és munkatársainak sikerült is összezavarni a mesterséges intelligencia osztályozási és címkézési rendszerét, amely beazonosít tárgyakat vagy éppen arcokat. – A póló az objektumok észleléséhez használt neurális hálók elvén működik  – magyarázza Xue Lin, aki egy, a közelmúltban a témáról írt cikk társszerzője is. – Általában az történik, hogy a hálózat felismer valamit vagy valakit egy képen, egy határolódobozt rajzol köré, majd címkét rendel az objektumhoz.

Megtaláltuk ennek a mesterséges neruális hálózatnak a határpontjait, azokat a küszöbértékeket, amelyek alapján eldönti, hogy valami tárgy-e vagy sem.

– Ez a póló egyébként nem az első kísérlet volt arra, hogy kicselezzék a mesterséges intelligenciát. – És nem is arról szól, hogy viselője ne kerüljön be az adatbázisba – mondja Keleti Arthur kibertitok jövőkutató, a Informatikai biztonság napja alapítója. – Tehát nem azért hozták létre, hogy megmentsék az embereket, hanem hogy javítsanak ezeknek a  rendszereknek korrektségén. Hiszen az, hogy ne kerüljünk be az adatbázisba, az egy irreális elképzelés – véli a szakember.

Fotó: Matthew Modoono/Northeastern University, northeastern.edu

De ki és hol figyel bennünket?

– Ha a Facebookon telefonálunk vagy csetelünk, akár a beszélgetéseinket is figyelheti a mesterséges intelligencia – folytatja Keleti Arthur a kényelmetlen igazság fejtegetését. – Csakúgy, mint azt, amikor begépelünk valamit a Google-ba. Ilyen szempontból tehát az, hogy kamerákkal is figyelnek bennünket, nem nagy újdonság, a technológia jó ideje körbevesz bennünket. De amíg él az a megegyezés, ami szerint az rendben van, ha a Google tudja az általunk begépelt szöveg alapján, hogy azzal mit kell csinálnia, addig az arcképünkkel kapcsolatban ez még nincs meg.

Pedig aközött, hogy beírunk valami a keresőbe, elmondunk valamit egy beszélgetésben vagy aközött, hogy sétálás, vásárlás közben az arcunkat és mozgásunkat felismeri valami, technológiailag nincs különbség.

Csak amíg az egyikben hang vagy szöveg az input, addig kamerák esetén kép. A technológia ma már szinte mindenre képes, és ezekből jó dolgok is kijöhetnek, ezt azonban nehéz felfogni – véli Keleti Arthur.

(Fotó: Getty Images)

A technológia a kezünk alá játszik, megkönnyíti életünket, de közben ott van a rossz oldala is a dolognak, hiszen ugyanez a technológia, ugyanezekkel a paraméterekkel arra is képes, hogy megfigyeljen bennünket akkor is, ha éppen nem akarjuk, hogy elemzésével olyan információkat is megtudjanak rólunk, amelyeket nem szeretnénk kiadni magunkról. Onnan pedig csak egy lépés, hogy egy fölöttünk álló hatalom mihez kezd a rólunk szóló információkkal – csak kicsit kell szabadon engedni a fantáziánkat, hogy olyan kimenetelek jussanak eszünkbe, amelyek a legfélelmetesebb disztópiákat felvonultató filmekben és regényekben történnek. 

A technológia nem ismeri az ember humán oldalát

Egyáltalán nem egyértelmű tehát, hogy az ember hol húzza meg a vonalat jó és rossz között a kérdésben. – Ha mondjuk vásárlás közben egy kamera rám néz, ezáltal megállapítja a méretemet és odairányít a számomra megfelelő ruhaméretekhez, az például a többségnek rendben van – mondja a jövőkutató. 

Egyesek számára az is rendben van, hogy a technológia felismerje, milyen a hangulata, és ez alapján ajánljon neki dolgokat. Mások számára azonban már ezek sem férnek bele, mindenkinél máshol van a határ. A technológia nem ismeri az ember humán oldalát, így arra, hogy hogyan használjuk fel ezeket a rendszereket, mindenféle törvényeket és szabályokat hoztunk. Ezek társadalmanként, országonként változnak, hiszen nagyon eltérő a magánszféráról alkotott kép egyes kultúrákban. Amíg Ázsiában kollektivista kultúrák vannak, addig Európában individualisták, mi odavagyunk a magánszféráért. 

Kit érdekelnek az én adataim? Mi történhet velem?

A fenti egy klasszikus kérdés, ami gyakran felmerül. Valószínűleg te is gondoltál már rá, majd legyintettél, és a hatodik helyre is megadtad ugyanazt a jelszót. Pedig a szakértők szerint  nagyon is fontos lenne védeni adatainkat, függetlenül attól, hogy milyen a társadalomban játszott szerepünk. – Sokan azért nem védekeznek megfelelően, mert azt gondolják, nem válhatnak célponttá. Pedig a kisember adattermelő képessége nagyon erős – ha sokan vannak, az már tömeget jelent, és az például pénzügyi szempontból sem elhanyagolható tényező.

A hackerek pont az ilyen adatokat adok-veszik, nagyon komoly árakon. Nem feltétlenül személyesen keres fel bennünket a világ legjobb hackere, de a robot, amit ráenged a rengeteg személyes adatra, már küldhet nekünk zsaroló emailt, vagy olyan levelet, amelyről azt hisszük, bízhatunk benne. Így gyorsan be is kaphatunk egy fertőzést, amivel mondjuk letitkosítják a gépünket, majd fizetnünk kell, hogy újra hozzáférjünk. Aki pedig nem ért hozzá, könnyen megijedhet ezektől és fizet vagy megadja a kért adatokat. –

A kamerák tehát mindenhol ott vannak. Az a kérdés, hogy ezek az eszközök mit rögzítenek (egyébként mindent), és hogy mit kezdenek ezzel az adattal. Itt lehet megfogni ezt a kérdést. A saját adatainkhoz való jog nagyon ingoványos terep, hiszen az adat megfoghatatlan dolog, sokan nincsenek is tisztában, pontosan mit is jelent. Sem az értékével, sem azzal, hogy joguk van hozzá. A GDPR, vagyis az általános adatvédelmi rendelet alapján egyértelművé kell tenni, hogy mit csinál adott cég az adatainkkal, nem lehet összezavarni az embereket több száz oldalas adat feldolgozási jogászkodással. És nagyjából ennyit tudunk csinálni – mondja Keleti.

Ember és gép

Együtt kell élnünk ezekkel a technológiákkal, a gép és ember együtt értelmezhető a jövőben – vetíti elő a hollywoodi filmeket megszégyenítő jövőt Keleti. – Ezt a transzhumanista gondolatot nehéz megemészteni a humanizmus hívőinek. Össze fogunk valahogy nőni, ez elkerülhetetlen. Azon kell gondolkodni, hogy ennek a közös létezésnek hogyan tudunk olyan értelmet adni, ami ellensúlyozza a problémákat, hogy a technológiát jó dolgokra tudjuk használni. – Mesterséges intelligenciát összezavaró pólók ide vagy oda, nagyon úgy tűnik, hogy kivonni magunkat ez alól gyakorlatilag lehetetlen lesz.

Kiemelt kép: Getty Images