2023.01.05. 06:00
Intim képeket tett közzé egy nőről a nálunk is kapható robotporszívó
Látszólag csak megint egy újabb pikáns botrány: holott a történet sokkal többről szól.
Forrás: Shutterstock
Fotó: Lenar Nigmatullin
Még karácsony előtt derült ki, hogy egy mesterséges intelligenciával szerelt, egyébként nálunk is kapható iRobot Roomba J7-es robotporszívó többek között vécén videózott egy nőt, s a felvételek – más képekkel együtt – fel is kerültek a Facebookra.
A robotporszívókat gyártó cégek szerint a lakásunk és a magánéletünk biztonságban van: akkor ez hogyan történhetett meg?
A képek sajátos utat járhattak be, míg végül venezuelai felhasználóknál kötöttek ki. Az egyik különösen kínos felvételen fiatal nő ül a WC-n, rövidnadrágja combközépig lehúzva.
Ezeket a felvételeket nem személy készítette, hanem a világszerte árusított iRobot Roomba J7 sorozatú robotporszívó – a termék 1 forint híján 420 ezerbe kerül, magyar nyelvű termékoldala itt található.
Esetünkben miután a porszívó elkészítette saját kamerájával a felvételeket, elküldte az anyagot interneten a Scale AI-nek. Ez a cég mesterséges intelligencia rendszerek betanításához használt hang-, fénykép- és videóadatok címkézésével foglalkozik.
Ilyen és kevésbé magánjellegű jeleneteket az internetre csatlakoztatott eszközök rendszeresen rögzítenek és küldenek a felhőbe – de általában szigorúbb tárolási és hozzáférési engedélyekkel. Az MIT Technology Review portál szerint most tizenöt, porszívó által készített képet közösségi oldalakon is közzé tettek.
A felvételeken mellékhelyiségben dolgát végző személy, hason csúszó-mászó kisgyerek, kutya, különféle szobák, bútorok láthatók, amelyeket olyan címkékkel láttak el, hogy „tévé”, „növény”, „bútor” és így tovább.
Az iRobot a világ legnagyobb robotporszívó-szállítója, amit az Amazon nemrég 1,7 milliárd dollárért vásárolt fel. A cég megerősítette, hogy ezeket a képeket a Roomba készítette – még 2020-ban. Mindegyik felvétel „speciális fejlesztőrobotoktól származik, olyan hardver- és szoftvermódosításokkal, amelyek nem és soha nem is voltak jelen az iRobot fogyasztói termékekben” – áll a vállalat közleményében.
A gyártó szerint a háztartási eszközöket élénkzöld matricával látták el, amelyen az állt, hogy a „videófelvétel folyamatban van”, és az adatgyűjtők feladata volt „eltávolítani minden érzékeny információt, beleértve a gyerekeket is”.
Az iRobot állítja, hogy akiknek a fotói vagy videói az élő adásban (!) megjelentek, mind beleegyeztek a megfigyelésbe. Viszont megtagadták, hogy az MIT Technology Review megtekinthesse a hozzájárulási megállapodásokat.
A fejlesztés az első, aztán majd lesz valami
A felhasználók – tudatosan vagy kényszerűségből – rendszeresen hozzájárulnak, hogy különböző mértékben megfigyeljék őket az okostelefonjuktól kezdve egészen az okos mosógépükig, számos fejlett eszközön. Ez a gyakorlat azért (is) terjedt el, mert az adatokra éhes mesterséges intelligenciát egyre inkább integrálták a termékekbe és szolgáltatásokba.
A technológia nagy része a gépi tanuláson alapul, olyan technikán, amely nagy mennyiségű adatot használ fel – beleértve a hangunkat, arcunkat, otthonunkat és más személyes adatainkat –, hogy betanítsa az algoritmusokat a különféle mintázatok felismerésére. A leghasznosabb adatkészletek a minél reálisabbak, a valós környezetből, például otthonokból származó adatok. Gyakran egyszerűen magával a felhasználással hagyjuk jóvá az adatgyűjtést, mivel az adatvédelmi közlemények homályos fogalmazásai széles mérlegelési jogkört biztosítanak a gyártóknak a fogyasztói információk gyűjtésében és elemzésében.
A felső kategóriás robotporszívók a munkájukhoz számítógépes látást használnak, amely a tudását a képekből és videókból kinyert információkból szerzi.
Az iRobot kezdettől fogva sokat áldozott a számítógépes látásra, legelső ilyen képességekkel felruházott eszköze, a Roomba 980 még 2015-ben debütált. Ez volt az első az iRobot Wi-Fi-képes eszközei közül, amelyik képes térképezni egy egész otthont, hogy az ott észlelt információk alapján módosítsa takarítási stratégiáját, és azonosítsa az elkerülendő akadályokat. Meg kell ugyanis értenie a látott tárgyak sokféleségét ahhoz, hogy elkerülje a vezetékeket a padlón, vagy észlelje, hogy az előtte lévő tárgy egy kanapé.
Az otthoni környezet változatossága nagyon nehéz feladat elé állítja a robotokat – fejtette ki Wu Erqi, a pekingi székhelyű Roborock vezető kutatás-fejlesztési igazgatója. – „Az utak meglehetősen szabványosak, így az önvezető autókat gyártók tudják, vélhetően hogyan néz ki a sáv, és miként fest egy közlekedési tábla. De minden otthonnak nagyon eltérő a belső tere.”
„A bútorok nincsenek szabványosítva” – teszi hozzá a szakértő. – „Nem számíthatunk arra, hogy mi lesz a padlón. Néha van ott egy zokni, máskor meg kábelek hevernek – és ráadásul a kábelek máshogy nézhetnek ki az Egyesült Államokban, mint mondjuk Kínában.
Egyszerűen szükségük van az adatainkra
Az iRobot szabályzata nem tekinti érzékeny adatnak az arcokat, még akkor sem, ha kiskorúak láthatóak a felvételeken. Hogy például képesek legyenek a robotok kikerülni az embereket, először is meg kell tanítaniuk azokat, hogy mi az ember. Tehát össze kell gyűjteni az emberek adatait a modell betanításához.
A robotporszívók által gyűjtött információk különösen kellemetlenek lehetnek, mivel ezek az eszközök „erőteljes hardverrel, kifinomult érzékelőkkel rendelkeznek” – magyarázza Dennis Giese, a Northeastern Egyetem kutatója. Ő a tárgyak internete eszközeinek biztonsági réseit tanulmányozza.
„Az adatokat később még intelligensebb robotok építésére használják fel, amelyeknek a célja egy napon messze túlmutat majd a porszívózáson.”
Ahhoz, hogy ezek az adatkészletek hasznosak legyenek a gépi tanulás számára, elsőként embereknek meg kell tekinteniük, kategorizálniuk, felcímkézniük és kontextusba helyezniük. Ezt az adatfeljegyzési folyamatot végezte el a cikk elején említett Scale AI cég, így juthattak el hozzájuk a Roomba porszívó felvételei.
Az MIT Technology Review cikkében említett 15 kép csak egy morzsa a hatalmas adattengerből. Az iRobot közölte, hogy több mint kétmillió képet osztott meg a Scale AI-vel, és a Scale csak egy a gyártó által felkért adatfeldolgozók közül. Az iRobot közölte, hogy „felmondja kapcsolatát a képeket kiszivárogtató szolgáltatóval, és intézkednek, hogy a jövőben ne történhessen ilyen kiszivárogtatás”.
Az eset nyilván többről szól, mint egyetlen cég adatvédelmi ügyetlenségeiről.
Azt a széles körben elterjedt és egyre terjedő gyakorlatot példázza, hogy tömegesen osztanak meg potenciálisan érzékeny adatokat algoritmusokkal, amelyek ezeket az adatokat szétküldik az egész világban. Porszívós esetünkben a videók, képek, adatok az észak-amerikai, európai és ázsiai otthonokból eljutottak a massachusettsi székhelyű iRobot szervereire, onnan a San Francisco-i Scale AI-re, majd a Scale szerződéses külsős adatfeldolgozó embereihez szerte a világon – végül pedig a képekhez kézen-közön hozzájutó venezuelaiak megosztották a Facebookon és a Discordon.
„Másképpen gondolunk a gépekre, mint az emberekre” – mondta a Technology Review-nek Jessica Vitak, információ-szakértő, a Marylandi Egyetem professzora. – „Sokkal könnyebb elfogadni egy aranyos kis robotporszívót, amelyik körülöttünk tüsténkedik, mint egy élő személyt, aki kamerával járkál a lakásunkban.”
Pedig talán nem csak egy robotporszívó figyel minket a vécén – lehet, hogy egy személy is néz a kameráján át.
Digitália
- Hazai tervezésű pilóta nélküli légijármű forradalmasítja a tisztítástechnológiát
- Ezért van mesterséges intelligencia a Samsung tévéiben
- Így torzítják a gondolkodásunkat az interneten látható képek
- Kidobják a szép modelleket, itt vannak az MI által generált lányok: a Mango már elkezdte
- Ne TikTok-videókkal diagnosztizálja magát, mert rossz vége lehet!