Prywatność
Odkurzacz Roomba sfotografował kobietę korzystającą z WC. Zdjęcie trafiło na Facebooka
Zdjęcie kobiety w liliowej koszulce korzystającej z WC zrobione przez odkurzacz Roomba J7 znalazło się w zamkniętej grupie na Facebooku. Skąd się tam wzięło? Z zasobów pracowników firmy Scale AI, specjalizującej się w trenowaniu algorytmów sztucznej inteligencji w oparciu o obrazy, dźwięk i wideo.
Kobieta korzystająca z toalety to nie jedyna nieświadoma „ofiara" samojezdnego odkurzacza Roomba J7 produkowanego przez firmę iRobot. W grupie znalazły się również inne zdjęcia różnych osób, przedstawiające je w różnych scenach domowych, nierzadko bardzo intymnych.
Fotografie łączyło to, że wszystkie zostały wykonane przez to samo urządzenie – świadczy o tym m.in. kąt nachylenia obiektywu, a także fakt, że - jak w przypadku zdjęcia zrobionego w WC - nikt przy zdrowych zmysłach sam by się nimi nie podzielił w internecie.
Co widać na zdjęciach zrobionych przez odkurzacze?
Magazyn „MIT Technology Review", który opisuje sprawę i który dotarł do tych bardzo osobistych materiałów, pisze, że wspomniane zdjęcia to ujęcia regularnie robione przez połączone z internetem sprzęty gospodarstwa domowego. Zwyczajowo jednak są one przesyłane do chmury producenta danego urządzenia, gdzie chronione są przez dość silne mechanizmy bezpieczeństwa i ograniczenia dostępu.
Oprócz wspomnianej już wyżej kobiety, odkurzacze Roomba J7 sfotografowały m.in. chłopca w wieku ok. ośmiu lat, ujmując na zdjęciu dokładnie widoczną twarz dziecka, które leży na brzuchu na podłodze i przypatruje się urządzeniu.
W innych wypadkach na zdjęciach widoczne są osoby przebywające w różnych pomieszczeniach, gdzie widać ze szczegółami nie tylko znajdujące się tam meble, ale i np. psa przebywającego w jednym z pokoi. Do każdego obiektu przyporządkowane są oznaczenia pomagające odkurzaczowi „rozpoznać", jaki obiekt aktualnie znajduje się w jego „polu widzenia".
Czytaj też
Ile (i jak) uczy się Roomba
„MIT Technology Review" przypomina, że firma iRobot to największy na świecie producent samobieżnych odkurzaczy. Ostatnio, o czym pisaliśmy na łamach naszego serwisu, chęć przejęcia tej spółki zgłosił koncern Amazon. Transakcja jest warta 1,7 mld dolarów i czeka na zatwierdzenie przez organy.
iRobot potwierdził, że zdjęcia, o których mowa, zostały zrobione przez Roomby w 2020 roku. Nie zrobiły ich jednak – według firmy – odkurzacze dostępne w sklepach dla wszystkich konsumentów, ale urządzenia w „specjalnej wersji deweloperskiej", wyposażone w zmodyfikowane podzespoły i oprogramowanie, które „nigdy nie były obecne w produktach konsumenckich iRobot przeznaczonych do sprzedaży".
Zmodyfikowane Roomby J7 miały trafiać do „płatnych kolekcjonerów i pracowników", którzy podpisali umowy zawierające klauzule informacyjne nt. przesyłu danych, w tym – nagrań wideo – do firmy dla potrzeb szkolenia algorytmów sztucznej inteligencji.
iRobot twierdzi, że każde z urządzeń było odpowiednio oznaczone zieloną, widoczną dobrze naklejką informującą, że „nagrywanie wideo jest w trakcie", natomiast kwestią wyboru osób dysponujących takimi odkurzaczami było to, do czego będą one miały dostęp i kto znajdzie się w zasięgu kamer, w które były wyposażone.
Czytaj też
W skrócie, użytkownicy „specjalnych" wersji Roomby zgodzili się na nagrywanie siebie i swojego otoczenia oraz domowników. „MIT Technology Review" zaznacza, że iRobot nie wyraził zgody na to, aby dziennikarze mogli zapoznać się z treścią klauzul poufności podpisywanych przez osoby, którym powierzono odkurzacze wyposażone w kamery.
Magazyn zaznacza, że zdjęcia nie pochodziły od osób korzystających z konsumenckich wersji odkurzaczy Roomba – ale i oni najczęściej zgadzają się bezrefleksyjnie na monitorowanie swoich danych przez urządzenia, które poruszają się po ich domach. Nie chodzi tu jednak wyłącznie o Roomby, ale także o telefony, inteligentnych asystentów, a także różnego rodzaju podłączone do internetu sprzęty gospodarstwa domowego.
Wszędzie towarzyszy nam sztuczna inteligencja, która uczy się naszych zachowań, naszych domów, naszych zwyczajów – zarówno tych konsumenckich, jak i np. dotyczących sprzątania, aby „ułatwiać nam życie". Warto jednak pamiętać, że tego rodzaju udogodnienia wiążą się z kosztami – najczęściej związanymi z oddaniem – w zamian za ułatwienia – części naszej prywatności.
Czytaj też
Po co odkurzaczom tyle danych?
Według cytowanych przez „MIT Technology Review" ekspertów, dane gromadzone przez samobieżne odkurzacze mogą stanowić poważne naruszenie naszej prywatności. Urządzenia te wyposażone są w potężne podzespoły, w tym czujniki, pozwalające na mapowanie mieszkań swoich użytkowników.
„Mogą poruszać się po twoim domu, a ty nawet nie masz nad tym kontroli" – mówi związany z amerykańskim Northeastern University doktorant Dennis Giese, wskazując na problem braku władzy użytkowników nad tym, jakie dane na ich temat gromadzą urządzenia.
Informacje o użytkownikach są szczególnie istotne dla urządzeń wyposażonych w algorytmy sztucznej inteligencji, które uczą się w ten sposób – co wspomniano wyżej – naszych zwyczajów. Firmy produkujące tego rodzaju sprzęt wykorzystują też dane o użyciu takich robotów do budowy kolejnych, usprawnionych modeli.
Magazyn wskazuje jednak, że praca nad nowymi robotami nie musi się wcale ograniczać do odkurzaczy – rozwijane mogą być również inne roboty.
Czytaj też
Do analizy danych każdorazowo wykorzystywana jest praca ludzka – bez niej algorytmy nie nauczą się poprawnie rozpoznawać obiektów i to właśnie do tego niezbędny jest wciąż „wkład" pracowników zespołów asystujących przy szkoleniu sztucznej inteligencji, którzy pomagają rozpoznawać jej np. meble czy inne sprzęty znajdujące się w domach.
Spółka Scale AI to jedna z firm oferujących tego rodzaju usługi, współpracująca z producentem odkurzaczy Roomba. iRobot podaje, że przekazał jej ok. 2 mln zdjęć robionych przez swoje odkurzacze – dlatego 15 fotografii, które widział „MIT Technology Review" to zaledwie wierzchołek góry lodowej.
Jak w każdym procesie, w którym udział bierze człowiek, w szkoleniu algorytmów również kluczowe jest zaufanie; przypadek fotografii opisanych przez magazyn dowodzi, że nie powinno go być zbyt wiele. Nigdy nie mamy gwarancji, kiedy pracownicy firmy technologicznej wyniosą zdjęcia ze swojego warsztatu i zamieszczą je w mediach społecznościowych – tak samo jak nie wiemy, czy i kiedy nasze urządzenia nas nagrywają. Dowodzi tego nie tylko przykład inteligentnych odkurzaczy Roomba.
Serwis CyberDefence24.pl otrzymał tytuł #DigitalEUAmbassador (Ambasadora polityki cyfrowej UE). Jeśli są sprawy, które Was nurtują; pytania, na które nie znacie odpowiedzi; tematy, o których trzeba napisać – zapraszamy do kontaktu. Piszcie do nas na: [email protected].
