Apple oraz Unia Europejska ogłosiły plan nowej polityki dotyczącej nielegalnych treści. Zakłada ona monitorowanie smartfonów i wykrywanie przestępstw związanych z wykorzystywaniem nieletnich. Naruszanie prywatności użytkowników, nawet w dobrych celach, budzi jednak mieszane uczucia. Grupa naukowców i ekspertów od cyberbezpieczeństwa przygotowała raport ukazujący zagrożenia jakie może za sobą nieść tak daleka ingerencja w dane milionów użytkowników.

Nowa polityka Apple

W sierpniu tego roku firma Apple, zapowiedziała wprowadzenie systemu mającego chronić użytkowników, przede wszystkim tych nieletnich, przed zakazanymi treściami – Child Sexual Abuse Material (CSAM). W założeniu system ten ma się opierać na trzech filarach. Jednym z nich jest udoskonalenie kontroli rodzicielskiej.

szukasz pracy w IT?
szukasz pracy w IT?

Nowe narzędzia będą skanować wiadomości w poszukiwaniu niebezpiecznych treści oraz je blokować i powiadamiać o tym użytkowników. Ma to dotyczyć wyłącznie plików graficznych – zdjęć i filmów. Oczywiście istnieje opcja wyświetlenia ukrytej treści, podobnie jak ma to miejsce na Facebooku. Jeśli jednak na urządzeniu jest włączona kontrola rodzicielska, rodzic dostanie informację, że jego dziecko wyświetliło taką zawartość. Sytuacja analogicznie ma się też w drugą stronę, kiedy dziecko będzie nadawcą takich wiadomości.

Do pomocy przy skanowaniu danych używana jest sztuczna inteligencja. Z czasem ma ona coraz lepiej interpretować nielegalne treści. Sama firma zarzeka się jednak, że nie będzie mieć wglądu w wiadomości użytkowników. Do tych zapewnień powinno się mieć jednak trochę dystansu. Nawet jeżeli system zaprojektowany jest wyłącznie w ten sposób by analizować pliki graficzne to i tak jest to przynajmniej częściowe naruszenie prywatności użytkowników.

Drugim filarem na którym Apple chce oprzeć swój nowy system jest próba zablokowania rozpowszechniania nielegalnych treści. W zamyśle, nowe algorytmy mają skanować dane z iCloud Photos. Jeśli wykryje zdjęcia, które uzna za naruszające prawo będzie zawiadamiać moderatorów firmy. Jeśli ci potwierdzą analizę, zablokują konto użytkownika i powiadomią odpowiednie służby.

Ochrona prywatności użytkowników

Oczywiście firma ma pełną świadomość co do kontrowersyjności swoich zamiarów. Dlatego przy każdej okazji podkreśla jak ważne jest dla nich ochrona prywatności jej klientów. Podobnie w tym przypadku, Apple wskazuje, że nie będzie skanować zdjęć bezpośrednio. System ma działać w ten sposób, że będzie porównywać hash zdjęcia, z bazą hash’y zapewnioną przez organizację NCMEC (National Center for Missing and Exploited Children). Oznacza to tyle, że w tym wypadku firma rzeczywiście może nie mieć realnego wglądu w nasze zdjęcia. Hash to jedynie ciąg znaków będący wynikiem szyfrowania pliku. Taki zabieg jest nieodwracalny i nie istnieje możliwość ponownej zmiany hasha w plik.

Ostatnim co ma wnieść planowany update jest usprawnienie wyszukiwarki oraz Siri o bezpośrednie raportowanie nielegalnych zdarzeń.

Podsumowanie

Plany wprowadzenia nowej polityki przez firmę Apple pokrywają się z zamiarami Unii Europejskiej chcącej prawnie usankcjonować podobne działania. Można odnieść jednak wrażenie, że inicjatywa, mimo szczytnych celów zbyt daleko ingeruje w prywatność użytkowników. Istnieje również wiele obaw związanych z nadużywaniem tych narzędzi przez państwa do inwigilacji swoich obywateli lub wykorzystania zostawionej „furtki” przez osoby postronne. Grupa naukowców i ekspertów od cyberbezpieczeństwa przygotowała na ten temat raport, którego celem jest analiza możliwych zagrożeń związanych z takimi praktykami. Próby naruszenia prywatności użytkowników zawsze elektryzuje opinię publiczną. Apple po fali krytyki już zapowiedziało, że na razie wstrzyma się z wprowadzeniem zapowiadanych zmian i da sobie czas na usprawnienie systemu. Nie ma jednak mowy o całkowitym wstrzymaniu projektu i zaprzestaniu prac. W jakiej więc formie nowe narzędzia zagoszczą na urządzeniach użytkowników, czas pokaże.

Jeśli interesuje Cię ten temat, sprawdź inne artykuły:

logo IT-Leaders

IT-Leaders.pl to pierwsza w Polsce platforma łącząca Specjalistów IT bezpośrednio z pracodawcami. Anonimowy, techniczny profil i konkretnie określone oczekiwania finansowe to tylko niektóre z cech wyróżniających platformę. Zarejestruj się i zobacz jak Cię widzi pracodawca.