BlackBox a GDPR

Blockchain jest systemem, który do swojego działania nie potrzebuje zbyt dużej ilości informacji na temat użytkowników, co z jednej strony jest dobre, z innej ma swoje ogromne minusy. Dużo większym wyzwaniem jest BlackBox, dotyczący Machine Learning i AI (sztucznej inteligencji). Aby to wyjaśnić, należy cofnąć się do genezy powstania RODO[1], kiedy w obliczu gwałtownego rozwoju Internetu, technologii doszło do sytuacji, w której ogromna ilość danych na temat użytkowników krążyła w różnych systemach i była przetwarzana w bliżej nieskoordynowanym celu. Efektem tego było niejednokrotnie profilowanie użytkownika, z czego on nie zdawał sobie sprawy. Pojawienie się RODO miało za zadanie ukrócić proceder wymiany informacji oraz daleko idącej personalizacji użytkownika bez jego świadomej zgody. Wprowadzenie rozporządzenia o ochronie danych osobowych spowodowało, że profilowanie jest możliwe wyłącznie pod jednym warunkiem: klient musi w sposób świadomy wyrazić na to zgodę, a jak wiadomo, po ujawnieniu w ostatnich latach afer z Facebookiem, Cambridge Analytics ludzie mniej ufają systemom, które przetwarzają dane. W efekcie wprowadzenia RODO mogłoby się wydawać, że cały projekt budowy sztucznej inteligencji wspierającej decyzje klientów zostanie mocno wstrzymany.

A czym tak na dobrą sprawę jest BlackBox? Dużo się o tym mówi, pisze, natomiast nikt tego w jednoznaczny sposób nie wyjaśnił. BlackBox – to system, który przetwarza dane zgromadzone za pomocą algorytmów wykazujących cechy sztucznej inteligencji. Jednak ich twórcy nie zawsze mają kontrolę nad tym, w jaki sposób te dane są obrabiane, wykorzystywane itd. W praktyce wprowadzenie RODO spowodowało, że twórcy systemów zaliczanych do tzw. grup BlackBox, czyli AI oraz Machine Learning, musieli podejść do tematu na nowo[2]. Nie wystarczyło tylko przeprojektowanie systemu, trzeba było zbudować go na nowo, jeśli miał spełniać wymagania narzucone przez rozporządzenie. Trzeba podkreślić, że system wykorzystujący profilowanie musi spełnić trzy główne kryteria:

  • poinformować i wytłumaczyć cel przetwarzania danych,
  • pomóc w podjęciu w pełni świadomej decyzji o sposobie przetwarzania danych,
  • wytłumaczyć, w jaki sposób można wypisać się z procesu przetwarzania danych, których efektem jest profilowanie[3].

Jak już wcześniej wspomniano, twórcy tych systemów nie zawsze dokładnie wiedzą, jak działają sieci neuronowe w konkretnym systemie, co przekłada się na to, że ciężko im sprostać wymaganiom RODO. W wielu krajach na całym świecie pojawiają się sygnały, że należy ograniczyć stosowanie algorytmów typu BlackBox, ponieważ nie dają klarownej informacji o sposobie ich działania. W praktyce nie może być mowy o odpowiedzialności za decyzje podejmowane z ich wykorzystaniem, które mają wpływ na ludzi. Stąd coraz więcej rządów zastanawia się nad wprowadzeniem regulacji analogicznych do przepisów stosowanych w przypadku badań i eksperymentów naukowych, genetycznych, klonowania czy produkcji broni.

Jest w pełni zrozumiałe, że boimy się tego, czego nie rozumiemy, a jak pokazuje doświadczenie i kon...

Dalsza część jest dostępna dla użytkowników z wykupionym planem