Internet umożliwia gromadzenie ogromnej liczby danych, co doprowadziło do powstania nowych obszarów naukowych dotyczących big data. Czy dzięki algorytmowi już niebawem będzie możliwe zatrzymanie domniemanego przestępcy? O tym z dr Martyną Kusak z Wydziału Prawa i Administracji UAM rozmawia Jagoda Haloszka.
W jakim stopniu decyzje organów ściągania mogą być wspierane przez algorytmy lub sztuczną inteligencję?
Możliwości jest bardzo dużo, począwszy od takich narzędzi, które pozwalają na przewidywanie przestępstw po programy wspierające podejmowanie różnych decyzji, np. czy wszcząć postępowanie lub zastosować areszt wobec danej osoby, a kończąc na analizie danych czy zachowań. Są to wciąż narzędzia wspierające, a nie zastępujące decyzje ludzkie, choć praktyka pokazuje, że coraz mocniej się na nich polega. W moim grancie pracować będziemy nad standardami, jakie spełniać powinno korzystanie z takich programów w taki sposób, aby maksymalizować efektywność ścigania przestępstw i minimalizować związane z tym ryzyka i problemy prawne. A tych jest bardzo dużo. Przykładem jest projekt holenderski, gdzie policja i naukowcy uniwersyteccy pracowali nad sztuczną inteligencją pomagającą ścigać przestępstwa wykorzystywania seksualnego dzieci w Internecie. Powstał wtedy bot internetowy o nazwie Sweetie, imitujący dziecko. Bot okazał się bardzo skuteczny. Mógł prowadzić jednocześnie wiele interakcji na czatach i utrwalać potencjalne dowody w sprawie. Projekt ten pokazał jednak również, jak wiele kłopotów prawnych pojawia się przy wykorzystaniu takiego narzędzia. Powstało m.in. pytanie, czy w tym przypadku w ogóle popełniono przestępstwo, ofiarą był bowiem bot, a nie człowiek. Nie było również jasne, jak traktować zgromadzone informacje, Sweetie nie była przecież organem procesowym tylko systemem komputerowym.
Aktualnie w tej dziedzinie jest więc wciąż o wiele więcej pytań niż odpowiedzi. Moja praca, na którą otrzymałam grant, jest reakcją na część z nich, a celem jest wypracowanie standardów korzystania z big data, algorytmów i sztucznej inteligencji w ściganiu przestępstw w UE. W siedmioosobowym zespole, w tym z ekspertami z zakresu IT, kryminologii i etyki, będziemy badać m.in. jak od strony prawnej zagwarantować bezstronność i jakość takich narzędzi i ich zgodność z prawem do prywatności; jak dalece polegać na decyzjach sztucznej inteligencji; czy powinna istnieć granica autonomii działania takich systemów; jakie są sposoby zminimalizowania ryzyka dyskryminacji przez algorytmy. W Polsce są to pionierskie badania.Liczę że wyniki będą również istotne dla UE zwłaszcza, że coraz śmielej wspomina się o konieczności unijnej reakcji prawnej na takie narzędzia. Na razie brakuje jednak badań potwierdzających kierunek takich regulacji, jest to bardzo młoda dziedzina.
Cały wywiad dostępny na Uniwersyteckie.pl
fot. Adrian Wykrota