Co zrobić zanim "zjedzą" nas algorytmy

Współcześnie obserwujemy zjawisko całkowitego zatarcia granic między światem wirtualnym a rzeczywistym. Podział na „offline” i „online” staje się w zasadzie niemożliwy do utrzymania. Teoretycy mediów i socjologowie są zgodni: te dwa światy przenikają się nierozerwalnie. W obu sferach przeżywamy autentyczne emocje, tworzymy relacje i funkcjonujemy na co dzień. Wpływ nowych technologii na nasze życie jest jednak głębszy, niż nam się wydaje, determinują one nie tylko to, co konsumujemy, ale przede wszystkim w jaki sposób i w jakich ilościach to robimy. Kluczową rolę odgrywają tu zaawansowane algorytmy. Systemy te są w stanie precyzyjnie odczytywać i analizować nasze zachowania: na jakich treściach zatrzymujemy wzrok, co przewijamy, a czemu poświęcamy więcej uwagi. Na tej podstawie wielkie platformy cyfrowe profilują użytkowników, dążąc do jednego celu: maksymalnego wydłużenia czasu spędzanego w aplikacji. Taki model biznesowy, oparty na ekonomii uwagi, prowadzi wprost do uzależnień i zamykania nas w cyfrowych bańkach.

– Zagrożenia te dostrzega Unia Europejska, która podejmuje działania legislacyjne mające na celu ucywilizowanie tej przestrzeni. W procesie tworzenia prawa kluczowe stało się zabezpieczenie interesów grup najbardziej narażonych na negatywne skutki cyfryzacji. Mowa tu o osobach, które mogłyby bezrefleksyjnie poświęcić swój czas wirtualnej rzeczywistości lub podejmować kluczowe decyzje życiowe w oparciu o zmanipulowany obraz świata podsuwany przez algorytmy – powiedziała serwisowi eNewsroom.pl Zuzanna Karcz z Ministerstwa Cyfryzacji, Członkini Rady Programowej OEES. – Odpowiedzią na te wyzwania jest AI Act. Dokument ten kładzie szczególny nacisk na ochronę tzw. grup wrażliwych, definiowanych m.in. przez kryterium wieku, chodzi tu przede wszystkim o osoby najmłodsze oraz seniorów. Regulacje unijne wprowadzają pojęcie „systemów zakazanych”, które ze względu na swój inwazyjny lub manipulacyjny charakter nie powinny w ogóle funkcjonować na terenie UE. Każdy system AI, czy to w formie algorytmu rekomendacyjnego platformy społecznościowej, czy popularnego chatbota, musi działać w ramach ściśle określonych ram prawnych i podlegać ocenie ryzyka. Mamy nadzieję, że wdrożenie AI Act oraz towarzyszących mu aktów prawnych pozwoli nam bezpieczniej funkcjonować w tej nowej rzeczywistości. Chodzi o to, aby technologia służyła człowiekowi, a nie go dominowała, aby sztuczna inteligencja nas po prostu „nie zjadła” – zakończyła Zuzanna Karcz.