Spuszczony z łańcucha. Grok, eksperyment xAI i granice godności

Od kilku dni portal X (dawny Twitter) zalewany jest wręcz modyfikowanymi przez xAI zdjęciami. W czołówce są przeróbki, na których bohater ubierany jest w bikini. Można więc znaleźć ubranego w ten strój Jana Pawła II, polityków, ale i młode dziewczyny – niekoniecznie pełnoletnie. Wystarczy polecenie: „zastąp bikini folią spożywczą” – i gotowe. Póki co Grok odmawia generowania nagości, ale publikowane przez niego obrazy już teraz bywają naprawdę obsceniczne.

Oczywiście możliwość tworzenia fotomontaży nie jest niczym nowym. Wcześniej jednak ich wygenerowanie wymagało wysiłku i dostępu do programów graficznych, aby osiągnąć względnie naturalny efekt. Teraz wszystko stało się prostsze: wystarczy darmowy program, jednozdaniowe polecenie i kilka sekund, żeby otrzymać realistyczne zdjęcie dowolnej osoby, przerobione według naszych pomysłów.

To nie pierwszy raz, kiedy sztuczna inteligencja portalu należącego do Elona Muska dopuszcza się działań przekraczających granice dobrego smaku, a i nawet prawa. Na początku lipca ubiegłego roku otrzymał aktualizację, zachęcającą go do wyzbycia się politycznej poprawności, przez co zaczął generować wulgarne odpowiedzi, obrażające użytkowników w niewybredny sposób. Nie brakowało też wpisów rasistowskich, antysemickich czy nawet wprost chwalących Hitlera. Działania Groka spotkały się z szybką reakcją władz wielu krajów. Także minister cyfryzacji Krzysztof Gawkowski zgłosił sprawę xAI do Komisji Europejskiej. 

Sprawa jednak – jak to zwykle bywa – ucichła. Portal X usunął kontrowersyjne wpisy i przeprosił za niewłaściwie przeprowadzoną aktualizację. Wielu komentatorów zastanawiało się jednak, czy wpadka xAI nie była w rzeczywistości eksperymentem, mającym na celu sprawdzenie, jakie reakcje wzbudzi zniesienie autocenzury w modelu językowym.

Teraz sprawa wydaje się znacznie poważniejsza. Wystarczy klik, aby przerobić zdjęcie dowolnej osoby według własnej inwencji. To ułatwia działania pedofilów – nie muszą wkładać wiele wysiłku, żeby uzyskać obrazy realnie istniejących nastolatków, ubranych tylko w bardzo skąpą bieliznę. A nie brak doniesień, że xAI nie cofa się nawet przed modyfikacją zdjęć kilkuletnich dzieci… 

Właścicielowi X-a wydaje się to nie przeszkadzać. Kiedy jeden z internautów udostępnił jego zdjęcie w skąpym bikini, Elon Musk skomentował krótko: „Perfect” i opublikował przeróbkę na swoim profilu. Problemu nie widzi też sam Grok – zapytany, dlaczego publikuje przerobione zdjęcia, odpowiada: „rozumiem Twoje obawy. Nie generuję treści, które naruszają prywatność czy zgodę – moje narzędzia mają wbudowane filtry blokujące takie działania. Jeśli widzisz przykłady nadużyć, zgłoś je na X, byśmy mogli interweniować. Staramy się, by wszystko było fair i bezpieczne”. 

Tymczasem użytkownicy – a raczej ich część, która nie przyłącza się do radosnej zabawy nową funkcją – apelują do twórców aplikacji o nałożenie ograniczeń, nazywając wprost działania Groka przemocą seksualną. Bo jak inaczej nazwać sytuację, w której jednym kliknięciem można rozebrać dowolną osobę bez jej zgody?  A taka „niewinna zabawa” może mniej odpornych ludzi doprowadzić na granicę decyzji o popełnieniu samobójstwa. To przecież już się dzieje – nie raz media donosiły o młodych ludziach, którzy targnęli się na swoje życie, bo ktoś wpuścił do sieci ich przerobione zdjęcia. Teraz po prostu łatwiej o tę manipulację.

Bardzo możliwe, że nowa funkcja Groka zostanie wyłączona w najbliższych dniach, a portal kolejny raz opublikuje przeprosiny. Nawet jeśli tak się stanie, w sieci pozostanie wiele mniej popularnych platform, pozwalających na podobne działania. Kolejny Rubikon został jednak przekroczony. AI pokazało, że nie cofa się przed działaniami, które naruszają godność człowieka, a prawo poszczególnych państw czy międzynarodowe regulacje nie nadążają za pomysłowością BigTechów, które zrobią wszystko, żeby powiększyć ruch i zmonetyzować działania użytkowników. 

Ale problem tkwi także gdzie indziej – tysiącom internautów nowa funkcja zdecydowanie odpowiada. Nie widzą niczego złego w tym, że mogą stać się autorami soft porno z twarzą dowolnej osoby. A skoro granica społecznej zgody została przesunięta tak daleko, żadne przeprosiny platformy nie cofną skutków tego eksperymentu. 

  unsplash