Ekspertka NASK: funkcja generowania 10-sekundowych wideo w Groku może zwiększyć ilość „śmieci AI”
Nowa funkcja chatbota Grok, należącego do xAI, pozwala generować 10-sekundowe wideo m.in. na podstawie zdjęć przesłanych przez użytkowników. Ekspertka z NASK, Alicja Martinek, powiedziała PAP, że narzędzie może sprzyjać powstawaniu „śmieci AI”.
„Wideo Grok trwa teraz 10 sekund, a dźwięk został znacznie ulepszony” – poinformowano w środę na platformie X Elon Musk, właściciel firmy xAI. Wcześniej funkcja ta pozwalała na tworzenie filmów o długości pięciu sekund. Grok może animować zdjęcia przesłane przez użytkowników lub generować wideo od podstaw, zgodnie z otrzymanymi instrukcjami.
W ustawieniach dostępna jest także opcja „spicy”, do której użytkownicy uzyskują dostęp po podaniu daty urodzenia. Opcja ta wzbudziła kontrowersje w grudniu, gdy użytkownicy zaczęli prosić Groka o „ubieranie” osób widocznych na zdjęciach w stroje kąpielowe. Część takich materiałów przedstawiała dzieci. Osoby uwiecznione na zdjęciach nie wyrażały na to zgody, a często nawet nie były świadome, że ich wizerunki zostały w ten sposób zmodyfikowane.
14 stycznia platforma X wydała oświadczenie informujące o zablokowaniu opcji generowania obrazów prawdziwych osób w wyzywających ubraniach.
– Jestem przekonana, że mimo tego, że kontrowersyjne funkcje generowania obrazów zostały zablokowane, to użytkownicy prędzej czy później znajdą sposób, żeby generować szkodliwe materiały – powiedziała PAP ekspertka NASK Alicja Martinek. Jak dodała, ma jednak nadzieję, że te luki zostaną szybko załatane, aby uniemożliwiać nadużycia.
Skalę problemu ujawnił styczniowy raport brytyjskiej organizacji Center for Countering Digital Hate (CCDH – Centrum Zwalczania Nienawiści Cyfrowej). Według raportu w ciągu zaledwie 11 dni chatbot wygenerował szacunkowo 3 mln obrazów o charakterze seksualnym, z czego aż 23 tysiące przedstawiało dzieci.
Ekspertka z NASK zwróciła uwagę, że zgodnie z regulaminem Groka udostępnianie chatbotowi swoich zdjęć w celu stworzenia wideo powinno być bezpieczne. Zarekomendowała jednak wyłączenie w ustawieniach konta opcji pozwalającej na wykorzystywanie przesłanych danych do treningu AI. – Warto odznaczyć te opcje w Groku, jak i na innych platformach, ponieważ uniemożliwia to gromadzenie naszych danych w zbiorach treningowych modeli AI – podkreśliła.
Martinek zauważyła również, że darmowa funkcja generowania wideo może sprzyjać powstawaniu tzw. „śmieci AI”, czyli treści niskiej jakości generowanych przez sztuczną inteligencję w celu zwiększenia liczby wyświetleń.
Innymi narzędziami generującymi wideo za pomocą AI są m.in. zaawansowany model „Google Veo” oraz „Sora” opracowany przez OpenAI. Badanie opublikowane w grudniu ubiegłego roku przez brytyjski dziennik „Guardian” wykazało, że ponad 20 proc. filmów wyświetlanych nowym użytkownikom YouTube’a to tzw. śmieci AI.
Martinek podkreśliła, że zjawisko to wpisuje się w teorię „martwego internetu”, zgodnie z którą zdecydowana większość materiałów w sieci będzie tworzona przez boty i sztuczną inteligencję, a nie przez ludzi.
Grok to model sztucznej inteligencji stworzony przez należącą do Elona Muska firmę xAI. Po licznych kontrowersjach związanych z generowaniem przez Groka rozebranych zdjęć kobiet i dzieci Komisja Europejska poinformowała o wszczęciu w tej sprawie nowego formalnego postępowania przeciwko platformie X. Jak poinformowano w poniedziałek, KE zarzuciła serwisowi X, że ten nie oszacował zagrożeń, jakie Grok mógł stwarzać dla użytkowników platformy, ani nie zrobił nic, żeby ograniczyć te ryzyka, naruszając tym samym unijne przepisy o usługach cyfrowych (DSA).
Postępowanie wobec X zostanie przeprowadzone w trybie priorytetowym, chociaż – jak zastrzega KE – samo wszczęcie postępowania nie przesądza o jego wyniku. Komisja zapowiedziała, że będzie nadal gromadzić dowody, na przykład wysyłając X dodatkowe wnioski o udzielenie informacji, przeprowadzając rozmowy lub kontrole, i może nałożyć środki tymczasowe w przypadku braku znaczących zmian w usłudze X.
Narzędzie wywołało skandal również w lipcu ubiegłego roku, kiedy zaczęło generować obraźliwe i dezinformacyjne posty na platformie X. Wpisy pojawiały się w odpowiedzi na pytania użytkowników i dotyczyły m.in. premiera Donalda Tuska czy Jana Pawła II. (PAP)
wm/ bst/ mhr/ grg/
