AI generuje wulgarną muzykę, algorytmy podsuwają ją dzieciom
Na platformach streamingowych coraz częściej pojawiają się utwory tworzone przez AI – w tym treści wulgarne lub seksualizujące. Algorytmy rekomendacji mogą podsuwać je dzieciom bez żadnego ostrzeżenia, nawet gdy punktem wyjścia jest typowo dziecięca piosenka.
W zestawieniu Viral 50 Polska na Spotify regularnie pojawiają się utwory generowane przez sztuczną inteligencję. Część z nich zawiera wulgarne treści, odniesienia do używek lub materiał o charakterze seksualizującym. Problem w tym, że nie zawsze są oznaczone jako nieodpowiednie dla młodszych odbiorców – i mogą trafić do dzieci za pośrednictwem algorytmu rekomendacji, nie jako świadomy wybór rodzica czy dziecka.
Eksperci z zespołu Dyżurnet.pl działającego w NASK zwracają uwagę na specyficzny mechanizm zagrożenia. Algorytm generuje playlisty automatycznie – tak zwane „radio utworu" – na podstawie słuchanej właśnie muzyki. Jak wyjaśnia Maciej Kępka z Dyżurnet.pl, szkodliwy utwór może się pojawić nawet wtedy, gdy punktem wyjścia jest piosenka typowo dziecięca. „Utwory te czasem stylizowane są na takie, które potencjalnie mogłyby być odpowiednie dla dzieci i przez to mogą trafiać na playlisty dla najmłodszych" – mówi ekspert.
Spotify to nie jedyny problem. Podobne zjawisko dotyczy YouTube'a i TikToka, gdzie treści generowane przez AI potrafią się błyskawicznie namnażać. Na bazie popularnego nagrania powstają kolejne shortsy i tiktoki – i tak szkodliwa treść dociera do kolejnych odbiorców. Dyżurnet.pl odnotował m.in. przypadek albumu „świątecznego", w którym do melodii znanych kolęd podłożono teksty dotyczące świadczenia usług seksualnych.
Warto zaznaczyć, że AI nie jest tu źródłem problemu – jest tylko nowym narzędziem. Piosenki z treściami dotyczącymi narkotyków, przemocy czy seksu istniały w internecie długo przed erą generatywnych modeli. AI sprawia jednak, że ich produkcja jest szybsza, tańsza i łatwiejsza do skalowania.
Dyżurnet.pl radzi rodzicom, by nie korzystali ze wspólnego konta ze swoim dzieckiem i unikali automatycznych playlist – lepiej korzystać z zamkniętych, samodzielnie stworzonych list odtwarzania. Przed puszczeniem czegokolwiek dziecku warto sprawdzić utwór samemu. Niepokojące treści można zgłaszać przez dyżurnet.pl lub bezpośrednio do moderacji danej platformy.
