Internet w ogniu, gdy użytkownik 4Chan używa symulatora głosu AI, aby głęboko sfałszować głos Emmy Watson, zmuszając ją do przeczytania autobiografii Hitlera
Byli pracownicy Google i Palantir wspólnie uruchomili startup Elevenlabs, którego celem było tworzenie wysokiej jakości głębokich podróbek audio celebrytów za pomocą narzędzia do klonowania głosu AI. Ale ich uruchomienie wersji beta wkrótce przyniosło odwrotny skutek, ponieważ wielu nadużywało głosów celebrytów, w tym Emmy Watson, za pomocą narzędzia do klonowania głosu AI.
Wielu fanów zostało rozwścieczonych nieetycznym i niemoralnym użyciem narzędzia AI po tym, jak niektóre trolle nadużywają głosów swoich ulubionych celebrytów, aby przekazywać oburzające komentarze. Ale startup zapewnił wszystkich, że zamierzają zmienić jego model, aby uniknąć dalszych problemów.
Fani są wściekli po tym, jak użytkownik 4Chan nadużywa głosu Emmy Watson za pomocą narzędzia AI
Wprowadzenie narzędzia do klonowania głosu AI firmy Elevenlabs podpaliło internet po tym, jak liczne trolle wykorzystują to bezpłatne narzędzie. Chociaż wiele osób korzystało z tego oprogramowania do generowania wartościowych treści, część internetu nadużywała tego narzędzia, zmuszając celebrytów do rzucania rasistowskich obelg i oburzających komentarzy, a niewłaściwe wykorzystywanie Emmy Watson głos był ostatnią kroplą.
Ostatnio. Płyta główna zgłosiła skrajne nadużycia oprogramowania AI w celu stworzenia ofensywnego głębokiego fałszywego dźwięku. Ale kroplą, która złamała grzbiet wielbłąda, był użytkownik 4Chan, który wygenerował klip Harry'ego Pottera czytająca gwiazda Emma Watson moja walka , autobiografia nazistowskiego dyktatora Adolfa Hitlera.
Fanów rozwścieczyło to nieetyczne użycie oprogramowania dotyczące Emmy Watson i innych znanych osobistości, w tym Joe Rogana, Robina Williamsa itp. Firma Elevenlabs, która udostępniła tę technologię opinii publicznej, zajęła się tym narastającym problemem i zobowiązała się do walki z nadużywanie ich narzędzia do klonowania głosu.
Przeczytaj także: Reżyser „Więźnia Azkabanu” poprosił trio Harry'ego Pottera o napisanie eseju o ich charakterze – Emma Watson napisała 16 stron, Daniel Radcliffe miał 1-stronicowe podsumowanie, Rupert Grint nie napisał ani jednego
Elevenlabs obiecuje unikać dalszych nadużyć narzędzia AI
Startup był przytłoczony pozytywną reakcją na ich na początku, ponieważ wielu używało narzędzia do klonowania głosu AI do zdrowego tworzenia. Jednak firma wkrótce napotkała problem po tym, jak trolle zaczęły wykorzystywać oprogramowanie do niecnych celów. Firma Elevenlabs zapewniła internet, że dokładnie analizuje sprawę i szuka możliwych rozwiązań.
Chociaż twórcy Elevenlabs przyznali, że mogą prześledzić użytkowników, którzy nadużywają mocy narzędzia AI, szukają dodatkowych środków bezpieczeństwa, aby uniknąć tego problemu. Twórcy podzielili się różnymi pomysłami na rozwiązanie sprawy, w tym wprowadzenie ręcznej weryfikacji przy każdym klonowaniu oraz pełnej weryfikacji tożsamości użytkownika poprzez płatność lub inną metodą.
Chociaż testy beta Startupu miały mieszany początek, wielu fanów było wściekłych za nieetyczne wykorzystanie głosów celebrytów za pośrednictwem narzędzia AI, zwłaszcza Emmy Watson. Ale ludzie docenili również startup za to, że nie zbył sytuacji i nie podjął aktywnych działań w celu radzenia sobie z tymi internetowymi trollami.
Źródło: Wice
