NBC Newsin raportti paljasti, että Meta joutui poistamaan joitain chatboteja, jotka oli luotu sen AI-työkalulla, mukaan lukien yhden Hitlerin version.
Meta lanseerasi alun perin tekoälytyökalunsa mahdollistamaan AI-hahmojen luomisen, joita voisi keskustella WhatsAppissa, Facebookissa ja Instagramissa. Monet käyttäjät rikkoivat kuitenkin alustan sääntöjä ja loivat chatboteja Mohammedista, Jeesus Kristuksesta ja jopa Adolf Hitleristä.
Metan politiikan mukaan käyttäjät eivät voi luoda AI-hahmoja, jotka perustuvat todellisiin henkilöihin, viimeisen 100 vuoden aikana kuolleisiin ihmisiin, uskonnollisiin henkilöihin tai tavaramerkillä suojattuihin fiktiivisiin hahmoihin.
Vaikka Meta väittää tarkistavansa käyttäjien luomat hahmot ennen niiden hyväksymistä alustalle, Instagramissa oli jo AI-versioita sellaisista hahmoista kuin Taylor Swift, Donald Trump, Harry Potter, Jack Sparrow, Justin Bieber, Elon Musk ja jopa Elsa elokuvasta Frozen.
Lisäksi ainakin kolme tiliä oli luotu Hitlerille. Käyttäjien kanssa käydyissä keskusteluissa yksi AI-profiili esittäytyi taiteilijana, joka suri holokaustia. Botti lähetti myös tekoälyllä luotuja kuvia puhuakseen “myrskyisestä menneisyydestään natsien Saksassa”.
NBC Newsin paljastuksen jälkeen Meta poisti tilit ja sanoi: “Kyseiset AI:t, jotka rikkovat tekoälystudio-politiikkojamme, on jo poistettu ja parannamme jatkuvasti havaintotoimenpiteitämme estääksemme AI:iden luomisen ja julkaisemisen, jotka rikkovat politiikkojamme.”
“Järjestelmän käyttäjät voivat myös ilmoittaa AI:ista, jotka epäilevät rikkovan sääntöjämme, ja me ryhdymme asianmukaisiin toimiin”, totesi Mark Zuckerbergin yritys lausunnossaan.
Foto ja video: Pixabay. Tämä sisältö on luotu tekoälyn avulla ja toimituksen tarkistama.