Un informe de NBC News reveló que Meta se vio obligada a eliminar algunos chatbots creados con su herramienta de IA, incluyendo uno de Hitler.
Meta lanzó originalmente su herramienta de inteligencia artificial para permitir la creación de personajes de IA que estarían disponibles para conversación en WhatsApp, Facebook e Instagram. Sin embargo, muchas personas violaron las reglas de la plataforma y crearon chatbots de Mahoma, Jesucristo e incluso de Adolf Hitler.
Resulta que, de acuerdo con las políticas de Meta, los usuarios no pueden crear personajes de IA basados en personalidades de la vida real, personas que hayan muerto en los últimos 100 años, figuras religiosas o personajes ficticios protegidos por marcas registradas.
A pesar de que Meta afirma que verifica los personajes creados por los usuarios antes de autorizarlos en la plataforma, chatbots de figuras como Taylor Swift, Donald Trump, Harry Potter, Jack Sparrow, Justin Bieber, Elon Musk e incluso Elsa de la película Frozen, ya tenían sus versiones en IA en Instagram.
Además, al menos tres cuentas fueron creadas para Hitler. En conversaciones intercambiadas con los usuarios, uno de los perfiles de IA se presentó como un artista que lamentó el Holocausto. El bot también envió imágenes generadas por IA para hablar sobre su “turbulento pasado en la Alemania nazi”.
Después de la denuncia de NBC News, Meta retiró las cuentas, y dijo: “Las IAs en cuestión que violan nuestras políticas de estudio de IA ya han sido eliminadas y estamos mejorando continuamente nuestras medidas de detección para evitar la creación y publicación de IAs que violen nuestras políticas”.
“Los usuarios también pueden denunciar IAs que sospechen puedan violar nuestras reglas y tomaremos las medidas apropiadas”, agregó la empresa de Mark Zuckerberg en el comunicado.
Foto y video: Pixabay. Este contenido fue creado con la ayuda de IA y revisado por el equipo editorial.
