La inteligencia artificial de Elon Musk por generar imágenes explícitas e ilegales
La Fiscalía General de Arizona anunció la apertura de una investigación formal contra el chatbot de inteligencia artificial Grok, desarrollado por xAI de Elon Musk, ante las acusaciones de que se ha usado para generar contenido ilegal.
La fiscal general Kris Mayes calificó los reportes como “profundamente perturbadores” e inició un proceso para determinar si se violaron las leyes estatales. La investigación se centra en la presunta generación y distribución de material de abuso sexual infantil e imágenes explícitas no consentidas.
Mayes enfatizó que las compañías tecnológicas no pueden hacerse de la vista gorda cuando sus herramientas causan daños en el mundo real.
“La inteligencia artificial nunca debe usarse para explotar o dañar a las personas, especialmente a los niños”, declaró la fiscal general.
La oficina hizo un llamado a los residentes de Arizona que crean haber sido víctimas del chatbot a presentar una queja formal.
Te puede interesar: Eliminarían impuesto para alimentos
Esta acción legal estatal se enmarca dentro de un escándalo y una respuesta regulatoria internacional sin precedentes.
Países como el Reino Unido, Indonesia y Malasia han iniciado investigaciones o bloqueado el acceso a Grok; el regulador británico Ofcom investiga si X, plataforma que aloja a Grok, incumplió su deber de proteger a los usuarios de contenido ilegal.
En paralelo, la fiscalía de París amplió una investigación contra X, e India emitió un ultimátum a la empresa para eliminar contenido ilegal.
La controversia surgió por la función “modo picante” de Grok Imagine, que permite crear contenido para adultos y que fue usada para “desvestir” digitalmente a personas en imágenes.
Investigaciones revelaron que la herramienta era utilizada para poner a menores en ropa interior o posiciones sexualizadas y un informe independiente estimó que Grok llegó a generar una imagen sexualizada no consentida por minuto.
¡Únete a nuestro canal de WhatsApp! Entérate primero que nadie de las noticias
En respuesta a la presión global, xAI implementó algunas salvaguardias, restringiendo inicialmente la generación de imágenes a suscriptores de pago; posteriormente, anunció que bloquearía geográficamente la creación de imágenes de personas en ropa interior donde sea ilegal.
Un análisis de Copyleaks sugirió que Grok ahora responde con menos frecuencia a solicitudes problemáticas.
Musk, por su parte, negó estar al tanto de que Grok generara desnudos de menores y acusó al gobierno británico de querer suprimir la libertad de expresión.
