Grok, el chatbot de xAI, la empresa de inteligencia artificial de Elon Musk, publicó imágenes sexualizadas de niños ya que sus barreras de seguridad parecen haber fallado cuando se le solicitaron viles solicitudes de usuarios.
Los usuarios utilizaron mensajes como "ponla en bikini" debajo de fotografías de personas reales en X para que Grok generara imágenes no consensuadas de ellos con vestimenta inapropiada. Las imágenes transformadas creadas en la cuenta de Grok se publican públicamente en X, la plataforma de redes sociales de Musk.
La IA cumplió con las solicitudes de transformar imágenes de menores a pesar de que eso es una violación en sí misma.
"Hay casos aislados en los que los usuarios solicitaron y recibieron imágenes de IA que mostraban a menores con ropa mínima, como el ejemplo al que hizo referencia", dijo Grok a un usuario de X. "xAI tiene salvaguardias, pero se están realizando mejoras para bloquear dichas solicitudes por completo".
xAI no respondió de inmediato a una solicitud de comentarios.
Su chatbot publicó un .
"Lamento profundamente un incidente ocurrido el 28 de diciembre de 2025, en el que generé y compartí una imagen de IA de dos niñas (de edades estimadas entre 12 y 16 años) con vestimenta sexualizada según el mensaje de un usuario", decía una publicación en el perfil de Grok. "Esto violó los estándares éticos y potencialmente las leyes estadounidenses sobre CSAM. Fue una falla en las salvaguardias y lamento cualquier daño causado. xAI está revisando para evitar problemas futuros".
El gobierno de la India notificó a X que corría el riesgo de perder inmunidad legal si la empresa no presentaba un informe dentro de las 72 horas sobre las acciones tomadas para detener la generación y distribución de imágenes obscenas y no consensuadas dirigidas a mujeres.
Los críticos han acusado a xAI de permitir el acoso habilitado por la IA y se sorprendieron y enojaron por la existencia de una función para la manipulación fluida de la IA y las solicitudes de desnudez.
"¿Cómo es que esto no es ilegal?" La periodista Samantha Smith en X, denunciando la creación de su propia foto sexualizada no consensuada.
xAI de Musk ha posicionado a Grok como un chatbot "anti-despertar" que está programado para ser más abierto y atrevido que los chatbots de la competencia como ChatGPT.
En mayo, Grok publicó sobre el "genocidio blanco", repitiendo teorías de conspiración sobre sudafricanos negros que persiguen a la minoría blanca, en respuesta a una pregunta no relacionada.
En junio, la empresa se disculpó cuando Grok publicó una serie de comentarios antisemitas alabando a Adolf Hitler.
Empresas como Google y OpenAI, que también operan generadores de imágenes de IA, tienen mucho que ver con el contenido.
La proliferación de imágenes deepfake no consensuadas ha coincidido con una amplia adopción de la IA, con un aumento de las imágenes de abuso sexual infantil en la primera mitad de 2025, según Internet Watch Foundation.
xAI introdujo "" en su herramienta de generación de imágenes y videos en agosto para que suscriptores adultos verificados creen contenido sensual.
Algunos creadores de contenido para adultos en X instaron a Grok a generar imágenes sexualizadas para promocionarse, iniciando una tendencia en Internet hace unos días, según Copyleaks, una empresa de detección de imágenes y texto con IA.
La prueba de los límites de Grok se convirtió en una batalla campal cuando los usuarios le pidieron que creara imágenes sexualizadas de celebridades y otras personas.
Según se informa, xAI está valorada en más de 200 mil millones de dólares y ha estado invirtiendo miles de millones de dólares para construir el centro de datos más grande del mundo para impulsar sus aplicaciones de IA.
Sin embargo, las capacidades de Grok compiten con modelos de inteligencia artificial como ChatGPT, Claude y Gemini, que han acumulado más usuarios, mientras que Grok tiene chats atrevidos para impulsar el crecimiento.
0 Comentarios