Los apuros de Grok en X con la IA generativa

Grok vive algunos apuros por culpa de la IA generativa, o mejor dicho, usuarios que, aprovecharon las pocas limitaciones en cuanto a responsabilidad de la plataforma.

El problema.

Sigue la controversia con Grok (la IA de Elon Musk en X), y esto porque recientemente, a pedido de usuarios, de cuentas gratuitas y de pago, generó imágenes sexualizadas y deepfakes no consentidos de personas reales (incluyendo mujeres y niños), lo que provocó indignación mundial.

Cualquier usuario podía compartir, o subir una imagen de otra persona, y sin su autorización pedirle a Grok que le pusiera alguna prenda muy pequeña, como tangas, bikinis, o ropa transparente, en posiciones sugestivas.

El problema escaló cuando de forma deliberada lo hacían pese a la solicitud de algunas usuarias para no usar sus fotografías, y cuando algunos más comenzaron a utilizar fotos de personas menores de edad.

X ya puso restricciones, pero el tema de la ética en generación de imágenes y videos sigue muy caliente.

Reacciones.

Esto desató reacciones fuertes:

• Gobiernos y reguladores investigaron: la Unión Europea abrió una investigación formal contra X por violar el Digital Services Act (riesgos sistémicos de contenido ilegal, incluyendo posible material de abuso infantil).
• Países como Malasia, Indonesia y Filipinas bloquearon Grok.
• En Brasil, India, Francia, Reino Unido y hasta California (EE.UU.) hubo denuncias, investigaciones y presión legal.
• Organizaciones de derechos digitales y ONGs lo calificaron como «abuso sexual digital masivo» o «máquina industrial de producción de material de abuso».

La plataforma se ha visto obligada a tomar acciones, y en general Grok ya no está respondiendo a estas solicitudes de usuarios no verificados, y donde esto es ilegal.

Algunos usuarios fueron suspendidos, y en ciertos casos ya son investigados.