Elon Musk enfrenta demandas por el chatbot Grok y contenido sexual no consentido

Varios países anunciaron que tomarán medidas para evitar que Grok, el chatbot de inteligencia artificial de la plataforma X, propiedad de Elon Musk, genere contenido sexual a partir de fotos de usuarios. Se pidió a xAI, la empresa desarrolladora de Grok, modificar el chatbot tras su uso para crear una avalancha de imágenes obscenas de mujeres y menores.

El miércoles 14 de enero, X anunció que bloqueará geográficamente la opción de crear imágenes de personas en bikini, ropa interior y atuendos similares en países donde esté prohibido, y que esta función solo estará habilitada para usuarios pagos.

La fiscalía de California inició una investigación sobre xAI por facilitar la producción masiva de montajes íntimos no consentidos (deepfakes) usados para acosar a mujeres y niñas, principalmente a través de la red social X, según el fiscal general Rob Bonta.

En Inglaterra, el primer ministro Keir Starmer valoró que X actúe para cumplir con la legislación británica y advirtió que están dispuestos a reforzar las leyes existentes si es necesario.

A horas de la investigación en California, Ashley St.Clair, ex pareja de Musk y madre de su hijo menor de dos años, demandó a xAI, X y Grok por permitir la publicación de imágenes modificadas sin su consentimiento. Según la demanda, usuarios de X usaron fotos viejas de St.Clair para que Grok las desnudara o las mostrara en bikini, incluyendo imágenes con símbolos ofensivos y textos insultantes. En respuesta, X desmonetizó su cuenta y generó más imágenes, además de contrademandar a St.Clair por presentar la demanda en Nueva York en lugar de Texas, sede de Grok.

Paralelamente, Musk y St.Clair están enfrentados en un juicio por la custodia del menor que tienen en común, en medio de controversias por las posturas de St.Clair sobre derechos de personas transgénero, que Musk critica.