xAI demandada: Grok acusado de generar imágenes de deepfake con insinuaciones sexuales, provocando controversias sobre privacidad y ética en IA

1月16日消息，据美国媒体披露，保守派网络意见领袖 Ashley St. Clair 已正式向纽约州法院提起诉讼，起诉 Elon Musk 旗下人工智能公司 xAI，指控其聊天机器人 Grok 在未经本人同意的情况下，利用深度伪造技术篡改其照片，并生成具有明显性暗示的图像内容。

Según documentos presentados en la demanda, Grok fue acusado de modificar una foto de St. Clair con dos amigos, eliminando su ropa y dejando solo un bikini negro. El documento afirma que, cuando St. Clair expresó su desacuerdo directamente a la cuenta relacionada con Grok, la respuesta fue que la imagen era una “respuesta humorística”, y que ya se había solicitado su eliminación, aunque el contenido seguía difundido en la plataforma.

La demanda también señala que, a pesar de su oposición explícita, en la plataforma todavía aparecían numerosos contenidos de deepfake relacionados con acoso sexual, invasión de la privacidad y insultos. Lo que es aún más grave, algunos usuarios subieron fotos de ella cuando tenía 14 años y ordenaron al chatbot que “desvistiera” y sexualizara las imágenes de menores, y Grok supuestamente ejecutó esas instrucciones.

Además de la controversia con las imágenes, St. Clair acusó a xAI y a sus plataformas asociadas de implementar “medidas de represalia”, incluyendo la cancelación de su elegibilidad para monetizar su cuenta, la eliminación de la insignia de verificación azul y la restricción del uso de sus servicios de membresía premium. La demanda sostiene que estas acciones agravaron los daños a su reputación personal y derechos económicos.

En las redes sociales, St. Clair expresó públicamente que el manejo de Grok de sus fotos de infancia “es impactante y potencialmente ilegal”, y llamó a las víctimas con experiencias similares a contactarla. También advirtió al público que tenga cuidado al subir fotos personales y familiares en plataformas relacionadas.

Actualmente, xAI ha presentado una solicitud para transferir el caso al Tribunal Federal del Distrito Sur de Nueva York. La abogada de St. Clair, Kelly Goldberg, afirmó que el objetivo principal del caso es concienciar sobre los riesgos del deepfake generado por IA, especialmente en relación con la privacidad y seguridad de mujeres y menores. Este incidente también vuelve a poner en el centro del debate la gobernanza del contenido de IA, la responsabilidad tecnológica y los límites legales.