xAI de Elon Musk ha limitado las capacidades de creación de imágenes de su chatbot de inteligencia artificial Grok solo a suscriptores pagos, luego de la condena generalizada de su uso para crear imágenes sexualizadas y no consensuadas de mujeres y niños reales.
“La creación y edición de imágenes actualmente solo está disponible para suscriptores pagos”, anunció Grok a través de X el viernes. La restricción significa que la gran mayoría de usuarios ya no podrán acceder a esta función. Los suscriptores verificados y de pago con información de tarjeta de crédito registrada aún pueden hacer esto, pero en teoría podrían identificarse más fácilmente si la función se usa incorrectamente.
Pero los expertos, reguladores y víctimas dicen que las nuevas restricciones no son una solución al problema generalizado.
“El argumento de que proporcionar datos de usuario y métodos de pago ayudará a identificar a los delincuentes tampoco es convincente, dado lo fácil que es proporcionar información falsa y utilizar métodos de pago temporales”, dijo a Fortune Henry Eider, un experto británico en deepfakes. “La lógica aquí también es reactiva: debería ayudar a identificar a los infractores una vez que se ha creado el contenido, pero no representa ninguna alineación ni restricciones significativas en el modelo en sí”.
El gobierno del Reino Unido calificó la medida de “insultante” para las víctimas, informó la BBC. Un portavoz del primer ministro del Reino Unido dijo a los periodistas el viernes que el cambio “simplemente convierte la característica de inteligencia artificial que permite la creación de imágenes ilícitas en un servicio premium”.
“Es hora de que X aborde esta cuestión; si otra empresa de medios colocara vallas publicitarias en el centro de las ciudades que contengan imágenes ilegales, inmediatamente tomaría medidas para eliminarlas o enfrentaría una reacción pública”, dijeron.
Un portavoz de X dijo que estaban “investigando” las nuevas restricciones. xAI respondió con un mensaje automático: “Legacy Media Lies”.
Durante la semana pasada, mujeres reales han sido objeto de ataques generalizados, y los usuarios manipularon fotografías para quitarles la ropa, colocar a los sujetos en bikini o colocarlas en escenas sexualmente explícitas sin su consentimiento. Algunas víctimas informaron que se sintieron violadas y perturbadas por la tendencia, y muchas dijeron que sus mensajes X no recibieron respuesta y que las imágenes permanecieron en la plataforma.
Los investigadores dijeron que la escala a la que Grok creó y compartió imágenes no tenía precedentes porque, a diferencia de otros robots de IA, Grok esencialmente tiene un sistema de distribución integrado en la plataforma X.
Ashley St. Clair, comentarista conservadora y madre de uno de los hijos de Musk, estuvo entre los afectados por las imágenes. St. Clair le dijo a Fortune que los usuarios estaban convirtiendo imágenes de su perfil X en fotos explícitas de ella generadas por IA, incluidas algunas que, según ella, la mostraban como menor de edad. Después de hablar en contra de las imágenes y expresar su preocupación por los deepfakes dirigidos a menores, St. Clair también alegó que X canceló su condición de suscriptor pago verificado sin notificarle ni reembolsarle $8 por mes.
“Restringir el acceso a los usuarios pagos sólo muestra que van a redoblar sus esfuerzos, imponiendo una carga innecesaria a las víctimas para que denuncien a las autoridades y a las autoridades para que utilicen sus recursos para localizar a estas personas”, dijo Ashley St. Clair sobre las recientes restricciones. “También es una extorsión de dinero”.
St. Clair le dijo a Fortune que muchas de las cuentas dirigidas a ella ya eran usuarios verificados: “Es completamente ineficaz”, dijo. “Simplemente está pendiente de más investigaciones policiales sobre la creación de imágenes de Grock”.
Presión reguladora
La decisión de limitar las capacidades de Grok se produce en medio de una creciente presión por parte de los reguladores de todo el mundo. El primer ministro británico, Keir Starmer, dijo que estaba dispuesto a prohibir la plataforma por completo y calificó su contenido de “vergonzoso” y “repugnante”. Los reguladores de India, Malasia y Francia también han iniciado investigaciones o auditorías.
La Comisión Europea ordenó el jueves a X preservar todos los documentos y datos internos relacionados con Grok, intensificando una investigación sobre las prácticas de moderación de contenido de la plataforma después de que calificara la distribución de deepfakes no consensuados y sexualmente explícitos como “ilegal”, “horrible” y “repugnante”.
Los expertos dicen que las nuevas restricciones pueden no abordar las preocupaciones de los reguladores: “Este enfoque es un instrumento contundente que no llega a la raíz del problema de coherencia de Grok y probablemente no ayudará a resolverlo con los reguladores”, dijo Ajder. “Limitar la funcionalidad a los usuarios de pago no detendrá la creación de este contenido; una suscripción mensual no es una solución sostenible”.
En Estados Unidos, es probable que la situación también ponga a prueba leyes existentes como la Sección 230 de la Ley de Decencia en las Comunicaciones, que protege a los proveedores en línea de la responsabilidad por el contenido generado por los usuarios. Los senadores estadounidenses Ron Wyden, Edward J. Markey y Ben Ray Luján emitieron un comunicado pidiendo a Apple y Google que “eliminen inmediatamente Apps X y Grok de sus tiendas de aplicaciones” tras el presunto uso de Grok para crear “imágenes sexualizadas y no consensuadas de mujeres y niños a gran escala”. Los legisladores calificaron las imágenes de “inquietantes y probablemente ilegales” y dijeron que las aplicaciones deberían permanecer inaccesibles hasta que Musk resuelva el problema.
El Consejo de Relaciones Islámicas-Estadounidenses (CAIR) también pidió que se prohibiera a Grok crear “imágenes sexualmente explícitas de niños y mujeres, incluidas mujeres musulmanas prominentes”.
Riana Pfefferkorn, del Instituto de Inteligencia Artificial Centrada en el Humano de Stanford, dijo anteriormente a Fortune que la responsabilidad de las imágenes generadas por IA no está clara. “Tenemos una situación en la que, por primera vez, la propia plataforma está generando pornografía no consentida tanto de adultos como de menores a gran escala”, dijo. “Desde una perspectiva de responsabilidad, así como desde una perspectiva de relaciones públicas, las leyes CSAM plantean el mayor riesgo potencial de responsabilidad aquí”.
Musk afirmó anteriormente que “cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si hubiera subido contenido ilegal”. Sin embargo, aún no está claro cómo se responsabilizarán las cuentas.
