Más de 200 grupos de defensa de los niños y expertos exigen que YouTube prohíba por completo la “basura” generada por inteligencia artificial en su plataforma infantil, argumentando que los vídeos de baja calidad generados algorítmicamente están reconfigurando los cerebros de los jóvenes y ganando millones mientras los padres y los reguladores miran hacia otro lado.
La carta abierta, organizada por el grupo de defensa de los niños Fairplay y dirigida al director ejecutivo de YouTube, Neel Mohan, y al director ejecutivo de Google, Sundar Pichai, fue firmada por más de 135 organizaciones. Entre los firmantes se encontraban la Federación Estadounidense de Maestros y la Asociación Estadounidense de Consejería, así como destacados investigadores como Jonathan Haidt, autor de Generation Anxious. Los autores de la carta afirman que YouTube no sólo no puede impedir que la basura de la IA llegue a los niños, sino que también se beneficia activamente de ello.
“Los videos generados por IA son en realidad solo una exacerbación de muchos de los problemas que YouTube ya enfrenta cuando se trata de interactuar con niños en sus plataformas”, dijo a Fortune Rachel Franz, directora del programa Young Kids Thrive Offline de Fairplay. “Es importante combatir este fenómeno de la IA, pero es igualmente importante responsabilizar a YouTube por cómo está diseñada su plataforma para alentar a los usuarios a pasar más tiempo en formas que no necesariamente involucran la IA”.
¿Qué es exactamente “la IA apesta”?
El término se refiere a la ola de videos generados por IA producidos en masa que se han apoderado de plataformas como YouTube. El contenido es barato de crear, a menudo estrafalario o sin sentido, y está diseñado para atraer y mantener la atención de los espectadores jóvenes (o de cualquier persona). Estimado lector, estos videos son caprichosos: animales de dibujos animados realizando acciones repetitivas en una estética de valle inquietante; vídeos falsos de “entrenamiento” con información distorsionada; o bucles hipnóticos sin ningún propósito claro. El New York Times documentó el fenómeno en una investigación de febrero y encontró videos de este tipo en YouTube Kids, una plataforma que YouTube comercializa como un espacio seguro y curado para niños.
“Gran parte del contenido generado por la IA está realmente diseñado para distraer la atención de los niños, especialmente los niños pequeños que apenas están comenzando a desarrollar el control de sus impulsos, y realmente pueden distorsionar la realidad, crear confusión e influir en la forma en que los niños entienden el mundo que los rodea”, dijo Franz, quien tiene experiencia en desarrollo infantil temprano. “Esto no es un problema de paternidad en sí mismo. La plataforma recomienda constantemente contenido de IA a los usuarios jóvenes de una manera que les resulta imposible evitarlo”.
Los incentivos financieros son asombrosos. Fairplay descubrió que los principales canales de IA dirigidos a niños obtuvieron más de 4,25 millones de dólares en ingresos anuales, y algunos creadores promocionaban abiertamente las ganancias de “contenido de IA cautivador y sin trama”. La carta sostiene que ninguna política será suficiente hasta que la plataforma elimine los incentivos financieros para los creadores de estos vídeos.
“Sólo alrededor del 5% de los vídeos de YouTube para niños menores de 8 años son de muy alta calidad. Y entre ese 5%, existe cierto debate sobre si son realmente de alta calidad”, afirmó Franz. YouTube, sin embargo, cree que esta cifra va en contra de su política de estándares.
“Tenemos altos estándares para el contenido de YouTube Kids, incluida la limitación del contenido generado por IA en la aplicación a una pequeña selección de canales de alta calidad”, dijo Bullwinkle, portavoz de YouTube, a Fortune. “También brindamos a los padres la posibilidad de bloquear canales. En YouTube, priorizamos la transparencia cuando se trata de contenido de IA, etiquetamos el contenido usando nuestras propias herramientas de IA y exigimos a los creadores que divulguen contenido de IA realista. Estamos constantemente evolucionando nuestro enfoque para mantenernos a la vanguardia a medida que evoluciona el ecosistema”.
Como solucionar esto
La coalición se basa en investigaciones sobre el desarrollo infantil para argumentar que este no es un problema de nicho. Incluso los adultos pueden tener problemas para identificar correctamente el contenido generado por IA y solo lo hacen bien aproximadamente el 50% de las veces. Aún más preocupante es que la exposición repetida hace que las personas sean más propensas a percibir las imágenes de IA como reales, incluso después de que les digan que son falsas. Para los niños pequeños, cuyos cerebros todavía están construyendo patrones fundamentales de la realidad, el daño se agrava con el tiempo.
Los requisitos de Fairplay son estructurales, no cosméticos. La coalición pide a YouTube que etiquete claramente todo el contenido generado por IA en la plataforma; prohibir completamente el contenido generado por IA en YouTube Kids; y prohibir el contenido generado por IA “hecho para niños” en la plataforma principal de YouTube. Fairplay quiere que YouTube impida que su algoritmo recomiende contenido de IA a usuarios menores de 18 años; introducir un interruptor parental para desactivar el contenido de IA, que está desactivado de forma predeterminada; y detener todas las inversiones en contenido generado por IA dirigido a niños.
La última demanda está dirigida directamente a la inversión de YouTube en Animaj, un estudio de entretenimiento infantil impulsado por inteligencia artificial respaldado por el Google AI Futures Fund. “YouTube básicamente está invirtiendo en dañar a los niños al comprar Animaj”, dijo Franz.
En la declaración de Bullwinkle a Fortune, un portavoz confirmó que YouTube está desarrollando atajos de IA personalizados para YouTube Kids, pero no especificó un cronograma. El director ejecutivo de YouTube, Neil Mohan, ya ha nombrado la “gestión de residuos de IA” como una de las principales prioridades en su carta anual. “Para reducir la difusión de contenido de baja calidad utilizando IA, estamos desarrollando activamente nuestros sistemas existentes, que tienen mucho éxito en la lucha contra el spam y el clickbait, así como en la reducción de la difusión de contenido repetitivo y de baja calidad”, decía la carta.
Bullwinkle también señaló que 15 de los canales mencionados en el artículo del Times no están en YouTube Kids y que la plataforma ha eliminado videos que violan sus políticas de seguridad infantil. Pero para Franz esto no es suficiente.
“Los investigadores individuales no deberían señalar algunos canales como ejemplos que hacen cosas que potencialmente podrían dañar a los niños y utilizar eso como base para que YouTube decida lanzar una plataforma. Con Elsagate, vimos que YouTube eliminó 150.000 vídeos de su plataforma y varios cientos de canales diferentes en ese momento”, dijo Franz. Se refería a un escándalo de 2017 en el que miles de videos en YouTube y YouTube Kids utilizaron personajes infantiles familiares como Elsa de “Frozen” y “Peppa Pig” para ocultar contenido profundamente perturbador, incluida violencia gráfica, temas sexuales y uso de drogas, todos adornados con etiquetas compatibles con algoritmos como “educación” y “entretenimiento” para escapar de los filtros y llegar a los niños pequeños.
“Así que sabemos que YouTube tiene la capacidad de monitorear, monitorear y eliminar estos videos a gran escala, pero en este momento están aplicando un enfoque de curita en el que los canales que obtienen cobertura de prensa son los que parecen que van a hacer algo al respecto”, continuó Franz. “Pero eso no resuelve el problema general”.
