Grupos de defensa y expertos condenaron a YouTube por ofrecer videos de baja calidad generados por inteligencia artificial a su audiencia más vulnerable: los niños.
En una carta dirigida al director ejecutivo de YouTube, Neal Mohan, y a Sundar Pichai, director ejecutivo de Google, la empresa matriz de YouTube, el grupo de defensa de los niños Fairplay expresa una “seria preocupación” por la difusión de videos generados por inteligencia artificial tanto en YouTube como en YouTube Kids. La carta, enviada el miércoles por la mañana, fue firmada por más de 200 organizaciones y expertos individuales, como psiquiatras y educadores infantiles.
«Este ‘ pendiente de la IA «Daña el desarrollo de los niños al distorsionar su sentido de la realidad, abrumando sus procesos de aprendizaje y secuestrando su atención, extendiendo así el tiempo en línea y desplazando las actividades fuera de línea necesarias para su desarrollo saludable», dice la carta. «Estos daños son particularmente graves para los niños pequeños». La carta pide a YouTube que etiquete claramente todo el contenido generado por IA y prohíba cualquier contenido generado por IA en YouTube Kids. También proponen prohibir que se recomienden videos generados por IA a usuarios menores de 18 años e implementar una opción para que los padres desactiven el contenido generado por IA incluso si su hijo lo busca.
La carta está firmada por 135 organizaciones, incluidas la Federación Estadounidense de Maestros y la Asociación Estadounidense de Consejería, y alrededor de 100 expertos individuales como el autor de “La generación ansiosa”. Jonathan Haidt. La carta es parte de una más grande. campaña de Fairplay eso también incluye una petición.
Gran parte de este contenido generado por IA tiene un ritmo rápido con colores brillantes, música animada y títulos de clickbait que funcionan para captar la atención de los espectadores jóvenes, describe la carta. Ha habido un creciente movimiento en línea. contra el contenido generado por IAparticularmente cuando parece o se siente de baja calidad o se inclina hacia la falta de sentido de » podredumbre cerebral.”
El portavoz Boot Bullwinkle dijo en un comunicado que YouTube tiene «altos estándares para el contenido de YouTube Kids, incluida la limitación del contenido generado por IA en la aplicación a un pequeño conjunto de canales de alta calidad».
«También ofrecemos a los padres la opción de bloquear canales. En YouTube, priorizamos la transparencia cuando se trata de contenido de IA, etiquetamos el contenido de nuestras propias herramientas de IA y exigimos a los creadores que divulguen contenido de IA realista», dijo Bullwinkle. «Siempre estamos evolucionando nuestro enfoque para mantenernos actualizados a medida que evoluciona el ecosistema».
YouTube política actual con respecto al contenido generado por IA exige que los creadores revelen cuándo el contenido que es «realista» se crea con medios alterados o sintéticos, incluida la IA generativa. Los creadores no están obligados a revelar cuándo se utiliza IA generativa para crear contenido que es claramente poco realista, incluidos videos animados y aquellos con efectos especiales.
YouTube dijo que está trabajando activamente en el desarrollo de etiquetas para YouTube Kids.
En su carta, Fairplay sostiene que la política de divulgación voluntaria y lo que considera una definición “extremadamente limitada” de contenido alterado y sintético significa que los niños todavía ven una avalancha de videos generados por IA que no están etiquetados como tales. También argumentan que muchos niños que ven vídeos de YouTube aún no son capaces de leer o comprender algo parecido a una revelación de IA. Eso deja a los niños “debido a que se las arreglen solos o a que sus padres jueguen al golpe al topo”, se lee en la carta.
La campaña de Fairplay llega poco después de que AI Futures Fund de Google invirtiera $1 millón en Animaj, un estudio de animación de IA que hace videos para niños y atrae números asombrosamente altos de audiencia, según Bloomberg.
La campaña sigue un veredicto histórico en un juicio por adicción a las redes sociales en el que un jurado de California determinó que YouTube diseñó su plataforma para enganchar a usuarios jóvenes sin preocuparse por su bienestar. Meta también fue declarada responsable por los mismos cargos que YouTube en el mismo caso.
«Impulsar la IA a los niños pequeños es sólo otro testimonio de cómo YouTube y YouTube Kids están diseñados para maximizar el tiempo de los niños en línea, incluidos los bebés. La IA hipnotiza a los niños pequeños, lo que les dificulta salir de las pantallas y pasar a actividades esenciales como jugar, dormir y la interacción social», dijo Rachel Franz, directora del programa Young Children Thrive Offline de Fairplay, en un comunicado. «Es más, el algoritmo de YouTube hace imposible que los niños eviten la IA».
A principios de este año, el director de YouTube, Mohan, mencionó “gestionar el desperdicio de IA” como una de las prioridades de la compañía para 2026. En un informe de enero publicación de blogescribió que la empresa estaba «construyendo activamente sobre nuestros sistemas establecidos que han tenido mucho éxito en la lucha contra el spam y el clickbait, y en la reducción de la difusión de contenido repetitivo y de baja calidad».
