cuando Tim Berners-Lee inventó la World Wide Web en 1989, probablemente no imaginó que su nuevo sistema sería el depósito de todos los peores impulsos de la humanidad, pero aquí estamos. El último ejemplo del programa de terror en internet proviene de YouTube, donde la empresa se vio obligada a actualizar sus políticas para decir que no, no puedes hacer videos con inteligencia artificial de niños muertos para tu contenido sobre crímenes reales.
YouTube describió el cambio en un correo en su Centro de ayuda. “El 16 de enero, comenzaremos a provocar contenido que simule de manera realista menores fallecidos o víctimas de mortales o bienvenidos? documentó importantes eventos violentos que describen su muerte o la violencia experimentada”, escribió la empresa.
La actualización surge en respuesta a un género inquietante de videos que generaron millones de visitas en las redes sociales con voces simuladas de personas reales. Víctimas de asesinato infantil que describen sus propias muertes espantosas, según lo informado por el borde Lunes.
“La abuela me encerró en un horno a 230 grados cuando solo tenía 21 meses”, dijo un bebé animado en un TikTok viral video, antes de identificarse como Rody Marie Floyd, una verdadera víctima de asesinato. “Por favor, síganme para que más personas conozcan mi verdadera historia”. Vídeos similares provocaron atención generalizada en YouTube.
TikTok ya tiene políticas que abordan esta clase de obscenidad en Internet. La plataforma requiere etiquetas en los videos creados por IA y prohíbe los deepfakes de personas menor de 18 años o cualquier adulto que no sea una figura pública.
Los vídeos no sólo son perturbadores para los espectadores, sino también dolorosos para los supervivientes. Denise Fergus, cuyo hijo James Bulger fue secuestrado y asesinado en 1993, calificó los vídeos de IA en los que aparecía su hijo como “repugnantes” en una entrevista con el Espejo. “Es devolverle la vida a un niño muerto”, dijo Fergus. “Es más que enfermizo”.
Una y otra vez hemos visto que no hay nada tan depravado que alguien no intente monetizarlo en línea. Se podría culpar a las personas que hacen Este contenido espeluznante , pero también es una consecuencia lógica de un sistema que incentiva a los creadores a secuestrar nuestra atención.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.