Redacción Frontera Ink.
Aplicaciones que facilitan la creación de pornografía deepfake no consensuada se encuentran disponibles y se anuncian en la App Store de Apple, según un informe del Tech Transparency Project (TTP) compartido inicialmente por 9to5Mac. Estas herramientas permiten a los usuarios generar contenido explícito sin el consentimiento de los individuos, planteando serias preocupaciones sobre la moderación de contenido de Apple.
El informe detalla que estas “aplicaciones nudify” aparecen en anuncios de búsqueda y sugerencias dentro de la propia tienda de aplicaciones. A pesar de que las pautas de la App Store prohíben productos ilegales o dañinos, la facilidad con la que se pueden generar deepfakes con contenido explícito representa una falla en el proceso de revisión de Apple.
La investigación del TTP demostró que es trivialmente fácil encontrar, descargar y utilizar una de estas aplicaciones para realizar un intercambio de caras en un video explícito. No se encontraron salvaguardias, avisos o mecanismos para evitar la creación de dicho contenido, incluso con una calificación de edad supuestamente adecuada para menores.
Algunas de estas aplicaciones no solo permiten el intercambio de caras, sino también la eliminación de ropa en imágenes o la transformación en chatbots sexualmente explícitos. Treinta y una de estas aplicaciones fueron calificadas para menores. Las aplicaciones identificadas en el estudio han acumulado 483 millones de descargas y han generado más de 122 millones de dólares en ingresos.
Apple ha tomado medidas previas, como la eliminación de al menos 28 aplicaciones similares en enero y una advertencia a xAI sobre Grok. Sin embargo, la persistencia de estas herramientas y su monetización a través de publicidad sugieren que el proceso de revisión de la App Store es deficiente y no cumple con la confianza necesaria para garantizar un entorno seguro.
Créditos: The Tech Transparency Project, 9to5Mac.
