Meta toma medidas legales contra app que generaba desnudos falsos con IA
Foto: Axis
Meta, la compañía matriz de Facebook, Instagram y Threads, ha presentado una demanda judicial en Hong Kong contra Joy Timeline HK Limited, una empresa con sede en Asia responsable de desarrollar la aplicación CrushAI.
Esta aplicación utiliza inteligencia artificial para generar imágenes falsas de desnudos a partir de fotografías reales de personas, sin su consentimiento.
La demanda surge tras la proliferación de anuncios de este tipo de apps en plataformas de Meta, a pesar de las políticas estrictas de la empresa contra contenidos sexuales no consensuados.
Meta toma medidas legales contra app que generaba desnudos falsos con IA
Foto: opentools
Publicidad engañosa y evasión de filtros
Meta alega que Joy Timeline habría evadido intencionalmente los sistemas automatizados de revisión de anuncios de sus plataformas.
Aunque Meta eliminó varias promociones de CrushAI, la empresa acusada adaptó su contenido para seguir publicitándose bajo otros formatos, violando así repetidamente las normas comunitarias.
Esta acción forma parte de una ofensiva legal de Meta para frenar el uso malicioso de la inteligencia artificial que propague contenido sexual falso o perjudicial.
Una amenaza creciente contra la privacidad
Foto:opentools
Según el comunicado de Meta, este tipo de aplicaciones fomentan la sextorsión, la extorsión digital y la desinformación, afectando especialmente a mujeres y menores.
En abril, investigaciones periodísticas revelaron la existencia de cientos de anuncios activos promoviendo apps de «nudify» en Facebook e Instagram.
Las críticas no tardaron en llegar: legisladores como el senador estadounidense Dick Durbin exigieron a Meta mayor vigilancia y acción.
Acciones similares en otras plataformas
Meta no está sola en esta cruzada.
Apple y Google han eliminado de sus tiendas digitales aplicaciones similares por vulnerar las normas de privacidad.
Incluso la ciudad de San Francisco ha emprendido acciones legales contra sitios web que difunden contenido pornográfico generado con IA sin autorización de las personas afectadas.
Un precedente en defensa de la integridad digital
Con esta demanda, Meta pretende sentar un precedente para evitar que sus plataformas se conviertan en canales de distribución de contenido perjudicial creado por inteligencia artificial.
Además de prohibir los anuncios de CrushAI, la empresa busca mejorar sus sistemas de detección automática para prevenir la publicidad encubierta que viole sus normas. Esta acción legal se inscribe en una estrategia más amplia para proteger a los usuarios frente a los riesgos emergentes del mal uso de la tecnología.