En un intento por combatir el contenido de baja calidad que inunda las redes sociales, Meta anunció que eliminó aproximadamente 10 millones de perfiles en Facebook durante el primer semestre de 2025 por suplantar la identidad de grandes creadores de contenido. Esta medida llega en un momento en el que la inteligencia artificial facilita la producción masiva de contenido.
Introducción: una batalla por la autenticidad
Meta declaró el lunes que ha eliminado cerca de 10 millones de perfiles en Facebook por suplantar a grandes creadores de contenido en lo que va de 2025, en un esfuerzo por frenar el contenido basura. Esta campaña surge en un momento en el que la inteligencia artificial facilita la producción de contenido a gran escala en las plataformas de redes sociales, lo que provoca la proliferación de la llamada «basura de IA» (AI slop): contenido de baja calidad y no original diseñado para generar clics.
Esta campaña forma parte de un esfuerzo más amplio de Meta para hacer que el feed de Facebook sea más relevante y auténtico mediante la adopción de medidas y la eliminación de cuentas que participan en comportamientos molestos. Como parte de esta iniciativa, Meta también está implementando medidas más estrictas para promover las publicaciones originales de los creadores, según indicó la compañía en una publicación de su blog.
Medidas estrictas contra el contenido no original
Facebook también ha tomado medidas contra casi 500 000 cuentas que se descubrió estaban involucradas en comportamientos no auténticos y molestos. Estas acciones incluyeron la reducción en la clasificación de los comentarios y la disminución de la distribución de contenido, con el objetivo de dificultar que estas cuentas moneticen sus publicaciones.
Meta señaló que el contenido no original se produce cuando se reutilizan imágenes o videos sin citar la fuente original. La empresa indicó que ahora cuenta con tecnología capaz de detectar videos duplicados y reducir la distribución de dicho contenido. Esto representa un gran desafío, ya que gran parte de la cultura de internet, especialmente los «memes», se basa en la reutilización y modificación de contenido.
Coincidencia con las inversiones en inteligencia artificial
La acción contra el contenido basura y no original se produce en un momento en que Meta incrementa sus inversiones en inteligencia artificial. El director ejecutivo, Mark Zuckerberg, anunció el lunes planes para gastar «cientos de miles de millones de dólares» en infraestructura informática de inteligencia artificial para poner en marcha el primer clúster informático de supercomputación de la compañía el próximo año. Esta coincidencia pone de relieve la paradoja a la que se enfrentan las empresas tecnológicas: invierten fuertemente en la misma tecnología que facilita la creación del contenido que ahora intentan combatir.
Esfuerzos de otras plataformas para combatir la “basura de IA”
Meta no está sola en esta lucha. Otras plataformas también están tomando medidas para combatir el aumento de contenido basura y de baja calidad en las redes sociales. YouTube, propiedad de Google, anunció un cambio en su política este mes que impide que el contenido producido de forma masiva o repetitiva sea elegible para generar ingresos. Este anuncio generó confusión en las redes sociales, ya que muchos usuarios creyeron que se trataba de un retroceso en la postura de YouTube sobre el contenido de IA. Sin embargo, YouTube aclaró que el cambio de política busca frenar los videos no originales, molestos y repetitivos. Un portavoz de YouTube declaró: «Damos la bienvenida a los creadores que utilizan herramientas de inteligencia artificial para mejorar su narrativa, y los canales que emplean IA en su contenido siguen siendo elegibles para la monetización».
Conclusión: un desafío continuo
La campaña de Meta contra las cuentas falsas y el contenido basura representa un paso necesario en la batalla constante por preservar la calidad y la autenticidad del contenido en sus plataformas. A medida que las herramientas de inteligencia artificial sigan evolucionando, esta lucha será cada vez más difícil. Las plataformas necesitarán innovar constantemente y desarrollar tecnologías de detección más sofisticadas para mantenerse a la vanguardia. En última instancia, el futuro de las redes sociales depende de la capacidad de estas empresas para equilibrar el fomento de la creatividad (incluida la impulsada por la inteligencia artificial) y la protección de los usuarios frente a una avalancha de contenido de baja calidad y no original.
