Día de las Redes Sociales: cómo preservar lo humano en la era de bots y deepfakes

En el marco del Día Mundial de las Redes Sociales, celebramos el potencial de las plataformas digitales para conectar a personas globalmente. En un contexto donde la Inteligencia Artificial (IA) está cada vez más presente en nuestras interacciones, surge un nuevo reto: demostrar en entornos digitales que las interacciones en línea son humanas sin tener que entregar información personal.

Según una encuesta de Tools for Humanity con Ipsos a 500 personas en Guatemala, el 88% de las personas está de acuerdo en que los mecanismos para diferenciar a las máquinas (bots o deepfakes) de los humanos son esenciales.

IA y bots: una presencia creciente en redes sociales

La IA mejora nuestras experiencias digitales e incluso las hace más divertidas, pero también impulsa la proliferación de cuentas automatizadas y deepfakes. Según datos de Security Hero, el número de videos deepfake se disparó un 550 % entre 2019 y 2024.

Este panorama distorsiona la percepción de lo que es real y lo que no, erosiona la confianza y puede mermar la calidad de las interacciones en línea.

Por otro lado, cuando se trata de combatir cuentas falsas o bots las plataformas están librando una batalla compleja. Las herramientas automatizadas facilitan la creación masiva de direcciones de correo electrónico y luego las usan para generar cuentas spam ilimitadas en las plataformas. Debido a que la IA se está volviendo más avanzada, estos bots se comportan cada vez más como humanos, lo que dificulta detectarlos.

“Las redes sociales han sido un espacio insustituible de conexión y hoy requieren herramientas que refuercen esa confianza en un entorno tecnológico cada vez más avanzado. Sobre todo en el contexto de que ya cada vez es más común ver deepfakes de celebridades o incluso noticias tipo reportajes que son hechos con IA” comentó Miguel Rocha, gerente general para México y Centroamérica en Tools for Humanity. “Con World ID, impulsamos las conexiones humanas y la confianza en línea, sin sacrificar privacidad”.

Demostrar humanidad, manteniendo la privacidad

Dado que hoy la IA ya es capaz de evadir los CAPTCHA —esas pruebas que nos pedían señalar taxis, semáforos o bicicletas para demostrar nuestra “humanidad” en internet—, ha llegado una solución de nueva generación: la prueba de humanidad anónima.

World ID propone un enfoque innovador: permite a las plataformas verificar que un individuo es una persona real y única, sin recopilar datos personales, o someter a los usuarios a experiencias de alta fricción como el CAPTCHA. Esta tecnología se puede integrar de forma totalmente transparente en los sistemas de inicio de sesión —tal como lo hizo Razer recientemente en los videojuegos— garantizando confianza online sin sacrificar la experiencia del usuario.

Implementar World ID en plataformas en línea permite:

●     Interacciones humano a humano: Las personas pueden confiar en que las cuentas con las que interactúan están controladas por humanos reales.

●     Más confianza en las plataformas: Las plataformas en línea pueden volver a facilitar interacciones humanas, lo cual también ayuda a restaurar la confianza en las mismas.

●     Ayuda a asegurar más privacidad: Las personas no necesitan compartir datos personales.