WhatsApp está comenzando a desplegar una nueva función denominada Scam Alert (Alerta de Estafa), la cual se ha diseñado para detectar automáticamente mensajes que puedan formar parte de una estafa. La herramienta ha empezado a llegar de forma limitada a usuarios de la versión beta de WhatsApp para Android, después de varios meses de desarrollo y pruebas internas. Por ahora no se trata de una función disponible de forma generalizada, sino de un despliegue progresivo con el que Meta quiere comprobar su funcionamiento antes de extenderla a más usuarios.
La principal particularidad de Scam Alert es que emplea un modelo de aprendizaje automático ejecutado directamente en el smartphone. WhatsApp puede analizar los mensajes recibidos desde números desconocidos y buscar patrones asociados habitualmente con fraudes sin enviar el contenido de la conversación a los servidores de Meta. De esta forma, la compañía asegura que la función mantiene intacto el cifrado de extremo a extremo de WhatsApp.
WhatsApp analizará los mensajes de números desconocidos para advertirte ante una posible estafa
Scam Alert es una función opcional y, al menos durante esta fase beta, permanece desactivada de forma predeterminada. Una vez activada, WhatsApp descarga en el dispositivo un pequeño modelo de aprendizaje que examina los mensajes entrantes procedentes de contactos que el usuario no tiene guardados. El sistema busca estructuras conversacionales y señales lingüísticas similares a las encontradas previamente en conversaciones denunciadas como fraudulentas.
Cuando el modelo considera que un mensaje presenta suficientes indicios de fraude, WhatsApp muestra dentro de la conversación una advertencia indicando que podría tratarse de una estafa. El aviso únicamente aparece en el teléfono del receptor, por lo que el supuesto estafador no sabrá que su mensaje ha sido marcado. Desde esa misma advertencia el usuario puede bloquear y denunciar al remitente o, por el contrario, indicar que confía en esa conversación y continuar hablando normalmente.
Si el usuario marca una conversación como fiable, Scam Alert dejará de analizarla y de generar advertencias relacionadas con ese contacto. WhatsApp también podrá ofrecer de forma voluntaria la posibilidad de enviar los cinco últimos mensajes recibidos para ayudar a Meta a investigar un posible falso positivo y mejorar futuras versiones del modelo. Este envío nunca se realiza de forma automática y requiere de una confirmación por parte del usuario.
La detección de manera local, pese a ello, Meta asegura que no puede leer los mensajes
Uno de los aspectos más relevantes de Scam Alert es precisamente su arquitectura. Todo el proceso de inferencia del modelo se realiza dentro del propio dispositivo. Esto permite que Meta defienda que todo el contenido utilizado para determinar la posible alerta de estafa nunca abandona el dispositivo. Es decir, que no la información no se sube a un servidor en la nube. Tampoco se informa automáticamente a WhatsApp de que un determinado mensaje ha sido detectado como fraudulento. El contenido solo llegará a la compañía cuando el propio usuario decida denunciarlo y compartir de forma voluntaria.
Por ahora, Scam Alert está disponible únicamente para un número reducido de usuarios de WhatsApp Beta para Android. Además que disponer de la última versión beta no garantiza que la función aparezca inmediatamente en la aplicación. WhatsApp irá ampliando progresivamente el número de cuentas compatibles mientras recopila resultados de esta primera fase de pruebas. Para usuarios de iOS esta nueva función tardará algo más en llegar.
La entrada La nueva función de WhatsApp detectará mensajes fraudulentos directamente en tu móvil aparece primero en El Chapuzas Informático.
