WhatsApp comienza a probar la función de alerta de fraude en el dispositivo, comenzando con los usuarios beta de Android
WhatsApp ha comenzado a implementar una nueva función de seguridad diseñada para marcar mensajes sospechosos de contactos desconocidos sin que la propia plataforma lea su contenido. Llamada Scam Alert, la herramienta está actualmente limitada a un pequeño grupo de probadores beta de Android que ejecutan la versión 2.26.34.1 de la aplicación, según un informe de WABetaInfo, que rastrea las versiones beta de WhatsApp.
La función funciona ejecutando un modelo de aprendizaje automático directamente en el teléfono del usuario. Cuando llega un mensaje de un número que no está guardado como contacto, el modelo lo verifica localmente en busca de patrones comúnmente asociados con conversaciones fraudulentas: intentos de suplantación de identidad, solicitudes impulsadas por urgencia o tácticas de ingeniería social. Si marcas algo sospechoso, el destinatario verá una advertencia dentro del chat. Nunca se notifica al remitente que ha aparecido la alerta.
Por qué es importante el procesamiento en el dispositivo
El principal punto de venta de WhatsApp siempre ha sido el cifrado de extremo a extremo, lo que significa que la empresa no puede leer el contenido de una conversación por diseño y no simplemente por política. Crear una herramienta de detección de estafas sobre esta arquitectura requirió que Meta mantuviera los análisis completamente en el dispositivo. En un desglose técnico publicado en su blog de ingeniería, la compañía dijo que ningún contenido de mensaje sale del teléfono para ser clasificado y nada se informa automáticamente a WhatsApp o Meta a menos que el usuario realice una acción deliberada, como informar.
Esta distinción es importante para una plataforma que opera en mercados donde la confianza en la forma en que las empresas de tecnología manejan los datos personales es escasa. Meta dijo que la plantilla en sí se descarga de una red de entrega de contenido en lugar de integrarse en la aplicación, lo que permite actualizarla a medida que evolucionan las tácticas fraudulentas sin obligar a los usuarios a instalar una nueva versión de la aplicación.
Controles integrados contra uso indebido
Una preocupación recurrente con cualquier sistema de detección en un dispositivo es si la empresa que lo controla podría atacar silenciosamente a usuarios específicos con una versión diferente y más invasiva del modelo. Meta dice que diseñó Scam Alert para cerrar esa puerta. Cada versión del modelo, incluidas las variantes experimentales utilizadas para las pruebas, se publica en un libro de contabilidad de transparencia público y a prueba de manipulaciones antes de llegar a cualquier dispositivo, y las solicitudes de descarga se enrutan a través de un relé que elimina información de identificación, como las direcciones IP.
Meta también ha ampliado su programa Bug Bounty para cubrir específicamente Scam Alert, invitando a investigadores de seguridad externos a examinar la arquitectura de privacidad y el comportamiento del modelo, verificando que no hace más que detectar estafas.
¿Qué sucede cuando se marca un mensaje?
Después de que Scam Alert marca un mensaje, el destinatario puede bloquear y denunciar al remitente o marcar la conversación como confiable si cree que la advertencia fue un error. Confiar en un chat también le brinda al usuario la opción completamente voluntaria de compartir los últimos cinco mensajes con WhatsApp para ayudar a perfeccionar el modelo. Los usuarios pueden revisar un registro de actividad privado en el dispositivo, que muestra qué mensajes se verificaron y qué acciones, si corresponde, se siguieron.
Por ahora, la función sigue restringida a un grupo limitado de probadores beta de Android, sin un cronograma confirmado para una implementación más amplia o una versión de iOS.
