El detector de deepfakes de Zoom no devolverá la confianza por sí solo

Una etiqueta de advertencia puede avisarte de que una videollamada parece sospechosa. No puede decirte quién está realmente al otro lado. Esa diferencia marca la línea entre una función de seguridad útil y una peligrosa ilusión de seguridad.

Zoom tiene previsto añadir en diciembre de 2026 un detector de riesgo de deepfakes en tiempo real. El sistema examinará las señales de audio y vídeo en busca de indicios de que la imagen o la voz de un participante hayan sido alteradas antes de entrar en la plataforma, y después mostrará una alerta y un indicador de confianza. Como informa Infobae, Zoom apunta a situaciones como entrevistas de trabajo, reuniones corporativas y conversaciones con clientes o proveedores: precisamente los contextos en los que una identidad falsa puede convertirse en un problema financiero u operativo.

Es una incorporación sensata. Pero no es un documento de identidad digital. Tratar el veredicto del detector como una prueba de identidad solo sustituiría una señal de confianza débil —el rostro familiar— por otra: la tranquilizadora luz verde.

La detección es un sistema de alerta, no de identidad

El argumento más sólido a favor de la función de Zoom es también el más limitado: puede introducir fricción en el momento adecuado. Una alerta puede llevar a los participantes a detenerse, cuestionar una petición urgente o trasladar una decisión delicada a un canal más seguro. Es importante porque los ataques con deepfakes explotan hábitos sociales, no solo debilidades técnicas. La autoridad, la urgencia y la familiaridad hacen gran parte del trabajo.

Pero detectar una manipulación y autenticar a una persona son tareas distintas. Un detector puede estimar si el audio o el vídeo parecen sintéticos. No demuestra que la persona sea el ejecutivo, cliente o proveedor que afirma ser. Tampoco un resultado limpio prueba que la conversación, la petición o la instrucción de pago sean legítimas.

La diferencia importa aún más porque, según se ha descrito, la herramienta analizará material que puede haber sido manipulado antes de entrar en Zoom. Eso la convierte en una capa defensiva a nivel de los contenidos multimedia. No autentica automáticamente el origen, el dispositivo, la cuenta, el contexto empresarial ni la decisión que se está solicitando.

Los indicadores de confianza son especialmente problemáticos. Los usuarios tienden a interpretar un porcentaje o un marcador de estado como un veredicto, aunque solo sea la estimación de un modelo. En nuestra opinión, la interfaz debería hacer imposible ignorar la incertidumbre. «No se ha detectado manipulación» es una formulación más segura que «auténtico», porque la primera describe lo que ha examinado el sistema, mientras que la segunda da a entender mucho más de lo que sabe.

La verdadera mejora consiste en cambiar lo que una videollamada puede autorizar

El anuncio de Zoom forma parte de un paquete más amplio de controles corporativos de IA. Está previsto que Centralized AI Management llegue en diciembre de 2026 para ofrecer a los administradores visibilidad sobre agentes y automatizaciones, políticas a nivel de cuenta y revisiones de actividad. Zoom también planea barreras personalizadas que podrían exigir una revisión humana antes de compartir determinados textos generados por IA; esta función está prevista para el primer trimestre de 2027.

Esta es la dirección más importante. La seguridad no puede depender de reconocer si los píxeles parecen reales cuando el flujo de trabajo circundante todavía permite que una sola conversación autorice una acción irreversible. Una videollamada debe aportar contexto y facilitar la colaboración; no debería ser, por sí sola, la prueba definitiva para una transferencia importante, un cambio de datos bancarios o la entrega de información confidencial.

Las organizaciones necesitan reglas por capas: confirmación independiente a través de un canal establecido previamente, aprobación de más de una persona y un proceso que se resista a la urgencia artificial. Una pregunta privada o un desafío pueden ayudar en algunos casos, pero no deberían convertirse en la única salvaguarda. Todo lo que sea predecible puede acabar aprendiéndose, grabándose o utilizándose para una manipulación social.

El principio es sencillo: autenticar a la persona y autorizar la acción por separado. Una cuenta de confianza, un dispositivo conocido, una credencial criptográfica o una llamada de retorno verificada pueden aportar pruebas. Ninguno debe confundirse con un rostro en una pantalla.

La verificación humana no es anticuada: es el control que falta

Existe la tentación de pensar que unos detectores mejores acabarán resolviendo el problema. La dirección de la investigación apunta a una presión opuesta: a medida que mejore la generación, la detección tendrá que seguir adaptándose. Un estudio de septiembre de 2026 resumido por InsightFace constató que el rendimiento de un detector de varios rostros disminuía cuando tenía que localizar los rostros y clasificarlos de principio a fin, en lugar de recibir previamente sus posiciones exactas. Es un recordatorio de que unos resultados impresionantes en laboratorio no se traducen automáticamente en decisiones fiables en directo.

Los usuarios también necesitan escepticismo práctico. El proyecto Detect Fakes del MIT Media Lab recomienda comprobar si la iluminación, los movimientos faciales, los reflejos en las gafas, la textura de la piel, el parpadeo y la sincronización de los labios mantienen la coherencia. Esas pistas pueden ayudar, pero no sustituyen a la autenticación; además, un montaje muy pulido puede no presentar ningún fallo visual evidente.

La mejor comprobación humana es procedimental, no escenificada. Detén la llamada cuando una petición sea inusualmente urgente. Contacta con la persona a través de un canal que ya tengas registrado, no mediante un número o enlace facilitado durante la reunión. Pide un segundo aprobador. Retrasa la acción cuando el coste de equivocarse sea elevado. Estos pasos son menos vistosos que un medidor de confianza de IA, pero atacan directamente el mecanismo del fraude.

Zoom debería presentar esto como incertidumbre, no como tranquilidad

Hay que reconocerle a Zoom el mérito de incorporar el riesgo de deepfakes a la experiencia de la reunión, en lugar de dejar que cada participante examine por su cuenta pestañas y reflejos. Una alerta integrada puede hacer visible la sospecha a personas que, de otro modo, asumirían que un rostro y una voz en directo son intrínsecamente dignos de confianza.

Aun así, la empresa y sus clientes deberían resistirse a vender la detección como una certeza recuperada. El detector probablemente captará algunos contenidos multimedia sospechosos, pasará por alto ciertas manipulaciones sofisticadas y generará ocasionalmente falsas alarmas. Es normal en un modelo que funciona en condiciones cambiantes. El problema aparece cuando la política trata su resultado como concluyente.

Nuestro veredicto: activa la función cuando llegue, pero crea procedimientos en torno a sus limitaciones. Usa la advertencia para detenerte, no para seguir adelante. El futuro de unas videollamadas fiables pertenecerá a las organizaciones que combinen la detección de contenidos multimedia con autenticación, procedencia, controles de acceso y aprobación humana. Unos píxeles de mejor aspecto pueden contribuir a la confianza. No pueden sostenerla por sí solos.