Clare Sutherland muestra dos imágenes: una real de un académico australiano y otra generada por inteligencia artificial. Este revolucionario avance en tecnología ha creado una nueva realidad donde el límite entre lo auténtico y lo falso se vuelve borroso.

Pero, ¿podemos entrenar nuestros ojos para identificar esos engaños visuales? Sutherland y su colega australiano están trabajando en esta inquietante cuestión.

Aprendizaje y detección de falsificaciones

La capacidad de la inteligencia artificial (IA) para crear imágenes convincentes ha evolucionado rápidamente. Antes, era más fácil detectar estos engaños debido a errores visibles, como dedos de más o rasgos extraños. Sin embargo, la IA ha aprendido y ahora puede generar rostros casi indetectables.

Criterios para identificar falsificaciones

Para ayudar a las personas, Sutherland y su equipo se han enfocado en seis características clave que pueden indicar la artificialidad de una imagen:

• Simetría: Las IA suelen omitir los pequeños detalles que nos hacen únicos, como asimetrías faciales.
• Proporciones: Una nariz desproporcionada o características exageradas pueden ser señales de alerta.
• Atractivo: Los rostros generados por IA suelen ser estéticamente agradables, lo que puede ser sospechoso.
• Singularidad: Las imágenes falsas tienden a ser genéricas y a parecen promedios.
• Expresividad: Las emociones reflejadas en estos rostros pueden ser mucho más limitadas.
• Memorabilidad: Los rostros de IA pueden ser difíciles de recordar, lo que contribuye a su opacidad.

Es importante notar que la IA también muestra limitaciones al generar rostros de personas diversas, lo que puede ser una ventaja en la detección.

Mejoría en la capacidad de detección

Los investigadores han demostrado que al entrenar a los participantes para reconocer estas características, su habilidad para identificar imágenes falsas mejora significativamente. De un 40% de precisión inicial, algunos alcanzaron hasta un 100% tras unas horas de práctica.

Confianza y detección de imágenes falsas

No obstante, la confianza en nuestras habilidades puede jugar en contra. Estudios previos sugieren que quienes se sienten más seguros a menudo cometen más errores. Después del entrenamiento, sin embargo, los participantes se sintieron más capacitados para reconocer los deepfakes.

La importancia de reconocer deepfakes

Con el auge de estas tecnologías, entender cómo identificar falsificaciones se vuelve esencial, especialmente ante los crecientes casos de fraude. Se estima que las pérdidas por estafas relacionadas con deepfakes podrían escalar a más de 54,000 millones de dólares en EE. UU. en el próximo año.

Desde estafas financieras hasta espionaje político, los usos malintencionados de la IA han llevado a muchos a reflexionar sobre su impacto en la sociedad. En este contexto, se discute la necesidad de etiquetas y marcas en contenido político generado por IA como medida protectora.

Un futuro incierto

Aunque hay aplicaciones positivas para la IA, como la recreación de imágenes para ayudar en casos de niños desaparecidos, la sociedad debe adaptarse a este nuevo panorama digital. La resiliencia ante el engaño en línea dependerá de nuestro aprendizaje y adaptación a estas tecnologías.

En resumen, a medida que la IA continúa desarrollándose, nuestra capacidad para discernir lo real de lo artificial será crucial en el futuro cercano.