Un ejemplo impactante fue una herramienta que identificó como «100% generado por IA» un conocido fragmento de Frankenstein, la célebre novela de Mary Shelley escrita hace 200 años. Este hecho ha desencadenado un debate sobre la capacidad de las tecnologías actuales para discernir entre la creatividad humana y la automatizada.

La Realidad de las Herramientas de Detección

La creciente popularidad de sistemas como ZeroGPT y Turnitin refleja un interés en identificar textos generados por IA, especialmente entre estudiantes y profesionales. Estas herramientas no solo buscan plagios, sino que pueden revelar parafraseos, lo que provoca inquietudes sobre su uso y eficacia.

Mariano Cassero, CTO de Finnegans, critica que se confíe en estas tecnologías para tomar decisiones serias en contextos académicos y legales. «Estamos ante un problema que ni los humanos podemos resolver con certeza», afirma, resaltando la falta de transparencia en su funcionamiento.

Un Escepticismo Generalizado

Las reacciones en redes sociales no se hicieron esperar, y muchos usuarios cuestionaron la eficacia de estas herramientas. Un comentario destacaba que «la solución simple es dejar de usar ZeroGPT», indicando que la tecnología aún tiene mucho que mejorar.

¿Por Qué Fallan Estas Herramientas?

Para comprender el origen de los errores en estas herramientas, Agustín Raimondi, abogado y fundador de Welaw, explica que, en realidad, «no detectan textos generados por IA, sino patrones estadísticos similares a los que producen estos modelos». Esta limitación se agrava por las similitudes que comparten los textos humanos y los generados por IA.

Marcelo de Luca, cofundador de The App Master, añade que «la detección de plagio es un campo en el que las tecnologías actuales aún presentan tasas de error inaceptables». Estos desafíos hacen que confiar en herramientas automáticas sea problemático, especialmente en situaciones legales.

Cómo Mejorar la Detección de Contenido IA

Aunque no existe aún un método infalible, los expertos proponen varias medidas que podrían mejorar la detección. Una de ellas es la inclusión de «marcas de agua criptográficas» para identificar la procedencia de un texto.

Además, se sugiere utilizar un enfoque combinado que analice no solo la predictibilidad del texto, sino también su ritmo y coherencia semántica. Esta combinación de criterios humanos y tecnológicos podría ofrecer resultados más fiables.

La Futura Regulación y Culturas de Transparencia

La regulación y la cultura organizacional están emergiendo como posibles soluciones a largo plazo. La AI Act en la Unión Europea ya comienza a incluir obligaciones de transparencia que obligan a los desarrolladores a divulgar el uso de tecnologías de IA.

Como concluye Raimondi, «la carrera entre generación y detección la va ganando la generación». Las mejores prácticas para enfrentar este desafío radican en promover una mayor transparencia en el uso de IA y fomentar una cultura donde el declarar su uso sea la norma.