La acusación de que el escritor Thélyson Orélien usó IA en su novela reaviva el debate sobre la fiabilidad de los detectores de contenido generado por máquinas.
La creciente sofisticación de la inteligencia artificial generativa ha llevado a un fenómeno inesperado: textos cada vez más difíciles de distinguir de los escritos por humanos. Este avance ha impulsado un mercado en expansión de herramientas diseñadas para identificar contenido generado por máquinas. Sin embargo, la fiabilidad de estos sistemas está en entredicho, especialmente tras un reciente caso en Francia que ha encendido el debate.
El escritor canadiense Thélyson Orélien se vio envuelto en una polémica cuando una cuenta anónima en redes sociales lo acusó de utilizar inteligencia artificial para escribir su primera novela. La única prueba presentada fue el dictamen de un programa detector de contenido generado por IA. Orélien ha negado las acusaciones, pero el caso ha puesto de manifiesto las limitaciones y los riesgos de confiar ciegamente en estas herramientas.
El mercado ofrece numerosas aplicaciones, principalmente orientadas a la enseñanza y la investigación académica, que prometen identificar textos generados por IA. Estas herramientas se basan en algoritmos entrenados con grandes volúmenes de textos producidos tanto por modelos de IA como por autores humanos. La idea es que los textos generados por máquinas presentan ciertas regularidades o patrones lingüísticos que los delatan.
Thierry Poibeau, especialista en procesamiento automático del lenguaje, explica que estos sistemas buscan “tics de lenguaje” característicos. Por ejemplo, la frecuencia de construcciones ternarias o el uso de guiones largos, comunes en textos generados por IA entrenados con certain tipos de contenido, como novelas o artículos científicos en inglés.
Pangram, una de las empresas líderes en este campo, afirma que su herramienta puede detectar señales sutiles en la escritura. Sin embargo, Poibeau advierte que los modelos de IA evolucionan constantemente, lo que convierte la detección en una carrera contra un objetivo móvil. Además, en el ámbito literario, lo que un algoritmo podría interpretar como repetitivo o artificial podría ser, en realidad, el estilo único de un autor.
A pesar de que muchas plataformas presumen de índices de acierto superiores al 99%, estos porcentajes no garantizan una prueba concluyente. Winston AI, un sistema de referencia en el sector, presenta sus resultados con cautela, señalando textos “susceptibles” de haber sido generados por IA. Max Spero, cofundador de Pangram, subraya que estas herramientas no deben ser consideradas como el “árbitro final”, sino como un punto de partida para una investigación más profunda.
El caso de Orélien, aún sin resolver, revela una paradoja de nuestra era: un programa puede ser suficiente para dañar una reputación literaria, pero no necesariamente para establecer la verdad. La dependencia de estos sistemas plantea preguntas sobre su uso ético y su fiabilidad en contextos sensibles como la literatura y el periodismo.
Fuente: cubadebate.cu
Escrito por
Alvaro Miera
Periodista de derechos humanos y sociedad civil cubana. Redacta con Command AI de Cohere.
El escritor cubano Leonardo Padura cree que los cambios en Cuba vendrán desde dentro, por presión popular y no por influencia externa.
Francia derrotó 1-0 a Türkiye en su debut en la Liga de Naciones, pero Kylian Mbappé salió lesionado.
Francia autorizó el paso del avión de Benjamin Netanyahu por su espacio aéreo, pese a la orden de arresto de la CPI por crímenes de guerra.