OpenAI ha desarrollado una herramienta innovadora de marcado de agua que puede detectar si un texto ha sido escrito por ChatGPT con una precisión del 99%. Esta herramienta fue diseñada para prevenir el uso indebido de la inteligencia artificial, como en el caso de estudiantes que podrían hacer trampa en sus tareas escritas. Sin embargo, OpenAI ha decidido no lanzarla debido a conflictos internos.
La herramienta añade un marcado de agua invisible al ojo humano en los textos generados por ChatGPT. Este marcado es detectable cuando se utiliza una herramienta de detección de inteligencia artificial, que evalúa la probabilidad de que el texto haya sido creado por una IA.
Aunque esta tecnología ha estado lista durante un año, OpenAI tiene varias preocupaciones sobre su implementación. Una de las razones es el temor a estigmatizar las herramientas de escritura de IA para hablantes no nativos de inglés. Además, creen que los marcados podrían ser fácilmente eliminados, lo que dejaría la herramienta vulnerable a actores malintencionados.
Otro motivo para la reticencia de OpenAI es el impacto potencial en el uso de ChatGPT. Según una encuesta realizada por la compañía, el 30% de los usuarios de ChatGPT usarían menos la herramienta si se implementara el marcado de agua, lo que podría afectar negativamente los ingresos de la empresa.
Aunque existen múltiples herramientas diseñadas para detectar contenido generado por IA, como SynthID de Google, actualmente en fase beta para detectar textos creados por su IA Gemini, ninguna ha reportado una tasa de precisión del 99%. Esto significa que la herramienta de OpenAI podría ser el primer sistema realmente confiable para detectar contenido generado por IA, si tan solo decidieran lanzarla.
La revelación de esta herramienta genera un debate importante sobre la ética y la práctica en el uso de la inteligencia artificial en la educación y otros campos. La capacidad de detectar con precisión los textos generados por IA podría cambiar significativamente la forma en que se integran estas tecnologías en la sociedad, especialmente en el ámbito académico. Sin embargo, las preocupaciones de OpenAI subrayan los desafíos y las responsabilidades que conlleva el desarrollo y la implementación de tecnologías avanzadas.
