El uso de detectores de inteligencia artificial (IA) puede no ser suficiente para determinar la fiabilidad de un trabajo científico. Además, puede desviar recursos de problemas directamente comprobables. Entre ellos se encuentran los errores de contenido, los datos falsos o las citas inventadas. Por ello, se plantea sustituir el énfasis en detectar textos generados por IA por un modelo centrado en erratas verificables.

Esta es la propuesta que Zhang y colaboradores presentan en el artículo «Los riesgos de la detección de IA para la integridad académica», publicado en Nature Human Behaviour. El texto analiza las consecuencias de incorporar detectores de IA a la evaluación académica y propone tres cambios en su utilización.

Detectar IA no permite comprobar la fiabilidad científica

Según el artículo, los detectores actuales producen numerosos falsos positivos. Este problema afecta, en mayor medida, a quienes escriben en inglés sin ser hablantes nativos. Su escritura puede asemejarse al inglés utilizado para entrenar modelos generativos de IA.

Sin embargo, el problema no se limita a la precisión de estas herramientas. En las universidades interesa conocer si el alumnado ha delegado su pensamiento, razonamiento y escritura. Estas actividades deberían contribuir al desarrollo de sus capacidades de aprendizaje. En las revistas científicas, resulta fundamental comprobar errores de contenido, datos falsos o citas inventadas. También debe garantizarse que quienes firman el trabajo asuman plena responsabilidad sobre su contenido.

Por este motivo, el resultado proporcionado por un detector constituye, según el artículo, un indicador indirecto basado en características limitadas del texto. En el ámbito universitario, no permite determinar adecuadamente los resultados del aprendizaje. En las publicaciones científicas, tampoco permite determinar la responsabilidad sobre el contenido, su autenticidad o la credibilidad de los resultados.

El uso de detectores de inteligencia artificial (IA) puede no ser suficiente para determinar la fiabilidad de un trabajo científico. Además, puede desviar recursos de problemas directamente comprobables. Entre ellos se encuentran los errores de contenido, los datos falsos o las citas inventadas. Por ello, se plantea sustituir el énfasis en detectar textos generados por IA por un modelo centrado en erratas verificables.

Esta es la propuesta que Zhang y colaboradores presentan en el artículo «Los riesgos de la detección de IA para la integridad académica», publicado en Nature Human Behaviour. El texto analiza las consecuencias de incorporar detectores de IA a la evaluación académica y propone tres cambios en su utilización.

Detectar IA no permite comprobar la fiabilidad científica

Según el artículo, los detectores actuales producen numerosos falsos positivos. Este problema afecta, en mayor medida, a quienes escriben en inglés sin ser hablantes nativos. Su escritura puede asemejarse al inglés utilizado para entrenar modelos generativos de IA.

Sin embargo, el problema no se limita a la precisión de estas herramientas. En las universidades interesa conocer si el alumnado ha delegado su pensamiento, razonamiento y escritura. Estas actividades deberían contribuir al desarrollo de sus capacidades de aprendizaje. En las revistas científicas, resulta fundamental comprobar errores de contenido, datos falsos o citas inventadas. También debe garantizarse que quienes firman el trabajo asuman plena responsabilidad sobre su contenido.

Por este motivo, el resultado proporcionado por un detector constituye, según el artículo, un indicador indirecto basado en características limitadas del texto. En el ámbito universitario, no permite determinar adecuadamente los resultados del aprendizaje. En las publicaciones científicas, tampoco permite determinar la responsabilidad sobre el contenido, su autenticidad o la credibilidad de los resultados…

… leer artículo completo en la revista digital infoCOP