En el dinámico mundo de la inteligencia artificial y la investigación científica, la delgada línea entre la ayuda tecnológica y la integridad académica se vuelve cada vez más relevante. Recientemente, un caso que ha generado revuelo en la comunidad científica y tecnológica es el de un ingeniero de Google que decidió retirar un preprint después de que expertos lo señalaran por el uso no declarado de inteligencia artificial (IA) en la redacción de su manuscrito. Este suceso abre la puerta a una reflexión profunda sobre los desafíos que plantea la incorporación de herramientas automatizadas en el proceso de creación y publicación de textos científicos. El preprint, titulado “Leveraging GANs For Active Appearance Models Optimized Model Fitting”, fue inicialmente publicado en arXiv.org a principios de 2025.
La autoría corresponde a Anurag Awasthi, quien se desempeña como líder de ingeniería en infraestructura de IA en Google. Awasthi definió el trabajo como un ejercicio personal de aprendizaje, lo que quizás explica la manera en que se usaron las tecnologías en cuestión. Sin embargo, no pasó mucho tiempo antes de que surgieran críticas y sospechas entre la comunidad académica. El detonante fue una revisión ciudadana en la plataforma PubPeer, donde el investigador Guillaume Cabanac, conocido por su herramienta Problematic Paper Screener, detectó varias frases extrañas y poco naturales dentro del documento. Estas expresiones, como “squared blunder” o “info picture”, fueron interpretadas como “frases torturadas” que resultan comunes en textos generados o modificados por modelos lingüísticos automáticos.
De hecho, el análisis descubrió que expresiones técnicas y comunes, como “linear regression” y “error rate”, habían sido reescritas incorrectamente como “straight relapse” y “blunder rate”, respectivamente, una clara señal de una traducción defectuosa o un mal uso de la IA. Esta técnica de sustituir palabras por sinónimos para evitar repeticiones, conocida como “variedad elegante” o “elegant variation”, puede funcionar en ciertos contextos literarios, pero en la redacción científica es contraproducente. En disciplinas técnicas, los términos específicos deben mantenerse consistentemente para conservar su significado preciso. Cambios inapropiados confunden al lector y alteran el sentido original, comprometiendo así la calidad y la fiabilidad del texto. Además de estas peculiaridades en el lenguaje, otro aspecto polémico fue la similitud significativa en la estructura y redacción con un artículo publicado en 2016 por otros autores.
Según los observadores en PubPeer, parte del material y la organización eran demasiado parecidos para tratarse de una coincidencia. Awasthi admitió que esto fue un “artifacto no intencionado” resultante del proceso de redacción asistida por IA, sin embargo, la falta de transparencia generó inquietudes sobre la ética de la publicación. La reacción del autor frente a estas críticas fue doble. Por un lado, explicó que el preprint había comenzado como un proyecto personal y de aprendizaje, que se convirtió posteriormente en un intento de publicación formal al identificar cierto grado de novedad en la propuesta. Por otro lado, reconoció que subestimó la seriedad con la que se deben manejar los preprints y admitió que el uso de herramientas automatizadas para reformular frases fue una mala práctica, que derivó en una redacción poco profesional y en ciertos casos incorrecta.
Finalmente, el 7 de abril de 2025, Awasthi retiró oficialmente el preprint de arXiv, señalando que esta acción respondía a las observaciones recibidas y a una revisión más cuidadosa del contenido y su elaboración. Esta decisión fue bien recibida por muchos en la comunidad, quienes enfatizaron la importancia de mantener el rigor científico y la transparencia, sobre todo en un contexto donde la inteligencia artificial se convierte en una herramienta común en la producción de textos científicos. El caso ha suscitado un amplio debate sobre las implicaciones del uso de IA en la redacción académica. Por un lado, está el potencial positivo de acelerar procesos, reducir cargas repetitivas y auxiliar en la elaboración de borradores y revisiones. Por otro, existen riesgos significativos vinculados a la precisión, calidad, ética y veracidad del contenido cuando la tecnología se emplea sin la supervisión adecuada o sin la declaración explícita de su participación.
Muchos especialistas recuerdan la necesidad de que los autores mantengan el control total sobre los textos que firman, asegurándose de que el contenido refleje fielmente sus conocimientos y opiniones. La dependencia excesiva de modelos lingüísticos puede conducir a la proliferación de errores conceptuales “hallucinations” o invenciones, así como a problemas de plagio inadvertido, en caso de reutilizar fragmentos con demasiada similitud a trabajos previos, como ocurrió en este caso. Además, la situación pone bajo el microscopio la función crítica de las plataformas de revisión y moderación de publicaciones. Herramientas como PubPeer y sistemas de detección de Red Flag Papers son cruciales para identificar contenidos problemáticos, especialmente ahora que la integración de inteligencia artificial es más frecuente y puede ser un arma de doble filo. En el terreno corporativo y editorial, cuestionamientos se orientan también hacia las políticas de empresas como Google, cuyos profesionales trabajan en vanguardia tecnológica pero cuyo ecosistema debe fomentar mejores prácticas, ética y responsabilidad.
La comunicación con el autor fue gestionada a través de la oficina de prensa de Google, que no respondió públicamente, generando cierto vacío informativo. Los especialistas coinciden en que la integración de inteligencia artificial en la ciencia debe ir acompañada de una regulación clara, guías éticas específicas y procesos transparentes. Los investigadores y autores deben entender que aunque la IA puede ser un valioso asistente, no reemplaza el juicio crítico ni la revisión humana indispensable. Este episodio podría actuar como un llamado de atención para la comunidad investigadora en general, respecto a la necesidad de educar y concienciar sobre las mejores prácticas en la utilización de IA. La confianza en la literatura científica es un bien fundamental para el progreso del conocimiento y la salud pública, y cualquier amenaza a dicha confianza debe abordarse con seriedad y prontitud.
En resumen, el caso del ingeniero de Google que retiró su preprint por el uso indebido de inteligencia artificial revela los desafíos que enfrenta la investigación científica en la era digital. La tecnología ofrece oportunidades sin precedentes, pero también obliga a repensar los procesos de creación, evaluación y divulgación del conocimiento para preservar su integridad y valor auténtico.
