Noticias de ciencia y lo que la rodea
9 meneos
73 clics

454 pistas de que una IA escribió parte de un artículo científico

Un artículo publicado ayer en Science Advances reporta una forma de rastrear la frecuencia con que investigadores usan chatbots de IA para escribir los resúmenes de sus artículos. Las herramientas de IA tienden a usar ciertas palabras (profundiza, crucial, potencial, significativo, importante...) con mucha más frecuencia que autores humanos. Analizó más de 15 millones de resúmenes (abstracts) biomédicos de 2010 a 2024: detectaron aumento de la frecuencia de ciertas palabras.

- Paper (abierto): www.science.org/doi/10.1126/sciadv.adt3813

| etiquetas: paper , llm , ia , chatbot , inteligencia artificial , chatgpt , palabra , abstract
Muy buen trabajo, skynet os da las gracias
A ver, en un artículo científico en lo que lo que cuenta es el experimento o los resultados de la encuesta tampoco me parece terrible que usen IA para meter la paja. Ya eran bastante duros de leer antiguamente: o caían en lo extremadamente formulaico o salía uno con alma de escritor y era peor todavía.

Lo que sí espero es que se aseguren de que no hay nada inventado en los textos generados por la IA, que después la cosa se complica.
#2 #4 A mí, hay al menos 3 motivos por los que me parece inaceptable usar AI para redactar el resumen (abstract) del artículo científico:
1- No decir que una IA lo hizo: no eres transparente, eso para empezar. Y si te pillan en el resumen, desconfiarán de todo el artículo.
2- Pasarte meses o años trabajando en un artículo, para luego quererte ahorrarte unos minutejos para hacer un resumen de ello.
3- La idea de un artículo científico es que lo hayan redactado humanos. Es algo que no debería ser sustituido po una IA, pienso yo.

El punto 3 en realidad es válido para todo el artículo científico. Se supone que es un trabajo que extiende el conocimiento humano en algún campo, y que expertos le dedican mucho tiempo y esfuerzo para redactarlo. Tanto esfuerzo para que todo esté como tiene que ser, que el tiempo se gasta sobre todo en analizarlo, reescribirlo, pulirlo... vamos, seguramente sea varias veces el tiempo de escribirlo a mano. Por lo que no creo que una IA te ahorre tanto tiempo, si el trabajo tiene que tener unos estandares de calidad altos. Es como si quieres traducir una poesía del siglo IX o una patente de biotecnología. Necesitas expertos en esos campos.

Otra cosa, es que la IA en sí misma forme parte de la investigación: como objeto de estudio (avances en modelos de IA), o como herramienta (descubriendo patrones cancerígenos en manchas en pulmones). Eso es perfectamente legítimo muy interesante, y tiene que quedar detallado como se ha hecho.
#9, en un artículo científico lo que importa no es el esfuerzo que ha costado hacerlo sino los resultados y las conclusiones. De hecho pueden acelerar mucho el progreso científico ya que a veces los investigadores pierden mucho tiempo redactando y podrían invertirlo pensando en nuevas hipótesis o haciendo nuevos experimentos.
#9 precisamente en el acs nano que digo, una de las recomendaciones es decir que partes son hechas con IA. Así que tu punto 1 es salvable. El punto dos, pues si, es insignificante el abstract en comparación con el trabajo. El 3, hay quien piensa que el artículo empieza después del abstract, donde pone "1, introducción". Para bien o para mal es una herramienta que, si no se queda, es porque se reemplaza pronto por otra cosa aún más tecnológica. Hay que desarrollar normativa de uso, no poner puertas al campo.

Dicho esto, no he usado nunca IA para mis artículos.
#2 El mero concepto de "meter paja" en una publicación científica es repugnante.
#3 por contra la cantidad de publicaciones científicas repudiadas por un ligero uso del inglés normativo es aún peor
#3 y dice mucho de la calidad de las revistas.

#6 si la revista es en lengua inglesa es lógico que pidan un nivel de idioma. Lo cachondo es cuando lo escribe un nativo en la lengua, con apellidos extranjeros, y curiosamente los revisores se quejan del uso idiomático sin concretar. Hace años, muchos años, cuando los artículos se mandaban mecanografiados y no había un tamaño de folios estándar como hoy es el A4 muchos investigadores compraban paquetes de folios en usa o uk porque sabían que por tener otro tamaño, el artículo sería rechazado.
#7 Creo que #6 se refiere más bien al uso de perífrasis, de la voz pasiva, de construcciones enrevesadas que podrían expresarse de forma más simple y a un tono grandilocuente. Un clásico.
O quizás lo he sobreinterpretado?
#3 meter y paja, por definición, son antagónicos
Los abstract son eso, un resumen del trabajo para que el lector determine si le interesa o no... No tiene nada de malo dejar que una IA haga esa parte. Salvo si le metes el artículo en preprint, que pierdes el copyright con muchas de ellas.
Publicaron un ACS Nano con las recomendaciones éticas para uso de chatgpt en artículos científicos , que venían muy bien. Es de hace un año y pico, cuando era una novedad.
No me voy a leer las 454, pero seguro que está encontrar "para esta parte necesito que seas más concreto".

menéame