Daphne Koller,Andrew Beam, Arjun Manrai, Euan Ashley, Xiaoxuan Liu, Judy Gichoya, Chris Holmes, and editorial board of NEJM AI . Por qué apoyamos y fomentamos el uso de modelos de grandes lenguaje en los envíos al NEJM IA. NEJM AI 2023; 1(1).
Resumen
Los modelos de grandes lenguajes (LLM) prometen revolucionar muchos aspectos de la creación y difusión del conocimiento científico; sin embargo, su uso en la escritura científica sigue siendo controvertido debido a preocupaciones sobre la autoría, la originalidad, las imprecisiones fácticas y las “alucinaciones” o confabulaciones. Como resultado, varios lugares de publicación han prohibido explícitamente su uso. En NEJM AI hemos optado por permitir el uso de LLM para los envíos, siempre que los autores asuman total responsabilidad por el contenido y reconozcan adecuadamente el uso de LLM. Sin embargo, esta política no permite que un LLM figure como coautor. Creemos que el uso de herramientas LLM puede ayudar a los científicos a mejorar la calidad de su trabajo científico y democratizar tanto la creación como el consumo de conocimiento científico, ayudándonos así a capacitar al máximo a la fuerza laboral científica para producir hallazgos científicos sólidos y novedosos y difundirlos ampliamente.
Introducción
Los modelos de grandes lenguajes (LLM) han surgido recientemente como una herramienta poderosa en muchas áreas de la biomedicina. Son capaces de resumir rápidamente grandes cantidades de texto, generar texto de alta calidad a partir de una descripción breve, crear código que pueda ayudar a respaldar el análisis de datos, producir imágenes sobre la base de una descripción verbal y mucho más.
A primera vista, parece plausible que un LLM pueda generar un artículo científico completo, que luego pueda enviarse, tal cual, para su publicación. Esta posibilidad complica la atribución adecuada de la autoría de un texto y plantea el espectro de una posible avalancha de trabajos científicos de baja calidad que no fueron originados ni supervisados por un ser humano pero que, sin embargo, fueron enviados para publicación revisada por pares.
Como consecuencia de ello, algunas publicaciones han optado por prohibir el uso de LLM en las presentaciones. Al momento de escribir este artículo, Science ha establecido una política según la cual “el texto generado a partir de inteligencia artificial, aprendizaje automático o herramientas algorítmicas similares no puede usarse en artículos publicados en revistas científicas y tampoco las figuras, imágenes y gráficos que los acompañan sean productos de dichas herramientas, sin el permiso explícito de los editores. Además, un programa de IA no puede ser autor de un artículo de una revista científica”.
Históricamente, ha habido múltiples ocasiones en las que las personas se han resistido al uso de herramientas “demasiado poderosas” en diversos contextos. Durante años, las calculadoras estuvieron prohibidas en las escuelas (y en algunos casos, todavía lo están) debido a la percepción de que era imperativo que los estudiantes hicieran sus propios cálculos. En los primeros días de la tecnología de la información, incluso los procesadores de texto estaban prohibidos en algunas organizaciones porque podían reducir las habilidades de mecanografía.
Es evidente que hay algunos contextos (como la educación, donde los estudiantes aprenden y son evaluados en sus habilidades fundamentales) en los que el acceso a los LLM puede ser contraproducente. Sin embargo, nuestro objetivo principal en NEJM AI es aumentar la calidad de las publicaciones científicas, lo que incluye varios aspectos como la novedad, el rigor y la accesibilidad a otros. Si herramientas poderosas, como los LLM, nos ayudan a lograr esos objetivos, deberíamos agradecer su uso.
Además, hasta el momento estamos lejos de un mundo en el que un LLM pueda generar una investigación científica original y correcta y la participación humana sigue siendo primordial. Para utilizar un LLM de manera efectiva, es necesario sugerir la premisa central del trabajo, identificar los recursos más relevantes, a menudo generar nuevos datos que no existían, explorar diferentes enfoques de análisis, destilar conclusiones y participar en múltiples interacciones antes de su salida.
Por lo tanto, en NEJM AI , hemos optado por permitir el uso de LLM.........
(*) Una vez que esta en la pagina del articulo, pulsando el botón derecho puede acceder a su traducción al idioma español. Este blog de bioquímica-clínica está destinado a bioquímicos y médicos; la información que contiene es de actualización y queda a criterio y responsabilidad de los mencionados profesionales, el uso que le den a la misma.
Nueva presentación el 04 de Marzo.
Cordiales saludos.
Dr. Anibal E. Bagnarelli,
Bioquímico-Farmacéutico,UBA.
Ciudad de Buenos Aires, R. Argentina
