La integridad como clave para que la IA en la ciencia sea sostenible
El 17 de octubre, en la apertura del año académico de OPIT en el Museo Nazionale dell'Automobile de Turín, me hicieron una pregunta que me importa mucho: ¿cómo mantenemos la integridad cuando usamos IA en la investigación científica? Esta fue mi respuesta.
Gracias
Estoy bastante seguro de que todavía no tenemos todas las respuestas a esta transición. Poder hablarlo, compartir y aprender entre todos es lo que nos trajo hasta acá, y creo que es el camino. Gracias, OPIT, por el espacio.
OPIT está llevando educación a gente de todo el mundo, y lo hace muy bien. Formar parte de este día fue un verdadero honor. Compartí escenario con Daniel Graditi y Flatra Thaqi, a quienes también vale la pena escuchar, después de las charlas de Barbara Cominelli, Hamilton Mann y Chris Stokel-Walker.
Gracias a Riccardo Ocleppo, Lorenzo Livi, Greta Maiocchi, Roberta Santoro Marins, Rosario Maccarrone y a todo el equipo de OPIT, y a Yavuz O. Uca, Alessio Marrone, Javi Suarez, Anita V. Gentile y Sara Ciabattoni por su trabajo. Un agradecimiento especial a Greta, Roberta y Riccardo, y a mi director de tesis, Sina Famouri. Ojalá podamos seguir construyendo a partir de esto y hacer algo juntos en el futuro.
La charla
Traducción de la charla.
Muchas gracias por la pregunta. Creo que la integridad en la ciencia puede ser la clave para que la IA en la ciencia sea sostenible. Todo lo que aprendí durante mi paso por OPIT me ayudó a darle forma a una idea: la integridad en la ciencia se puede ver de tres maneras. Hacia adentro, hacia afuera y mirando al futuro de la ciencia.
Hacia adentro es algo del día a día. Como biólogo, trabajo con un pipeline de investigación aumentado con IA, y uso deep learning y machine learning para crear herramientas nuevas para la biología. Hace un par de semanas publicamos un paper sobre una app que ahora hace de forma automática algo que los investigadores hacían a mano. Llevaba muchísimo tiempo y era el cuello de botella de esa área de investigación. Así que es una gran innovación. Pero si introducís en la ciencia algo que ahora hace automáticamente un algoritmo, y algo sale mal, y se sacan conclusiones de esos datos, se puede contaminar un área entera de la ciencia. Para mí eso sería terrible. Por supuesto, es un trabajo revisado por pares, y eso es lo lindo de la ciencia: tus pares te controlan. Pero creo que, en este caso, la integridad no debería venir de afuera. Tiene que venir de adentro: hacernos cargo de lo que hacemos, ser conscientes de las herramientas que usamos y poner los pasos adecuados, como protocolos para los experimentos, protocolos de auditoría y un triple chequeo cuando hace falta. Eso es la integridad hacia adentro.
Hacia afuera tiene que ver con una de las preguntas que nos dejó Chris, sobre la gente que nos rodea. Me hizo pensar: ¿qué pasa con la gente que no tiene acceso a estas herramientas? Hoy sostengo un trabajo a tiempo completo, un capstone, dos papers y dos proyectos propios, todo porque tengo acceso a una suscripción Max de una de las empresas de IA. Pero ¿qué pasa con mis colegas de Latinoamérica, de África, de Asia, que no tienen 200 euros para gastar en una suscripción? La ciencia siempre fue dura. Es publicar o morir. Pero ahora la brecha es cada vez más grande, y eso es inequidad. Si la gente no tiene acceso a esto, se va a quedar atrás, y vamos a convertir la ciencia en algo exclusivo de quien puede pagar una suscripción. En ese sentido, OPIT me parece muy alentador. En mis clases tuve compañeros de todo el mundo: de América, de África, de Asia, de toda Europa. Es un adelanto de cómo debería ser el futuro, con gente que encuentra su camino hacia el conocimiento. Porque, otra vez, si no hacemos eso, la ciencia se va a volver algo exclusivo.
Eso me lleva al tercer punto: mirar hacia el futuro de la ciencia y la integridad. Esto está pasando ahora, mientras hablamos. Creo que el punto de inflexión fue una gran empresa de IA anunciando su solución a uno de los problemas del Milenio, el de Navier–Stokes. Y hace poco, como dijo Chris, hace unos diez días, publicaron más de 700, no papers, sino avances en distintas ramas de la ciencia, y el mundo científico se dio vuelta. Internet se volvió loco: "la IA resolvió las matemáticas". Y eso es muy engañoso, porque hasta ahora no hacíamos ciencia así. Lo importante no era tanto el punto final como el camino: todos los métodos y técnicas que construíamos para intentar llegar a la respuesta, que después extrapolábamos a otras ramas de la ciencia, y la colaboración. Así hicimos ciencia hasta ahora. Pero ahora nos están dando las respuestas servidas. Ponemos los problemas ahí y nos dan la respuesta.
Eso da mucho miedo, porque no son solo las matemáticas. La biología es la siguiente. Las grandes empresas de IA ya tienen laboratorios científicos gestionados por IA. ¿Cómo va a funcionar eso para un investigador? ¿Vuelvo a mi computadora, escribo "Curá el cáncer, sin errores, por favor" y le doy enter? Y si funciona, ¿me dan el Nobel a mí, o le colgamos la medalla a la GPU? No sé cómo va a funcionar. Bromas aparte, si estos grandes modelos de IA nos ayudan a lograr resultados así de maravillosos, lo vamos a celebrar. Pero esto es lo que me da miedo: que de ahora en adelante, o dentro de cinco o diez años, estudiar ciencia signifique solamente aprender a entender lo que nos dan. Sin creatividad, sin descubrimiento, sin un papel activo en el acto de aprender. Solo interpretar lo que nos entrega un gran modelo privado. Eso podría convertir la ciencia en una industria de consumo más, como las redes sociales, como el streaming, como la comida rápida. Ojalá no sea así, porque para mí la integridad mirando al futuro significa que las personas sigan en el centro del proceso de descubrimiento, del proceso creativo y del proceso de aprendizaje, como venimos hablando.
No quiero sonar como un fatalista de la IA. Me gusta mucho la IA. La uso todos los días. Estoy a favor de que la IA cure el cáncer, de que nos dé autos voladores como el que presentaron hace dos días, de que resuelva la teletransportación. Si eso pasa, termino esto y me voy directo a cenar con mi abuela en Argentina.
Pero en serio, esa es mi postura sobre la integridad en la ciencia en la era de la IA. Creo que es la clave de la sostenibilidad. Hacia adentro significa hacernos cargo de lo que hacemos, como estudiantes, como científicos, en el lado de los negocios, y conocer las herramientas que usamos. Hacia afuera significa asegurarnos de que todos puedan formar parte de esta gran revolución. Mirando al futuro significa asegurarnos de que las personas sigan en el centro del proceso científico, del proceso de descubrimiento, de esa pequeña chispa de descubrir algo nuevo. Y creo que estamos en el lugar indicado para hacerlo. Acá en OPIT recibí las herramientas para entender esta tecnología y usarla, y además me animaron a dar mi opinión. Así que quiero animar a todos los que empiezan sus estudios hoy a hacer lo mismo. Den su opinión. Métanse en la conversación. Si no, vamos a vivir en un mundo decidido por otras personas. Infórmense, aprendan, den su opinión y ayuden a darle forma a este futuro, que ya no es futuro. Es ahora.
Gracias por invitarme.
Fotos
OPIT Academic Year Kick-Off, Museo Nazionale dell'Automobile, Turín, octubre de 2026
