¿Qué significa formar a alguien capaz de saber, juzgar y responder por sus decisiones en un mundo en el que una parte creciente del trabajo intelectual puede ser delegada? En otras palabras, ¿qué entenderemos por un profesional competente?
Hasta hace poco, si una persona elaboraba un buen diagnóstico, construía un argumento sólido o redactaba un informe técnicamente correcto, teníamos razones para pensar que poseía las competencias necesarias. Esa inferencia nunca fue perfecta, pero funcionaba razonablemente bien.
Con la inteligencia artificial generativa (IAG), esa relación se vuelve más incierta. La IAG introduce una opacidad entre producir un resultado y poseer la capacidad que ese resultado debería garantizar. Entre el ser y el parecer.
Alguien podría replicar: “¿qué diferencia hace si el resultado es igual de confiable?”. Precisamente, en la confianza está el peligro. ¿Estamos tan compenetrados con la máquina que ya no sabemos distinguir dónde empieza ella y terminamos nosotros?
Una investigación de IE University junto con CIAE (U. Chile) y CENIA examinó la distancia entre desempeño asistido por IAG y percepción de comprensión en estudiantes universitarios. El estudio describe la “ilusión de profundidad explicativa”: interactuar con una herramienta de IAG puede generar una percepción de comprensión superior a la que se constata objetivamente.
En 2023, investigadores de Harvard, Wharton, MIT y Warwick estudiaron a consultores de BCG que trabajaban con GPT-4. En tareas dentro de las capacidades del modelo, quienes utilizaron IAG completaron más tareas, más rápido y con mejores resultados. Sin embargo, ante tareas fuera de esa “frontera”, fueron menos propensos a responder correctamente, al no identificar los errores de la herramienta o confiar ciegamente en ella.
Los investigadores denominaron a este fenómeno una “frontera tecnológica irregular”: la IAG puede mejorar sustantivamente el desempeño e inducir errores cuando resulta difícil reconocer sus límites.
UNESCO ha advertido que incorporar IAG en educación requiere evaluar críticamente sus resultados, comprender sus limitaciones y preservar la agencia humana. La OCDE, por su parte, sostiene que la alfabetización en IAG implica desarrollar el juicio para saber cuándo confiar en estas herramientas, verificar sus resultados y cuándo no delegar una decisión.
La discusión nos interpela a pensar qué significa ejercer una profesión competentemente cuando parte del trabajo cognitivo puede delegarse en una herramienta cuyos límites no siempre son visibles.
Cuando una universidad certifica que alguien “es” ingeniero, abogada, profesor, psicóloga o médico, no acredita simplemente que sabe producir determinados resultados. Asegura a la sociedad que posee las competencias que justifican confiarle ciertas decisiones y acciones. Es una cuestión de responsabilidad y confianza pública.
En derecho, medicina y otras profesiones reguladas, las orientaciones convergen en un punto: utilizar IAG no elimina el deber de supervisar, verificar y responder por aquello que finalmente se hace.
Esta reflexión debe permear urgentemente en las instituciones que certifican capacidades profesionales. Si esperamos que un profesional identifique el límite entre su capacidad real y su capacidad aumentada tecnológicamente, y actúe con responsabilidad, prudencia y juicio experto, necesita desarrollar esos criterios durante su formación.
Durante mucho tiempo, la educación superior pudo suponer que enseñar una disciplina y evaluar el desempeño permitía acreditar competencias. La IAG debilita esa inferencia y obliga a preguntarnos qué evidencia necesitamos para afirmar que alguien realmente sabe. Si no asumimos este debate como una responsabilidad pública, corremos el riesgo de vaciar de sentido aquello en lo que más confiamos.
Una sociedad que ya no confía en sus profesionales es, en el fondo, una sociedad que avanza a ciegas.
|
.jpeg)
