Un estudio, liderado por investigadores de distintas universidades
de París, Milán y Roma, apunta a que la IA nos hace más confiados pero menos precisos, una combinación preocupante.
(Foto: Shutterstock).
Cada vez nos cuesta más decir "no lo sé". Se trata de
uno de
los actos más honestos que puede hacer una persona y, en
cambio, con la llegada de la IA y con toda la información a
nuestro alcance, da la sensación de que estamos perdiendo ese
hábito en las conversaciones.
Un estudio ha
querido poner algunos datos sobre la mesa respecto al tema. Y es
que la conclusión a la que han llegado un grupo de investigadores
de distintas universidades de París, Roma y Milán, al reunir a
3.100
participantes, ha sido que tener acceso a una IA, aunque
esta dé respuestas erróneas,
empuja a la gente a dejar de
reconocer los límites de su propio conocimiento.
Lo sé todo
Reconocer que no sabemos algo
es más útil de lo que creemos,
ya que se trata de una habilidad mental que
evita que actuemos
guiados por creencias falsas. Los autores del estudio la
llaman "suspensión del juicio", es decir, la
capacidad de
frenar antes de responder cuando no se tiene certeza.
A medida que los asistentes de IA se cuelan en cada vez más
aspectos de nuestra vida, la investigación, firmada por
Chiara
Marcoccia (École Normale Supérieure de París),
Walter
Quattrociocchi (Universidad Sapienza de Roma) y
Valerio
Capraro (Universidad de Milán-Bicocca), quiso comprobar si
la simple presencia de estos chatbots
altera el momento en que
decidimos que ya sabemos lo suficiente para contestar.
El experimento
Para aislar el efecto, el equipo diseñó a propósito
preguntas
casi imposibles de acertar para una IA, con detalles
visuales muy concretos de películas, como el color de la ropa de
un personaje o el vehículo que conduce. Se trata de
datos tan
específicos que apenas aparecen en internet, así que el
modelo usado en el experimento (
Step 3.5 Flash)
fallaba casi siempre.
Los participantes podían consultar a la IA si querían, pero
también
tenían siempre la opción de dejar la pregunta en
blanco o admitir que no sabían la respuesta.
Cifras
En el grupo que no tenía acceso a ningún asistente,
un 44% de
los participantes reconoció no saber la respuesta cuando
correspondía. Entre quienes podían pedir ayuda a la IA,
ese
porcentaje se desplomó hasta el 3%, según recoge el estudio.
Además,
la proporción de respuestas correctas también cayó,
del 27% al 9%. Es decir, la gente
contestó más
preguntas, pero acertó mucho menos.
Lo más llamativo es que, pese a equivocarse más,
los
participantes se sintieron más seguros, pues según el
estudio, su confianza en las respuestas pasó
del 30% al 76%.
¿Y si hay dinero en juego?
Los investigadores sospechaban que
pagar por acertar (y
penalizar por fallar) podría corregir el problema. Efectivamente
ayudó, pero muy poco, pues con incentivos económicos, la
disposición a admitir que no sabían
la respuesta subió del 3%
al 8%, y los aciertos
pasaron del 9% al 16%.
Curiosamente, los propios autores esperaban que
el efecto de
la IA se debilitara con dinero de por medio, pero sus datos
no lo confirmaron. Y es que el tirón hacia confiar en la máquina
resultó ser prácticamente
independiente del incentivo económico.
Límites
Capraro, coautor del estudio, explicaba al medio
The Register
que la gente "
se volvió mucho peor" en su desempeño, con
una
precisión de sólo un tercio respecto al grupo sin IA, pero
terminó "
el doble de confiada" en sus propias respuestas.
Para el investigador, esta capacidad de decir "no lo sé"
representa ni más ni menos que "
la admisión de los límites de
nuestro propio conocimiento".
Por otro lado, Capraro se mostraba
especialmente inquieto por
el efecto que este fenómeno puede tener en la infancia.
Según declaraba al medio, los adultos
ya cuentan con un
pensamiento crítico formado antes de la llegada masiva de
estas herramientas, pero los niños que crecen usando la IA desde
el principio corren el riesgo de
no desarrollar nunca esa
capacidad básica de cuestionar una respuesta.
(Fuente: Xataka / varios / redacción propia)
