1
Máquinas que actúan, humanos que deben pensar
La inteligencia artificial no comprende ni distingue verdad de apariencia: solo produce respuestas plausibles con tono convincente; la prudencia humana deja de ser una virtud opcional para convertirse en una obligación
3 minutos de lectura'
PARA LA NACIONMariángeles Castro Sánchez
Pasada la exaltación de los primeros momentos, estamos aprendiendo a convivir con modelos de inteligencia artificial generativa. Disponibles a toda hora y en todo lugar, requerimos de ellos resúmenes, ideas, mails bien escritos, traducciones o, simplemente, una presencia conversacional. De la mano de este avance tenaz, que está evolucionando hoy de la asistencia a la agencia, cabe preguntamos cómo asimilar la nueva relación humano-máquina y qué derivaciones tiene en nuestras vidas.
En este marco, empezamos a advertir que lo que llamamos inteligencia artificial no es algo ni tan inteligente ni tan artificial. No es inteligente en el sentido que atribuimos esta cualidad a una persona que entiende, interpreta, duda, contrasta, rectifica. Y tampoco es artificial: se sustenta en trabajo humano, en millones de textos humanamente producidos y en infraestructuras físicas que consumen recursos naturales. Estamos tomando nota de que detrás de cada respuesta mágicamente dada, hay cables, antenas, extracciones minerales, intereses empresariales y estrategias geopolíticas.
A la par de ello, también estamos descubriendo que la IA se equivoca. Y que muchos de esos errores, ante un ojo inexperto, pasan desapercibidos. Que cuando el sistema se expresa con tono convincente, puede estar alucinando. Puede inventar citas académicas, imaginar leyes que no existen, adjudicar autorías disparatadas. No es un engaño calculado por una IA que no tiene -ni puede tener- intención moral, sino un modo de ejecución estadística que elige, entre las combinaciones posibles, aquella que es más probable.
Estamos tomando nota de que detrás de cada respuesta mágicamente dada, hay cables, antenas, extracciones minerales, intereses empresariales y estrategias geopolíticas
Vale entonces detenernos y cuestionarnos qué es, en realidad, lo que tenemos delante. Vale asumir que no hay verdad en la IA, que apenas hay verosimilitud. Que no opera en el orden del ser sino del parecer. Que no sabe si algo es falso, porque solo cuenta con cadenas de palabras. Por eso, si le indicamos que fabrique una explicación, que redacte un poema o que complete un formulario con referencias apócrifas, lo hará con el mismo talante y sin reparos.
El filósofo italiano Luciano Floridi insiste en que la artificial es una inteligencia que no piensa, pero actúa. Que no comprende, porque no se mueve en el plano del sentido, no se interroga por el porqué. En su lógica no hay silencios, no hay dudas ni vacíos: siempre hay declaraciones.
Cuántas veces hemos escuchado que es necesario pensar antes de actuar. Es el mecanismo que adopta la prudencia como virtud. La secuencia humana es: informarnos-reflexionar-decidir. Y esta racionalidad no es propia de máquinas que, si bien se informan al procesar datos, solo reconocen patrones y deciden por inferencias. Por eso en este esquema hay algo propio del ser humano que -por ahora- no puede ser transferido: la intuición, la experiencia, el pensamiento abductivo que arriesga hipótesis inéditas y los saberes que se nutren de afectos y memorias biográficas.
En tiempos de fascinación tecnológica, recuperar la prudencia no implica frenar el progreso, aunque sí imprimirle dirección. Si tomamos conciencia de que convivimos con máquinas que actúan, pero no comprenden, la responsabilidad por lo que estas hacen y por lo que nosotros hacemos con ellas exige una vivencia plena de humanidad. Porque sabemos que cualquier desarrollo virtuoso es siempre humano; demasiado humano para automatizarse, reducirse a flujo y quedar librado a la contingencia algorítmica.
* La autora es doctora en Comunicación Social, profesora investigadora del Instituto de Ciencias para la Familia de la Universidad Austral
