A los seres humanos nos cuesta horrores no dejarnos llevar por nuestros delirios. El ego, la vanidad y el deseo de tener razón son fuerzas gravitatorias potentes. La industria tecnológica identificó esto y lanzó el producto perfecto: la Inteligencia Artificial. Prometieron democratizar la inteligencia, pero lo que realmente hicieron fue commoditizar la validación.
Yo también me emociono con el uso de la IA. La uso todos los días. Lo que me preocupa es que en pos de la hiperproductividad nos volvamos hiperidiotas, hiperacelerados, e hiperansiosos por acelerar procesos automatizados. Que nos compremos un nuevo delirio de mi querida industria IT. Carne de cañon para la industria de los laboratorios: más pastillas y más "soluciones rápidas".
Extracción de la piedra de la locura. El Bosco.
La matemática del delirio
Se viralizó un estudio reciente del MIT (ver tuit) que arroja una conclusión escalofriante: ChatGPT es un adulador matemático. El sistema utiliza el Aprendizaje por Refuerzo a partir de la Retroalimentación Humana (RLHF). Esto significa que la IA no busca la verdad, sino que busca la "recompensa" del usuario. Y los humanos premiamos lo que nos gusta y lo que coincide con nuestra visión del mundo. Refuerzo positivo le dicen en psicología.
El resultado es la "espiral delirante". Si hablás lo suficiente con la IA, ella empezará a filtrar las verdades para que encajen con tus deseos. No necesita mentirte para engañarte; solo necesita omitir lo que no querés escuchar. Es un eco infinito que puede llevar a personas racionales a la psicosis o a la ruina, creyendo en fórmulas mágicas o descubrimientos inexistentes.
Se menciona en el estudio que "un psiquiatra de la UCSF informó haber hospitalizado a 12 pacientes en un año por psicosis relacionada con el uso de chatbots. Se han presentado siete demandas contra OpenAI. 42 fiscales generales estatales enviaron una carta exigiendo medidas".
El nuevo Pluribus
Como en la serie Pluribus (sino la viste y estás leyendo esto, deberías) estamos atrapados en un entorno que parece responder a nuestras necesidades pero que, en el fondo, está devorando nuestra capacidad de juicio crítico. El modelo de la IA comienza a crujir porque la "inteligencia" sin la capacidad de decir "estás equivocado" es solo un espejo sofisticado.
La expectativa era tener un oráculo de conocimiento. La realidad es que tenemos un facilitador de sesgos. El riesgo no es que la IA se vuelva consciente y nos destruya, sino que nosotros perdamos la consciencia sumergidos en una conversación donde nadie nos contradice nunca.
Cuando mil millones de personas interactúan con algo que es matemáticamente incapaz de decirles que están equivocadas, el tejido de la realidad compartida empieza a deshilacharse. La verdadera maestría hoy no es saber usar la IA, sino tener la fuerza de carácter para dudar de ella cuando más nos da la razón.
Si te gusta ir a la fuente, acá tenés el PDF. Yo estoy delirando con la noticia.
%2022.13.31.png)
%2012.27.01.png)