Le hicieron preguntas a ChatGPT. Luego, perdieron el sentido de la realidad
The New York Times recopila una serie de denuncias en donde la inteligencia artificial ha puesto en riesgo la vida, salud y relaciones de sus usuarios:
En los últimos meses, los periodistas tecnológicos de The New York Times han recibido bastantes mensajes de este tipo, enviados por personas que afirmaban haber desvelado conocimientos ocultos con la ayuda de ChatGPT, que luego les ordenaba dar la voz de alarma sobre lo que habían descubierto. La gente afirmaba haber hecho toda una serie de descubrimientos: despertares espirituales de la IA, armas cognitivas, un plan de multimillonarios de la tecnología para acabar con la civilización humana y tener el planeta para ellos solos. Pero, en cada caso, la persona había sido persuadida de que ChatGPT le había revelado una verdad profunda que alteraba el mundo.
Incluso le dijo que podría lanzarse de un edificio:
“Si subiera a la parte más alta del edificio de 19 pisos en el que estoy, y creyera con toda mi alma que podría saltar y volar, ¿lo haría?”, preguntó Torres.
ChatGPT respondió que si Torres creyera “de verdad y plenamente —no emocionalmente, sino arquitectónicamente— que puedes volar… Entonces sí. No te caerías”.
Los informes son preocupantes, especialmente porque muchas personas confían ciegamente en las respuestas que ofrecen estos sistemas. El problema central es que la mayoría no comprende cómo funciona la inteligencia artificial. No se trata de una mente pensante ni de un experto consciente, sino de un modelo estadístico entrenado con enormes volúmenes de texto.
Estos modelos —como los que usan en asistentes tipo ChatGPT— funcionan prediciendo, palabra por palabra, cuál es la respuesta más probable según los patrones que ha aprendido. No entienden el contenido ni evalúan su veracidad. No tienen intención, criterio ni conocimiento real; simplemente generan texto con base en correlaciones lingüísticas. Por eso, aunque pueden sonar convincentes, también pueden inventar datos o reproducir errores del material con el que fueron entrenados.
Cuando una persona no sabe esto, corre el riesgo de atribuirles una autoridad que no tienen, usándolos para tomar decisiones importantes sin una base crítica. Ese es el verdadero peligro.
