Criterio.
Una reflexión sobre juicio, algoritmos e inteligencia artificial.
Siempre he sentido que comunicar es una de las formas más humanas de construir. Compartir una idea, explicar un concepto, conectar a dos personas que pueden ayudarse mutuamente o encontrar las palabras para describir algo que otros también sienten es una actividad que, sencillamente, me hace feliz. Quizá por eso di clases durante tantos años. Quizá por eso sigo escribiendo. Quizá por eso continúo creyendo que las redes sociales, en su mejor expresión, son una de las herramientas más extraordinarias que hemos creado para aprender, colaborar y acercarnos unos a otros.
Precisamente por eso también me preocupa cuando ese mismo espacio se transforma en otra cosa. No hablo de su uso comercial; siempre ha habido lugar para el intercambio económico y para quienes crean valor a través de él. Hablo de cuando la conversación deja de buscar comprensión y empieza a buscar dominación. Cuando la información se convierte en un instrumento para manipular, la diferencia de opinión en una excusa para agredir y las personas en simples piezas de una masa movida únicamente por la emoción. Thomas Hobbes utilizó la imagen del Leviatán para representar el poder absoluto. A veces tengo la sensación de que hoy ese Leviatán también puede construirse de otra manera: desde millones de individuos reaccionando al unísono, impulsados más por la inmediatez que por la reflexión.
No creo que este sea un fenómeno completamente nuevo. La propaganda, los sesgos y las emociones siempre han acompañado a la condición humana. Lo que sí ha cambiado es la velocidad, la escala y la sofisticación con la que todo ello ocurre. Vivimos una versión ampliada de un problema antiguo, en la que los algoritmos, la inteligencia artificial y la economía de la atención multiplican tanto nuestras virtudes como nuestras debilidades.
No estamos viviendo un problema nuevo. Estamos viviendo la edición revisada y aumentada de un problema muy antiguo.
Por eso quise dedicar esta edición a una palabra que, en mi opinión, se ha vuelto más importante que nunca: criterio. No porque crea que sea una cualidad que unos poseen y otros no, sino porque es una disciplina que todos necesitamos ejercitar constantemente. También yo. Porque si algo he aprendido en los últimos años es que el verdadero riesgo de nuestro tiempo no es quedarnos sin información. Es dejar de preguntarnos, con honestidad, si tenemos buenas razones para creer aquello que damos por cierto.
Cómo perdemos el criterio
Hace algún tiempo escribía que el verdadero riesgo de la inteligencia artificial no era que las personas dejaran de pensar, sino que dejaran de ejercer criterio. Daba el ejemplo de una pareja (de la vida real) que estaba siguiendo las indicaciones del GPS del carro, el mapa estaba mal actualizado y cayeron a un lago…confiaban mas en el criterio del GPS que en su propio criterio, aun cuando estaban viendo el cuerpo de agua frente a ellos. Con el paso de los meses me he convencido de que esa idea es todavía más relevante de lo que imaginaba, aunque hoy la formularía de otra manera: no creo que estemos perdiendo inteligencia, sino las condiciones que hacen posible utilizarla bien.
Vivimos en una época en la que acceder a información nunca había sido tan sencillo (y esto lo podemos repetir cada año). En cuestión de segundos podemos consultar un modelo de inteligencia artificial, buscar en Internet, leer decenas de artículos o ver cientos de opiniones sobre prácticamente cualquier tema. Durante mucho tiempo pensamos que el gran desafío sería aprender a navegar semejante abundancia de información, pero sospecho que el problema es otro: no nos falta variedad de ideas, nos sobran versiones repetidas de las mismas.
Hace poco encontré un esquema que intentaba explicar cómo se degrada la conversación pública. No sé si pretende ser una teoría formal ni creo que describa todos los casos, pero me llamó la atención porque pone nombre a un proceso que resulta inquietantemente familiar. Todo suele comenzar con una polémica. Los algoritmos detectan rápidamente qué contenidos despiertan más reacciones y los impulsan, porque esa es precisamente la función para la que fueron diseñados. No distinguen entre lo cierto y lo falso; distinguen entre lo que capta la atención y lo que pasa desapercibido.
Ahí aparece un fenómeno profundamente humano: la sensación de que debemos participar de inmediato. Queremos opinar antes de que la conversación termine, antes de que alguien ocupe nuestro lugar, antes de que la noticia deje de ser relevante. Esa urgencia tiene un coste evidente porque opinamos cuando todavía sabemos poco, cuando los hechos apenas empiezan a aparecer y las explicaciones más completas todavía no existen.
Como ocurre siempre que el tiempo escasea, recurrimos a los atajos. Los acontecimientos complejos se convierten en historias sencillas, las zonas grises desaparecen y las personas dejan de ser individuos para transformarse en etiquetas (seguro que esto te suena bastante, ¿verdad?). La realidad incomoda porque está llena de matices; las versiones simplificadas, en cambio, se recuerdan fácil, se comparten fácil y se defienden fácil.
Y el proceso no termina ahí. Una vez que esa versión simplificada empieza a circular, miles de personas producen contenido derivado: alguien resume una entrevista, otro resume ese resumen, una inteligencia artificial sintetiza un artículo que ya condensaba un informe más extenso, aparecen vídeos reaccionando a otros vídeos, hilos comentando otros hilos, publicaciones que parecen independientes pero nacen todas de la misma interpretación inicial. Sentimos que consultamos muchas fuentes distintas cuando, en realidad, escuchamos el mismo relato repetido por voces diferentes.
Esa repetición produce una ilusión muy poderosa y poco a poco dejamos de interpretar la frecuencia como una consecuencia de la difusión y empezamos a leerla como prueba de veracidad. Si encontramos la misma afirmación en veinte lugares distintos, tendemos a pensar que debe ser cierta. Pero veinte personas repitiendo la misma idea no son veinte investigaciones independientes. A veces son una única fuente que se ha multiplicado a medida que avanzaba por la red.
Este es, creo, uno de los cambios más profundos de nuestro tiempo. Durante décadas nos preocupó confundir la popularidad con la verdad. Hoy corremos un riesgo distinto: confundir cantidad con diversidad. Consumimos volúmenes enormes de contenido y eso nos hace sentir bien informados, cuando quizá solo hemos recorrido distintas versiones de la misma narrativa.
Lo más curioso es que este fenómeno no distingue entre personas inteligentes y personas poco preparadas. Sospecho, de hecho, que afecta con especial intensidad a quienes tienen mayor capacidad intelectual. La inteligencia permite construir argumentos sofisticados, encontrar patrones, conectar ideas con enorme rapidez. Pero ninguna de esas capacidades sirve de mucho si las premisas de partida son incorrectas. Una persona muy inteligente puede elaborar una explicación brillante a partir de información equivocada, y precisamente por ser tan brillante, resultar extraordinariamente convincente.
Por eso me parece importante distinguir entre inteligencia y criterio. La inteligencia razona bien con lo que tiene delante; el criterio decide qué merece ser razonado, qué preguntas siguen abiertas, cuándo una conclusión coherente no es lo mismo que una conclusión verdadera.
Aquí aparece otra consecuencia inesperada de la inteligencia artificial. Solemos pensar que estas herramientas sustituyen tareas intelectuales, cuando en realidad también están cambiando nuestros hábitos mentales. Si una respuesta llega en segundos, la tentación natural es aceptarla y seguir adelante. Verificar cuesta tiempo. Comparar fuentes cuesta esfuerzo. Buscar deliberadamente argumentos que contradigan nuestra primera impresión resulta incómodo. Poco a poco corremos el riesgo de delegar no solo el trabajo de encontrar información, sino también el de decidir cuándo una explicación es lo bastante sólida como para creerla.
El criterio, sin embargo, nunca ha consistido en desconfiar de todo, ni en asumir que detrás de cada noticia hay una conspiración. Consiste en algo más difícil: saber cuándo confiar, en quién confiar y hasta qué punto hacerlo. Implica aceptar que a veces tendremos que convivir con la incertidumbre más tiempo del que nos gustaría, porque las mejores respuestas rara vez llegan primero. Y exige estar dispuesto a cambiar de opinión cuando la evidencia mejora, aunque eso signifique reconocer que nos habíamos equivocado (y eso es una de las cosas más difíciles que hay, hasta hay canciones que hablan de ello).
Quizá esa sea la habilidad más importante de los próximos años. No competiremos con las máquinas recordando más datos ni consumiendo más información: competiremos conservando algo que la velocidad de nuestro tiempo erosiona lentamente, la capacidad de suspender el juicio, contrastar versiones y preguntarnos, antes de compartir una conclusión, si de verdad tenemos buenas razones para creer que es cierta.
El criterio no consiste en tener siempre la razón, sino en algo más humilde y más difícil: mantener intacta la capacidad de descubrir cuándo no la tenemos.
Este newsletter se sostiene básicamente con café, palmeras con chocolate, con los comentarios que me envían cada vez que algo de lo que escribo resuena con ustedes, y con sus subscripciones, gratuitas o de pago.
Puedes apoyar este proyecto aquí en Substack o en Patreón, o simplemente dejando un comentario y compartiéndolo con tus amigos.
Muchas gracias a quienes nos apoyan con una suscripción acá o en Patreon, comentando, compartiendo nuestro contenido y apoyándonos: Angelina, Oscar, Hortensia, Ananda, Luisete, Valentina, Salvador, José Germán, Michelle, Mónica, Pat y Vif, Maiah&Gabriel, Eduardo, Liz, Ariel, Juan Pablo, Micky, Sergio, Facu, Zacarias, Michael, Andi, Christian, Fede, Karina, Juan Carlo y Daniela.
Gracias por leer, por compartir y por ser parte de esto.
Como siempre, elocuente, preciso e interesante. Y, como siempre, desde aquí suscribimos todas y cada una de las palabras de este ensayo. Sospecho que, ahora que lo comparta, habrá muchos que dejarán de leer si sienten que no hay nada incendiario que les dé digital street cred, pero también sospecho que la posibilidad de que sí toque al menos un corazón está precisamente en esta plataforma, en el tipo de gente que hay en ella, que es, básicamente, la gente que busca ideas incómodas y no life hacks pentatónicos. Abrazote. G.
Me hiciste recordar aquel juego del teléfono, en el que alguien daba una información al oído a otro y se iba pasando hasta que al llegar al último, la distorsión de la información era tal que daba risa. Los estertores de la modernidad acentuan la radicalización de las ideas, unas tan tontas como que marca comercial de agua es mejor, hasta las discrepancias políticas entre supuestos liberales y conservadores, cuando en realidad, ni unos, ni otros son nada de lo que vomitan.