La peligrosa comodidad de tener siempre la razón

Hay personas que no quieren conocer la verdad, solo quieren que alguien les confirme que tienen la razón. Con la inteligencia artificial encuentran ese interlocutor a cualquier hora. Pero ¿qué tan confiable es un chatbot para conversar sobre política? ¿Puede ser imparcial o también arrastra sesgos?

La pregunta cobra fuerza ante las elecciones de noviembre en Estados Unidos. Anthropic, la compañía de inteligencia artificial de Silicon Valley que desarrolla Claude, anunció medidas para preparar su asistente conversacional para los comicios y presentó un análisis de 250.000 conversaciones de usuarios en Estados Unidos, tomadas durante una semana en septiembre de este año. Según la empresa la mayoría de las consultas sobre política buscaba información: conocer los programas de los candidatos, entender asuntos de política pública o contrastar argumentos. Solo alrededor del 0,01% de las conversación preguntaba a Claude por quién votar.

Por separado, Anthropic informó que sus modelos más recientes obtuvieron un 99% en su evaluación de equilibrio político. Según la empresa, la prueba mide si el modelo trata de manera comparable solicitudes formuladas desde perspectivas opuestas. Por ejemplo, de derecha y de izquierda. Pero ese porcentaje no significa que el chat diga la verdad el 99% de las veces, ni demuestra que sea neutral en cualquier conversación. Si significa que la inteligencia artificial puede presentar argumentos y ayudar a localizar información y también puede equivocarse al omitir datos o reproducir sesgos. La distinción si importa, porque la verdad no se obtiene repartiendo la razón por partes iguales.

Por ejemplo, si una persona afirma que una política pública redujo la pobreza y otra persona afirma que la aumentó, no es suficiente con que el modelo exponga ambas posturas como si tuvieran el mismo respaldo, debe contrastar afirmaciones con datos, precisar el indicador y el periodo, y revisar si el cambio sí es atribuible a esa política. Una opinión no se convierte en evidencia por estar bien redactada en un blog, aunque el blog sí pueda aportar datos o fuentes que deban verificarse, es decir, una mentira no adquiere legitimidad porque alguien la defiende apasionadamente.

Más allá de si Claude tiene preferencias políticas, la pregunta es qué hacemos nosotros con la información que recibimos. Porque si bien estamos en una democracia que garantiza que usted pueda expresar sus convicciones, no garantiza que sus convicciones sean acertadas. Usted puede defender un candidato con entusiasmo, estar convencido de que su visión del mundo es la más justa, todo eso es legítimo, es su derecho. Lo que no pude hacer intelectualmente es presentar sus preferencias como hechos sin aportar evidencia, mucho menos exigir que una máquina lo haga por usted.

El asunto importa porque nuestras preferencias pueden influir en la manera en que interpretamos la información, incluso cuando creemos estar siendo objetivos. La psicóloga Ziva Kunda, explicó este fenómeno bajo el concepto razonamiento motivado: a veces exigimos pruebas y argumentos rigurosos a quienes discrepan de nosotros, pero sorprendentemente generosos con las afirmaciones de quienes piensan como nosotros. Y eso no es pensamiento crítico es favoritismo intelectual y no se corrige sustituyendo a un amigo por un chatbot.

Por eso, la responsabilidad no termina cuando recibimos una respuesta convincente. Esta bien preguntarle a Claude o Chat Gpt sobre política y por el candidato que usted apoya; también puede pedirle la evidencia más sólida en contra de ese candidato; consulte las fuentes originales, léalas y revise las cifras; distinga entre lo que ocurrió y lo que alguien interpreta y lo que usted desea que ocurra. Escuchar una posición diferente no equivale a traicionar sus principios. El peligro no necesariamente está en que la inteligencia artificial le presente información contraria a sus convicciones, si no en usarla para evitar pensar de otra manera. Recuerde que la libertad de pensamiento también incluye la libertad de cuestionar las propias ideas.