Carissa Véliz advierte sobre las implicaciones éticas de la IA en las predicciones

En 2020, la filósofa hispanomexicana Carissa Véliz se destacó en la discusión sobre los efectos de la tecnología a nivel global con su libro Privacidad es poder, publicado por Destino. En este trabajo, Véliz argumenta sobre la inaceptabilidad del capitalismo de vigilancia, que trae consigo una constante intromisión en la privacidad de los individuos. Seis años después, regresa a las librerías con Prophecy (Profecía), que estará disponible en España a partir de junio a través de Debate.

La Influencia de la Estadística y la IA

En su nueva obra, Véliz explora cómo la estadística y las predicciones, elementos centrales de la inteligencia artificial (IA), actúan como herramientas de poder que moldean la realidad. «Las predicciones a menudo funcionan como órdenes disfrazadas de búsqueda de conocimiento. La economía de datos se ha expandido porque deseamos predecir; de otro modo, no invertiríamos tiempo ni energía en ello», explica.

Atractivo de las Profecías

Pregunta: ¿Qué hace atractivas las profecías?
Respuesta: En los últimos años, he observado una creciente cultura de la adivinación relacionada con la IA. El machine learning genera una mentalidad probabilística, que se articula junto a mercados de predicción, presentando estos pronósticos como hechos. Esta tendencia tiene profundas implicaciones éticas.

Impacto de las Predicciones

P: En su libro, menciona que las predicciones pueden moldear el mundo y forzar su cumplimiento.
R: A menudo somos ingenuos al respecto. Las predicciones suenan a hechos y parecen descripciones del mundo, pero, al analizarlas filosóficamente, vemos que no lo son. Las predicciones sobre seres humanos afectan nuestras expectativas, lo que a su vez, moldea la realidad, dotándolas de un poder cautivador.

Origen de la Probabilidad

P: Aunque las matemáticas tienen siglos de antigüedad, el estudio de las probabilidades es relativamente reciente. ¿Por qué?
R: Los griegos, a pesar de su sofisticación filosófica y matemática, no desarrollaron una teoría de la probabilidad. Esto podría deberse a que contradecía la idea de un destino escrito por los dioses.

Estadística y Colonialismo

P: Usted establece un paralelismo entre el surgimiento de la matemática de la probabilidad y los censos, destacando su relación con el colonialismo. ¿Por qué?
R: Es crucial entender cómo se desarrolló la estadística poblacional. El trabajo de Francis Galton reveló la curva normal a través de dos caminos distintos: apuestas y observaciones astronómicas. Aplicar esta herramienta a cuestiones sociales, de manera normativa, ha sido un medio para controlar poblaciones, comenzando por aquellas en las que se tenía menos confianza.

Predicciones como Herramientas de Poder

P: Sus ideas sugieren que las predicciones son herramientas de poder. ¿Por qué?
R: Hacer una predicción que suena como un hecho puede convencer a la gente de que ese es el futuro, lo que se traduce en una manera de crear el futuro deseado. Al considerar una predicción como un hecho, en realidad estamos obedeciendo una orden.

Deshumanización a Través de las Estadísticas

P: La categorización de las personas desdibuja su idiosincrasia. ¿Cómo influye la IA en esto?
R: Considerar a las personas meros números es deshumanizante. Cuando el gobierno impone categorías fijas, las personas se ven obligadas a adaptarse a ellas, sacrificando así la complejidad de su identidad.

Desconfianza en los Números

P: Esta burocracia numérica, ¿por qué se desarrolló?
R: La desconfianza en las personas favorece la confianza en los números. El impulso por justificar la administración a través de estadísticas crea una especie de impersonalidad que limita la rendición de cuentas.

El Papel de la IA

P: La IA, construida sobre predicciones con datos, ¿es un castillo de naipes?
R: Así es. A medida que reforzamos la ilusión de que todo es predecible, nos volvemos ciegos a los riesgos sistémicos que la IA también genera, inconvenientes que no pueden medirse con un número.

En Busca de Soluciones

P: ¿Cómo podemos enfrentar esta situación?
R: Debemos ser más inteligentes en el uso de la predicción. No estoy en contra de su uso, pero debemos ser claros sobre qué se puede y qué no se puede predecir. En lugar de dedicar recursos a lo incierto, podríamos enfocarnos en crear una sociedad más robusta ante eventualidades conocidas, como futuras pandemias.

Conocimiento y Predicciones

P: ¿Una predicción refleja algo sobre el mundo o sobre nuestro conocimiento del mismo?
R: Si hay grandes variaciones en las predicciones sobre un tema, como la IA, eso indica que realmente no estamos entendiendo. Ser experto en un área no implica saber sobre su futuro; el futuro no está escrito.

Utilitarismo y Burocracia

P: Discute el papel del utilitarismo y los altruistas efectivos en la burocracia.
R: Los utilitaristas han tenido éxito en moldear nuestra forma de pensar sobre la moral, pero es importante criticarlos por su influencia en las políticas públicas. Los altruistas efectivos, que justifican enriquecerse para ayudar a otros, siempre hallarán formas de volver a la conversación, como lo demuestra el caso de Sam Bankman-Fried.