Según un nuevo estudio de la Universidad Hebrea, los sistemas modernos de IA emiten juicios estructurados sobre las personas que se asemejan a la confianza humana pero difieren significativamente en la metodología. La investigación, publicada en *Proceedings of the Royal Society*, analizó más de 43.000 decisiones simuladas y alrededor de 1.000 participantes humanos en cinco escenarios.
Estos escenarios incluían evaluar decisiones crediticias, valorar la confianza en una niñera, calificar el desempeño de un jefe y determinar donaciones a fundadores de organizaciones sin fines de lucro. Tanto los humanos como la IA mostraron preferencia por personas percibidas como competentes, honestas y bien intencionadas.
El profesor Yaniv Dover afirmó: “La IA no toma decisiones aleatorias. Capta algo real sobre cómo los humanos se evalúan unos a otros”. Sin embargo, los humanos forman impresiones holísticas integrando múltiples rasgos, mientras que la IA evalúa características separadas como la competencia y la integridad.
Valeria Lerman explicó: “La IA es más limpia, más sistemática y eso puede conducir a resultados muy diferentes”. Este enfoque estructural fue evidente incluso en contextos idénticos sobre los individuos juzgados.
El estudio encontró que los sesgos de la IA pueden ser más sistemáticos, predecibles y, a veces, más fuertes que los sesgos humanos. En contextos financieros, los sistemas de IA exhibieron variaciones significativas basadas en rasgos demográficos. Las personas mayores a menudo fueron favorecidas en las decisiones de préstamos y donaciones, mientras que la religión y el género también influyeron en los resultados en modelos de IA seleccionados.
En particular, diferentes modelos de IA pueden producir evaluaciones diferentes del mismo individuo, lo que indica que la elección del sistema de IA puede afectar sustancialmente los resultados del mundo real. “El modelo que utilices realmente importa”, señaló Lerman.
Los grandes modelos lingüísticos se utilizan cada vez más para seleccionar candidatos a puestos de trabajo, evaluar la solvencia crediticia y orientar las decisiones organizativas. Si bien la IA puede reflejar aspectos del razonamiento humano, carece de la comprensión matizada exclusiva de los humanos.
“Estos sistemas son poderosos”, comentó Dover. “Pueden modelar aspectos del razonamiento humano de manera consistente. Pero no son humanos y no debemos dar por sentado que ven a las personas como nosotros”.
Los investigadores enfatizan que el estudio destaca la necesidad de comprender los juicios de la IA a medida que estos sistemas pasan de ser herramientas a tomadores de decisiones autónomos. Piden conciencia en lugar de precaución, centrándose en la necesidad de comprender cómo la IA percibe la confianza.
