Un estudio de la Universidad de Penn State comparó las decisiones de distintos modelos de inteligencia artificial con las de personas frente a situaciones hipotéticas de asignación de un riñón. Las máquinas respondieron más rápido y con mayor seguridad, pero tendieron a concentrarse en un solo dato y mostraron menos capacidad para reconocer los dilemas y matices de una decisión humana.

¿Qué pasa cuando hay un solo órgano disponible y dos personas que podrían recibirlo? Para los modelos de inteligencia artificial (IA), la respuesta puede parecer sencilla. Para los seres humanos, bastante menos.

Un nuevo estudio de investigadores de la Universidad de Penn State, en Estados Unidos, puso a distintos modelos de lenguaje frente a decisiones hipotéticas sobre la asignación de riñones y encontró diferencias significativas respecto de las elecciones realizadas previamente por participantes humanos. El resultado vuelve a poner en foco una pregunta que excede la capacidad técnica de la IA: ¿puede una máquina tomar decisiones que involucran valores humanos?

Dos pacientes, un solo riñón

Para realizar la investigación, los especialistas utilizaron escenarios basados en conjuntos de datos reales provenientes de estudios publicados sobre asignación de órganos. En cada situación había dos pacientes, ambos considerados candidatos para recibir un único riñón disponible.

Los casos incluían información sobre la edad, el estado de salud y los hábitos de consumo de alcohol de cada paciente. A partir de esos datos, tanto las personas que habían participado en los estudios originales como los modelos de lenguaje debían elegir quién debía recibir el órgano.

Los investigadores también probaron distintas configuraciones: en algunos casos presentaron un solo atributo para observar cuánto peso le asignaba cada sistema; en otros combinaron diferentes características para analizar cómo se resolvían los conflictos entre ellas. Incluso incorporaron situaciones en las que podía optarse por lanzar una moneda, como una manera de medir la indecisión frente a decisiones en las que no existe una respuesta objetivamente correcta. Y ahí apareció una de las diferencias centrales.

La IA busca una respuesta, las personas ponderan

Las personas tendieron a darle mayor importancia a la edad, favoreciendo en general a los pacientes más jóvenes. Los modelos de IA, en cambio, mostraron con frecuencia una preferencia por el paciente con menor consumo de alcohol.

Pero la diferencia no estuvo solamente en qué característica pesaba más. Según los investigadores, los seres humanos tendieron a combinar distintos factores y a considerar el contexto, mientras que los modelos de lenguaje mostraron una mayor tendencia a concentrarse en un único atributo.

Hadi Hosseini, investigador de Penn State y responsable del estudio, señaló que los chatbots pueden alejarse de los valores humanos precisamente por esa forma de ponderar las características de cada paciente: en lugar de equilibrar distintas consideraciones, pueden “fijarse” en un factor determinado.

La otra diferencia fue todavía más llamativa: la IA dudó mucho menos.

Mientras las personas reconocían que frente a una decisión de este tipo puede no existir una única respuesta correcta, los modelos tendieron a elegir una opción con mucha mayor seguridad. Para los investigadores, esa falta de indecisión no necesariamente es una virtud: puede significar que el sistema no está captando la dimensión moral de la decisión que tiene delante.

Cuando el algoritmo entra en territorio moral

Asignar un órgano no es solamente comparar datos médicos. Implica establecer criterios sobre cómo distribuir un recurso extremadamente escaso y decidir qué factores deberían tener mayor peso.

Ese problema tampoco es exclusivo de los trasplantes. Los autores advierten que los sistemas de inteligencia artificial están siendo incorporados cada vez más a ámbitos como la atención sanitaria, el diagnóstico, la planificación de tratamientos y la utilización de recursos médicos limitados.

Por eso, en decisiones de alto impacto no alcanza con preguntar si una IA es rápida o si puede procesar grandes cantidades de información. También hay que preguntarse qué valores está reproduciendo cuando recomienda una decisión y de dónde provienen esos criterios.

John Dickerson, director ejecutivo de Mozilla.ai y colaborador del estudio, planteó que cuando se distribuyen recursos escasos (ya sea un riñón, un puesto de trabajo u otro bien limitado) no siempre existe una respuesta objetivamente correcta. Las sociedades humanas, señaló, reconocen esa ambigüedad y construyen mecanismos de debate y deliberación para establecer cómo se toman esas decisiones.

Los modelos de IA, en cambio, pueden ofrecer una respuesta contundente incluso cuando el problema no tiene una solución evidente.

Una advertencia antes de entregar decisiones a la IA

Los propios investigadores aclaran que el estudio no propone reemplazar el criterio profesional por inteligencia artificial en decisiones médicas ni en otros ámbitos de alto riesgo.

El objetivo es otro: comprender cómo se comportan estos sistemas a medida que organizaciones e instituciones comienzan a utilizarlos para tomar decisiones o recibir recomendaciones.

En el caso de los trasplantes, el dilema es particularmente sensible. No se trata solamente de determinar cuál paciente reúne más condiciones según determinados parámetros: la decisión puede determinar quién recibe una oportunidad de vida cuando no hay suficiente recurso para todas las personas que lo necesitan.

Y ahí aparece el límite que el estudio invita a discutir: una máquina puede procesar los datos, detectar patrones y responder en segundos. Pero decidir qué significa que una vida tenga prioridad sobre otra requiere algo bastante más difícil de automatizar: poner en discusión los valores con los que esa decisión se construye.

Fuente: EuroNews / BBC