No necesitamos reglas de IA: necesitamos una constitución
Hoy, te han pasado por alto para un trabajo. Te han rechazado un préstamo. Tú, o quizás tu hijo, fueron rechazados de una universidad de prestigio. Y nunca supiste que ocurrió. Cada día, en algunos de los aspectos más protegidos de nuestras vidas, los algoritmos están tomando decisiones que ningún ser humano podría justificar cara a cara.
La necesidad de un marco ético
Bajo presión, las empresas están debatiendo marcos éticos y estableciendo consejos asesores. Sin embargo, no necesitamos un manifiesto de inteligencia artificial; necesitamos una constitución. Tal como se utiliza hoy, la IA es simplemente incompatible con los derechos civiles.
Como científico jefe de una de las primeras empresas en utilizar IA en la contratación, construí el sistema que te pasó por alto para ese trabajo. Los grandes empleadores que eran nuestros clientes no necesitaban esperar tu solicitud de empleo; en efecto, nosotros aplicamos por ti, lo supieras o no. Pero cuando la IA decide quién es contratado, nunca sabrás por qué no fuiste tú. Un ser humano preguntándote sobre tu edad, tus opiniones políticas o tu planificación familiar durante el proceso de contratación sería una violación de tus derechos civiles. Que la IA haga lo mismo sin tu conocimiento es igual de incorrecto, pero completamente oculto a la vista.
Más allá de la contratación, algunos empleadores están probando sistemas para despedir automáticamente a trabajadores de baja productividad. Pero, ¿por qué despedir a la gente si puedes "ayudarlos" a elegir irse? Otras empresas están desarrollando evaluaciones de personalidad basadas en aprendizaje automático que eliminan a los solicitantes que se predice que pedirán aumentos salariales, apoyarán la sindicalización o mostrarán tendencias de cambio de trabajo.
Préstamos y discriminación
Los préstamos impulsan la movilidad económica, aunque históricamente han sido una poderosa herramienta de discriminación. He trabajado en múltiples proyectos para reducir ese sesgo utilizando IA. Sin embargo, aprendí que, incluso si un algoritmo funciona exactamente como se pretende, sigue estando diseñado únicamente para optimizar los retornos financieros del prestamista que lo pagó. El proceso de solicitud de préstamo ya es impenetrable para la mayoría, y ahora tus esperanzas de ser propietario de una vivienda o de financiar un pequeño negocio mueren en un cálculo de 50 milisegundos.
IA en la salud
Las innovaciones impulsadas por IA están ocurriendo en salud y biotecnología cada semana. En teoría, la IA debería ser imparcial, pero si eres un caso atípico, esa increíble nueva herramienta de diagnóstico podría no diagnosticarte con precisión. ¿Cómo sabrías si el algoritmo propietario de una empresa desconocida fue entrenado con pacientes como tú? Y si todos los médicos en tu región usan la misma herramienta, no tienes a dónde ir por una segunda opinión. Cuando un médico impulsado por IA te dice que estás exagerando, la compañía de seguros impulsada por IA probablemente estará de acuerdo.
El derecho a la defensa
En el ámbito legal, el derecho a un abogado y a la revisión judicial son garantías constitucionales en los EE. UU. y derechos civiles establecidos en gran parte del mundo. Estos son los cimientos de tus libertades civiles. Cuando los algoritmos actúan como testigos expertos, testificando en tu contra pero inmunes al contrainterrogatorio, estos derechos no solo se erosionan, sino que dejan de existir.
La imperfección humana y la IA
Las personas no son perfectas. Ni la formación ética para los ingenieros de IA ni la legislación de políticos poco informados pueden cambiar esta simple verdad. No necesito asumir que los ejecutivos de las grandes tecnológicas son actores malintencionados para entender que lo que está en su interés personal no siempre está en el mío. Los redactores de la Constitución de los EE. UU. reconocieron esta verdad simple y buscaron aprovechar la naturaleza humana para un bien mayor. La Constitución no asumió simplemente que las personas siempre actuarían hacia ese bien mayor. En su lugar, definió un mecanismo dinámico: el interés propio y el equilibrio de poder, que obligaría al compromiso y a la buena gobernanza. Su visión de tratar a las personas como actores reales en lugar de ángeles produjo uno de los mayores marcos de gobernanza de la historia.
Un llamado a la acción
La IA puede hacer cosas maravillosas. Pero los derechos civiles no pueden existir en un mundo de cálculos ocultos. Así como con un abogado o un médico, debemos tener IA que actúe en nuestro interés propio. La IA necesita una constitución, o más precisamente, necesitamos una constitución que defina el acceso a la inteligencia artificial actuando únicamente en nuestro beneficio como un derecho civil.
