Más allá del optimismo y el miedo
El discurso sobre la IA a menudo se divide entre dos campos insatisfactorios. Uno trata la IA como salvación inevitable: un motor general de productividad, medicina, educación, creatividad y abundancia. El otro la trata como una catástrofe inminente: una fuerza de desempleo, vigilancia, manipulación, dependencia y colapso institucional.
Ambos marcos contienen fragmentos de verdad. Ninguno es suficiente para la gobernanza. La pregunta real no es si la IA es buena o mala. La pregunta real es bajo qué condiciones la IA mejora la vida humana, bajo qué condiciones extrae valor de la sociedad y qué salvaguardas se requieren antes de que el despliegue se vuelva irreversible.
Una iniciativa seria de IA y Sociedad debería, por tanto, comenzar con un registro de impacto.
Qué mide un registro de impacto
Un registro de impacto de la IA rastrearía más que el rendimiento técnico. Preguntaría si un sistema mejora el dominio que entra, o simplemente reduce costes dentro de una organización mientras exporta daños a otro lugar.
En educación, ¿la IA mejora la comprensión o produce dependencia fluida? En periodismo, ¿amplía el acceso a la información o inunda la esfera pública con ruido sintético de bajo coste? En salud, ¿mejora el diagnóstico y la atención o crea sistemas de triaje opacos que los pacientes no pueden impugnar? En el trabajo, ¿aumenta la capacidad humana o disuelve las vías de entrada mediante las cuales normalmente se forma la pericia?
El registro debe incluir beneficios. También debe incluir externalidades: costes de atención, uso de energía, extracción de datos, desprofesionalización, amplificación de sesgos, brechas de responsabilidad, dependencia psicológica y vulnerabilidad democrática.
La sostenibilidad no es solo ambiental
La IA sostenible a menudo se discute en términos de energía, chips y centros de datos. Esas cuestiones importan. Pero la sostenibilidad social también importa.
Una sociedad puede adoptar sistemas técnicamente eficientes pero socialmente corrosivos. Puede reducir el coste administrativo mientras aumenta la soledad. Puede personalizar la educación mientras debilita los estándares compartidos. Puede automatizar el servicio al cliente mientras normaliza la inaccesibilidad institucional. Puede generar contenido infinito mientras degrada las condiciones culturales que hacen significativa la creación.
La pregunta de sostenibilidad es, por tanto, más amplia: ¿puede este sistema escalar sin debilitar los fundamentos humanos, cívicos, culturales y ecológicos de los que depende?
La ética después del despliegue
Muchas organizaciones tratan la ética de la IA como un requisito de lanzamiento: un documento de política, una revisión de riesgos, una lista de verificación de cumplimiento. Pero los daños más importantes pueden aparecer después del despliegue, cuando los usuarios se adaptan, los incentivos cambian, los casos límite se acumulan y el sistema se convierte en infraestructura.
La ética debe ser, por tanto, continua. Requiere monitorización, mecanismos de apelación, auditorías independientes, informes de incidentes, consulta a los trabajadores, explicación pública y el derecho a pausar o revertir sistemas que fallan en la práctica.
El propósito de un think tank de IA y Sociedad no debe ser frenar la innovación por sí misma. Debe ser hacer la innovación más duradera asegurando que los seres humanos sigan siendo más importantes que los sistemas construidos para servirles.