Desde el lanzamiento de ChatGPT en 2022, la IA generativa ha generado gran expectación, y ahora los reguladores buscan frenar sus daños y excesos. Sin embargo, esto no es nuevo: en 2018, el entusiasmo por la IA ya impulsó múltiples directrices éticas y propuestas de autorregulación sin fuerza legal. Access Now y otros exigieron marcos legales de derechos humanos y lanzaron la Declaración de Toronto para promover la igualdad en los sistemas de IA. Desde entonces, organizaciones de derechos digitales han abogado por una gobernanza de la IA que respete los derechos humanos. No obstante, este esfuerzo enfrenta amenazas que ponen en riesgo un desarrollo de IA que sirva a la humanidad en lugar de vigilarla y explotarla. Por eso la pregunta es: ¿Amenaza la IA los derechos humanos?
Seis años después, podría parecer que la amenaza la IA los derechos humanos está resueltaEste año, se aprobaron la Ley de IA de la UE, el Tratado del Consejo de Europa y varias propuestas regulatorias basadas en derechos humanos. La ONU emitió dos resoluciones en la Asamblea General sobre el impacto de la IA en derechos humanos, advirtiendo sobre usos incompatibles con estos principios. Además, la Junta Consultiva de Alto Nivel de la ONU reafirmó que el derecho internacional se aplica en la gobernanza de la IA. Sin embargo, la situación real dista de ser alentadora.
¿Qué amenaza la gobernanza de la IA basada en derechos?
La Ley de IA de la UE y el Tratado del Consejo de Europa contienen tantas excepciones que socavan la gobernanza de derechos humanos. La Ley de IA de la UE no prohíbe usos peligrosos, discrimina a migrantes y exime a autoridades policiales de requisitos de transparencia.
Mientras tanto, las resoluciones de la Asamblea General de la ONU, encabezadas por Estados Unidos y China, solo mencionan explícitamente el “ámbito no militar”. La resolución de China especificó que “no toca el desarrollo o uso de inteligencia artificial para fines militares”, ignorando los costos ambientales de la IA.
Una amenaza compleja para la gobernanza de derechos humanos es la creciente influencia de organizaciones y personas de la comunidad de altruistas eficaces. Algunas organizaciones han vinculado sus actividades a filosofías racistas y eugenésicas, mientras que otras adoptan un enfoque utilitarista en la gobernanza de la IA. Este enfoque, además de estar desalineado con los derechos humanos, desvía la atención pública hacia riesgos especulativos, alejándola de los daños reales de la IA.
Estos factores socavan los intentos de adoptar una gobernanza sólida basada en derechos para la IA, beneficiando a actores que evitan regulaciones fuertes. Las empresas ansiosas por lanzar productos no probados distorsionan las normas voluntarias que la comunidad de software libre ha desarrollado durante décadas. Mientras tanto, los reguladores se enfocan en alarmismos sobre riesgos de ciencia ficción, ignorando violaciones reales de derechos humanos, como la vigilancia impulsada por IA.
¿Qué debe suceder y por qué es importante?
En pocas palabras, los avances en materia de IA no pueden beneficiar a las personas si no se respetan los derechos humanos. Los organismos internacionales, como la ONU, deben establecer normas de gobernanza de la IA basadas en derechos humanos, comenzando con el nuevo informe de IA. Los derechos humanos deben ser centrales en foros internacionales, como el Pacto Digital Mundial, garantizando la participación de defensores en la gobernanza de la IA.
Leer más
La IA perjudica y discrimina especialmente a grupos marginados como mujeres, personas no binarias, LGBTQ+ y comunidades racializadas. Priorizar ganancias sobre derechos humanos agrava estas desigualdades, compromete la privacidad, acelera la crisis climática y aumenta las disparidades económicas. Si la Minoría Global controla la regulación de la IA, seguirá explotando a la Mayoría Global en el desarrollo de estos sistemas sin protecciones. Este escenario distópico muestra cómo la IA, sin control adecuado, amplifica la injusticia en vez de beneficiar a la humanidad.
Fuente foto encabezado: Markus Spiske, Pexels
