Avances de inteligencia artificial: Se puede garantizar los derechos humanos?

• Resumen
• Abstract

La investigación analiza si los avances y la implementación de sistemas de inteligencia artificial (IA) permiten garantizar efectivamente los derechos humanos, considerando su creciente uso en la gestión pública y en sectores altamente regulados. Desde un enfoque cualitativo, documental y jurídico-comparado, se examinan estándares internacionales recientes, experiencias normativas y criterios jurisprudenciales relevantes, identificando los principales riesgos asociados a decisiones automatizadas. Los resultados evidencian que los mayores desafíos para la garantía de derechos se concentran en la discriminación algorítmica derivada de datos históricos y decisiones de diseño, la opacidad técnica y jurídica de los modelos, y la debilidad de los mecanismos de impugnación y reparación. Asimismo, se concluye que la transparencia, la explicabilidad y el control humano significativo constituyen condiciones mínimas para preservar el debido proceso y la rendición de cuentas, especialmente en sistemas de alto impacto. Aunque existen avances normativos que apuntan a enfoques basados en riesgo y obligaciones verificables, la efectividad depende de capacidades institucionales reales para auditar, supervisar y sancionar. En síntesis, la IA puede orientarse hacia un marco compatible con derechos humanos, pero la “garantía” solo es defendible mediante estructuras exigibles de prevención, trazabilidad y reparación, evitando que la eficiencia tecnológica sustituya la responsabilidad jurídica.

This study examines whether recent advances and the deployment of artificial intelligence (AI) systems can effectively guarantee human rights, given their growing use in public administration and highly regulated sectors. Using a qualitative, documentary, and comparative legal approach, it reviews recent international standards, regulatory experiences, and relevant case law, identifying the main risks associated with automated decision-making. The findings show that the most significant challenges to the effective protection of rights lie in algorithmic discrimination arising from historical data and design choices, the technical and legal opacity of models, and the weakness of mechanisms for contestation and redress. The study also concludes that transparency, explainability, and meaningful human oversight are minimum conditions to safeguard due process and accountability, particularly in high-impact systems. Although regulatory developments increasingly adopt risk-based approaches and enforceable obligations, their effectiveness ultimately depends on real institutional capacity to audit, supervise, and sanction. In sum, AI can be aligned with a human-rights-compatible framework, but a genuine “guarantee” is defensible only through enforceable structures for prevention, traceability, and effective remedies, ensuring that technological efficiency does not replace legal responsibility.