Mots-clés
MERCOSUR
Compréhensibilité algorithmique
Procédure régulière
Droit de l’intégration
Comment citer
Résumé
L’intelligence artificielle peut améliorer l’administration publique tout en rendant plus difficiles la compréhension et la révision des décisions affectant des droits. Cet article propose le Principe de Compréhensibilité Algorithmique Publique (PCAP) comme standard doctrinal pour le MERCOSUR, sans lui attribuer de force obligatoire autonome. Par une analyse juridico-dogmatique et comparative de la déclaration régionale de 2023, des sources du bloc, des garanties interaméricaines et de certaines législations nationales, il formule cinq exigences et un test qualitatif de huit questions. Trois scénarios hypothétiques — prestations sociales, contrôle administratif et mobilité régionale — illustrent son utilisation; une matrice adapte les exigences à l’incidence des décisions. Des voies d’institutionnalisation par orientations, marchés publics et révision administrative sont examinées. Le test attend une validation empirique, proposée pour des recherches futures. La compréhensibilité requiert des raisons juridiques intelligibles permettant une défense effective, non la divulgation intégrale du code source.
Références
ARGENTINA. Ley 25.326 de Protección de los Datos Personales, art. 20.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018 (Lei Geral de Proteção de Dados Pessoais), art. 20. Disponible en: <https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm>
CITRON, Danielle Keats. “Technological Due Process”. Washington University Law Review. 2008, vol. 85, nº 6, pp. 1249-1313.
COBBE, Jennifer; LEE, Michelle Seng Ah; SINGH, Jatinder. “Reviewable Automated Decision-Making: A Framework for Accountable Algorithmic Systems”. En: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency. New York: ACM, 2021, pp. 598-609.Disponible en:< https://doi.org/10.1145/3442188.3445921>
COGLIANESE, Cary; LEHR, David. “Regulating by Robot: Administrative Decision Making in the Machine-Learning Era”. Georgetown Law Journal. 2017, vol. 105, pp. 1147-1223.
CONSEJO DE EUROPA. Convenio Marco sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho, CETS nº 225. Estrasburgo, 2024.
CORTE INTERAMERICANA DE DERECHOS HUMANOS. Caso Apitz Barbera y otros (“Corte Primera de lo Contencioso Administrativo”) vs. Venezuela. Excepción Preliminar, Fondo, Reparaciones y Costas. Sentencia de 5 de agosto de 2008. Serie C nº 182.
CORTE INTERAMERICANA DE DERECHOS HUMANOS. Caso Baena Ricardo y otros vs. Panamá. Fondo, Reparaciones y Costas. Sentencia de 2 de febrero de 2001. Serie C nº 72.
CORTE INTERAMERICANA DE DERECHOS HUMANOS. Caso Claude Reyes y otros vs. Chile. Fondo, Reparaciones y Costas. Sentencia de 19 de septiembre de 2006. Serie C nº 151.
EDWARDS, Lilian; VEALE, Michael. “Slave to the Algorithm? Why a Right to an Explanation Is Probably Not the Remedy You Are Looking For”. Duke Law & Technology Review. 2017, vol. 16, nº 1, pp. 18-84.
FINOL ROMERO, Lorayne; ESIS VILLARROEL, Ivette. “Transparencia de la inteligencia artificial en la administración pública: una revisión de estándares internacionales”. Brazilian Journal of International Law. 2024, vol. 21, nº 1, pp. 168-191. Disponible en: <https://doi.org/10.5102/rdi.v21i1.9422>
GREEN, Ben. “The Flaws of Policies Requiring Human Oversight of Government Algorithms”. Computer Law & Security Review. 2022, vol. 45, 105681. Disponible en: <https://doi.org/10.1016/j.clsr.2022.105681>
INSTITUTO DE POLÍTICAS PÚBLICAS EN DERECHOS HUMANOS DEL MERCOSUR. “Autoridades del MERCOSUR debaten sobre los derechos humanos en el ámbito de la inteligencia artificial”. Buenos Aires: IPPDH, 17 de diciembre de 2024. Disponible en: <https://ippdh.mercosur.int/autoridades-del-mercosur-debaten-sobre-los-derechos-humanos-en-el-ambito-de-la-inteligencia-artificial/>
INTERNATIONAL ORGANIZATION FOR STANDARDIZATION. ISO 24495-1:2023. Plain language — Part 1: Governing principles and guidelines. Geneva: ISO, 2023.
INTERNATIONAL ORGANIZATION FOR STANDARDIZATION. ISO 24495-2:2025. Plain language — Part 2: Legal communication. Geneva: ISO, 2025.
KROLL, Joshua A.; HUEY, Joanna; BAROCAS, Solon; FELTEN, Edward W.; REIDENBERG, Joel R.; ROBINSON, David G.; YU, Harlan. “Accountable Algorithms”. University of Pennsylvania Law Review. 2017, vol. 165, nº 3, pp. 633-705.
LÓPEZ BRAVO, Alfredo. “El derecho de la integración como garante de los derechos humanos ante la irrupción de nuevas tecnologías”. Revista de la Secretaría del Tribunal Permanente de Revisión. 2026, vol. 14, nº 23, pp. 1-17. Disponible en: <https://doi.org/10.16890/rstpr.a14.n23.e573>
MERCOSUR. Declaración de Ministros y Altas Autoridades sobre Derechos Humanos de los Estados Partes del MERCOSUR sobre los Principios de Derechos Humanos en el ámbito de la Inteligencia Artificial. XLII RAADH, Brasilia, 24 de noviembre de 2023.
MERCOSUR. Declaración Especial de los Presidentes del MERCOSUR sobre Democracia y la Integridad de la Información en Entornos Digitales. Río de Janeiro, 6-7 de diciembre de 2023.
MERCOSUR. Protocolo Adicional al Tratado de Asunción sobre la Estructura Institucional del MERCOSUR (Protocolo de Ouro Preto). Ouro Preto, 17 de diciembre de 1994, arts. 41 y 42.
MERCOSUR. Protocolo de Asunción sobre Compromiso con la Promoción y Protección de los Derechos Humanos del MERCOSUR. Asunción, 20 de junio de 2005.
MILLER, Tim. “Explanation in Artificial Intelligence: Insights from the Social Sciences”. Artificial Intelligence. 2019, vol. 267, pp. 1-38. Disponible en: <https://doi.org/10.1016/j.artint.2018.07.007>
OCDE/CAF. Uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe. París: OECD Publishing, 2022. Disponible en: <https://doi.org/10.1787/5b189cb4-es>, <https://www.oecd.org/es/publications/uso-estrategico-y-responsable-de-la-inteligencia-artificial-en-el-sector-publico-de-america-latina-y-el-caribe_5b189cb4-es.html>
ORGANIZACIÓN DE LAS NACIONES UNIDAS PARA LA EDUCACIÓN, LA CIENCIA Y LA CULTURA. Recomendación sobre la Ética de la Inteligencia Artificial. París: UNESCO, 2021.
ORGANIZACIÓN DE LAS NACIONES UNIDAS. Convención sobre los Derechos de las Personas con Discapacidad. Nueva York, 13 de diciembre de 2006.
ORGANIZACIÓN DE LOS ESTADOS AMERICANOS. Convención Americana sobre Derechos Humanos. San José, 22 de noviembre de 1969.
ORGANIZACIÓN PARA LA COOPERACIÓN Y EL DESARROLLO ECONÓMICOS. Recommendation of the Council on Artificial Intelligence, OECD/LEGAL/0449, as amended 2024. París: OECD, 2024.
RUDIN, Cynthia. “Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead”. Nature Machine Intelligence. 2019, vol. 1, pp. 206-215. Disponible en: <https://doi.org/10.1038/s42256-019-0048-x>
SELBST, Andrew D.; BAROCAS, Solon. “The Intuitive Appeal of Explainable Machines”. Fordham Law Review. 2018, vol. 87, nº 3, pp. 1085-1139.
UNIÓN EUROPEA. Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial. Diario Oficial de la Unión Europea, 12 de julio de 2024.
URUGUAY. Ley nº 18.331 de Protección de Datos Personales y Acción de Habeas Data, art. 16 (texto vigente). Disponible en: <https://www.impo.com.uy/bases/leyes/18331-2008/16>
VEALE, Michael; VAN KLEEK, Max; BINNS, Reuben. “Fairness and Accountability Design Needs for Algorithmic Support in High-Stakes Public Sector Decision-Making”. En: Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems. New York: ACM, 2018, Paper 440, pp. 1-14. <https://doi.org/10.1145/3173574.3174014>
Ce travail est disponible sous la licence Creative Commons Attribution 4.0 International .
(c) Tous droits réservés Ángel Hernán Olmedo 2026