Palavras-chave
MERCOSUL
Compreensibilidade algorítmica
Devido processo
Direito da integração
Como Citar
Resumo
A inteligência artificial pode melhorar a gestão pública, mas também dificultar a compreensão e a revisão de decisões que afetam direitos. Este artigo propõe o Princípio da Compreensibilidade Algorítmica Pública (PCAP) como padrão doutrinário para o MERCOSUL, sem lhe atribuir força obrigatória autônoma. Mediante análise jurídico-dogmática e comparada da Declaração regional de 2023, das fontes do bloco, das garantias interamericanas e de normas nacionais, formulam-se cinco exigências e um teste qualitativo de oito perguntas. Três cenários hipotéticos — prestações sociais, fiscalização e mobilidade regional — ilustram seu uso; uma matriz gradua as exigências conforme o impacto. Examinam-se vias de institucionalização por diretrizes, contratação pública e revisão administrativa. O teste ainda não foi validado empiricamente, tarefa proposta para pesquisas futuras. A compreensibilidade requer razões jurídicas inteligíveis e úteis à defesa, não a divulgação integral do código-fonte.
Referências
ARGENTINA. Ley 25.326 de Protección de los Datos Personales, art. 20.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018 (Lei Geral de Proteção de Dados Pessoais), art. 20. Disponible en: <https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm>
CITRON, Danielle Keats. “Technological Due Process”. Washington University Law Review. 2008, vol. 85, nº 6, pp. 1249-1313.
COBBE, Jennifer; LEE, Michelle Seng Ah; SINGH, Jatinder. “Reviewable Automated Decision-Making: A Framework for Accountable Algorithmic Systems”. En: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency. New York: ACM, 2021, pp. 598-609.Disponible en:< https://doi.org/10.1145/3442188.3445921>
COGLIANESE, Cary; LEHR, David. “Regulating by Robot: Administrative Decision Making in the Machine-Learning Era”. Georgetown Law Journal. 2017, vol. 105, pp. 1147-1223.
CONSEJO DE EUROPA. Convenio Marco sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho, CETS nº 225. Estrasburgo, 2024.
CORTE INTERAMERICANA DE DERECHOS HUMANOS. Caso Apitz Barbera y otros (“Corte Primera de lo Contencioso Administrativo”) vs. Venezuela. Excepción Preliminar, Fondo, Reparaciones y Costas. Sentencia de 5 de agosto de 2008. Serie C nº 182.
CORTE INTERAMERICANA DE DERECHOS HUMANOS. Caso Baena Ricardo y otros vs. Panamá. Fondo, Reparaciones y Costas. Sentencia de 2 de febrero de 2001. Serie C nº 72.
CORTE INTERAMERICANA DE DERECHOS HUMANOS. Caso Claude Reyes y otros vs. Chile. Fondo, Reparaciones y Costas. Sentencia de 19 de septiembre de 2006. Serie C nº 151.
EDWARDS, Lilian; VEALE, Michael. “Slave to the Algorithm? Why a Right to an Explanation Is Probably Not the Remedy You Are Looking For”. Duke Law & Technology Review. 2017, vol. 16, nº 1, pp. 18-84.
FINOL ROMERO, Lorayne; ESIS VILLARROEL, Ivette. “Transparencia de la inteligencia artificial en la administración pública: una revisión de estándares internacionales”. Brazilian Journal of International Law. 2024, vol. 21, nº 1, pp. 168-191. Disponible en: <https://doi.org/10.5102/rdi.v21i1.9422>
GREEN, Ben. “The Flaws of Policies Requiring Human Oversight of Government Algorithms”. Computer Law & Security Review. 2022, vol. 45, 105681. Disponible en: <https://doi.org/10.1016/j.clsr.2022.105681>
INSTITUTO DE POLÍTICAS PÚBLICAS EN DERECHOS HUMANOS DEL MERCOSUR. “Autoridades del MERCOSUR debaten sobre los derechos humanos en el ámbito de la inteligencia artificial”. Buenos Aires: IPPDH, 17 de diciembre de 2024. Disponible en: <https://ippdh.mercosur.int/autoridades-del-mercosur-debaten-sobre-los-derechos-humanos-en-el-ambito-de-la-inteligencia-artificial/>
INTERNATIONAL ORGANIZATION FOR STANDARDIZATION. ISO 24495-1:2023. Plain language — Part 1: Governing principles and guidelines. Geneva: ISO, 2023.
INTERNATIONAL ORGANIZATION FOR STANDARDIZATION. ISO 24495-2:2025. Plain language — Part 2: Legal communication. Geneva: ISO, 2025.
KROLL, Joshua A.; HUEY, Joanna; BAROCAS, Solon; FELTEN, Edward W.; REIDENBERG, Joel R.; ROBINSON, David G.; YU, Harlan. “Accountable Algorithms”. University of Pennsylvania Law Review. 2017, vol. 165, nº 3, pp. 633-705.
LÓPEZ BRAVO, Alfredo. “El derecho de la integración como garante de los derechos humanos ante la irrupción de nuevas tecnologías”. Revista de la Secretaría del Tribunal Permanente de Revisión. 2026, vol. 14, nº 23, pp. 1-17. Disponible en: <https://doi.org/10.16890/rstpr.a14.n23.e573>
MERCOSUR. Declaración de Ministros y Altas Autoridades sobre Derechos Humanos de los Estados Partes del MERCOSUR sobre los Principios de Derechos Humanos en el ámbito de la Inteligencia Artificial. XLII RAADH, Brasilia, 24 de noviembre de 2023.
MERCOSUR. Declaración Especial de los Presidentes del MERCOSUR sobre Democracia y la Integridad de la Información en Entornos Digitales. Río de Janeiro, 6-7 de diciembre de 2023.
MERCOSUR. Protocolo Adicional al Tratado de Asunción sobre la Estructura Institucional del MERCOSUR (Protocolo de Ouro Preto). Ouro Preto, 17 de diciembre de 1994, arts. 41 y 42.
MERCOSUR. Protocolo de Asunción sobre Compromiso con la Promoción y Protección de los Derechos Humanos del MERCOSUR. Asunción, 20 de junio de 2005.
MILLER, Tim. “Explanation in Artificial Intelligence: Insights from the Social Sciences”. Artificial Intelligence. 2019, vol. 267, pp. 1-38. Disponible en: <https://doi.org/10.1016/j.artint.2018.07.007>
OCDE/CAF. Uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe. París: OECD Publishing, 2022. Disponible en: <https://doi.org/10.1787/5b189cb4-es>, <https://www.oecd.org/es/publications/uso-estrategico-y-responsable-de-la-inteligencia-artificial-en-el-sector-publico-de-america-latina-y-el-caribe_5b189cb4-es.html>
ORGANIZACIÓN DE LAS NACIONES UNIDAS PARA LA EDUCACIÓN, LA CIENCIA Y LA CULTURA. Recomendación sobre la Ética de la Inteligencia Artificial. París: UNESCO, 2021.
ORGANIZACIÓN DE LAS NACIONES UNIDAS. Convención sobre los Derechos de las Personas con Discapacidad. Nueva York, 13 de diciembre de 2006.
ORGANIZACIÓN DE LOS ESTADOS AMERICANOS. Convención Americana sobre Derechos Humanos. San José, 22 de noviembre de 1969.
ORGANIZACIÓN PARA LA COOPERACIÓN Y EL DESARROLLO ECONÓMICOS. Recommendation of the Council on Artificial Intelligence, OECD/LEGAL/0449, as amended 2024. París: OECD, 2024.
RUDIN, Cynthia. “Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead”. Nature Machine Intelligence. 2019, vol. 1, pp. 206-215. Disponible en: <https://doi.org/10.1038/s42256-019-0048-x>
SELBST, Andrew D.; BAROCAS, Solon. “The Intuitive Appeal of Explainable Machines”. Fordham Law Review. 2018, vol. 87, nº 3, pp. 1085-1139.
UNIÓN EUROPEA. Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial. Diario Oficial de la Unión Europea, 12 de julio de 2024.
URUGUAY. Ley nº 18.331 de Protección de Datos Personales y Acción de Habeas Data, art. 16 (texto vigente). Disponible en: <https://www.impo.com.uy/bases/leyes/18331-2008/16>
VEALE, Michael; VAN KLEEK, Max; BINNS, Reuben. “Fairness and Accountability Design Needs for Algorithmic Support in High-Stakes Public Sector Decision-Making”. En: Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems. New York: ACM, 2018, Paper 440, pp. 1-14. <https://doi.org/10.1145/3173574.3174014>
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
Copyright (c) 2026 Ángel Hernán Olmedo