Entre la técnica y el lenguaje humano: el derecho a la explicabilidad frente a la opacidad algorítmica de la inteligencia artificial agéntica

Counts differ because each database indexes a different set of publications. We treat OpenAlex as the canonical count; Google Scholar is not shown (no API, and crawling it violates its ToS).

Este artículo examina, desde una perspectiva filosófica con proyección jurídica, la tensión que la inteligencia artificial agéntica introduce entre la técnica computacional y el lenguaje humano. Se sostiene que la transición del paradigma simbólico basado en reglas explícitas del tipo «si-entonces» hacia el aprendizaje profundo y las representaciones vectoriales del significado (embeddings) desplazó la lógica algorítmica de la comprensión semántica hacia la predicción estadística, generando el fenómeno conocido como «caja negra». Frente a esta opacidad, el panorama normativo internacional integrado, en su mayor parte, por instrumentos de gobernanza blanda como la Recomendación de la UNESCO (2021), los Principios de la OCDE (2019, revisados en 2024) y el Diálogo de la OMPI sobre PI e IA, con la notable excepción del Reglamento europeo de IA (2024) apenas comienza a articular un derecho a la explicabilidad de las decisiones automatizadas. Se argumenta que esta escasez normativa no es una laguna a lamentar, sino un dato relevante: mientras el derecho positivo se elabora, la comprensión técnico-filosófica de la caja negra, la trazabilidad, la curaduría de datos y la gobernanza algorítmica ofrece una ventaja práctica que la ley, por sí sola, todavía no puede ofrecer. Recurriendo al experimento mental de la Habitación China de John Searle, el artículo sostiene que la manipulación sintáctica de símbolos, por sofisticada que sea, no equivale a la comprensión semántica propia del lenguaje humano, y que esta distinción posee consecuencias directas sobre la atribución de responsabilidad. Se concluye que la exigencia de mantener al ser humano dentro del bucle de decisión —human-in-the-loop— constituye no solo una buena práctica técnica, sino una garantía derivada del principio de dignidad humana, entendida como la facultad indelegable de establecer los fines y valores que deben gobernar la técnica.