Responsabilidad · Technology Camp 2026Facultad de Ingeniería · Universidad Militar Nueva Granada
El fallo silencioso
Cuando el sistema se equivoca y su salida no delata el error
El sistema no está roto: funciona — y funciona mal. Nadie lo detiene, porque nada lo anuncia.
Auditorio D · Sede Campus Nueva Granada, CajicáJueves 10 de septiembre de 20263:00 – 4:00 p. m.Colección de referencia: 54 papers · 6 sobre fallo silencioso
Un sistema de IA presenta un dato inventado con la misma seguridad que uno correcto. Una política aplasta el objeto y reporta éxito. Nadie interviene — porque nada anuncia el error.
La tesis: el fallo silencioso no es un error de programación — es la ausencia de una señal. Sin esa señal, la cadena de responsabilidad se rompe antes del fallo.
El fenómeno, sus dos orígenes, por qué nadie lo detiene, los frentes de investigación abiertos y el hueco que queda para la ingeniería.
Intuición Física 03 · Animación Interactiva
El Fallo Silencioso vs Señal de Cierre de Lazo (SAFE)
Observa cómo un sistema sin detector aplasta los pines físicos reportando 200 OK en software, frente a un supervisor de incertidumbre en tiempo real.
FALLO SILENCIOSO: Error 0 en software, daño en el mundo real
💡
Intuición clave: En robótica no hay pantallas azules ni excepciones si el conector se dobla; los modelos VLA emiten matrices de acciones numéricas y reportan alta confianza estadística. El fallo silencioso es la ausencia de una señal que alerte al operador antes de que la deformación sea destructiva.
📄Base científica: SAFE (Gu et al., NeurIPS 2025) · Inner Monologue (Huang et al., 2022) · GhostTac (Wang et al., ACM CCS 2026)
Qué es.El fallo silencioso: el error que no anuncia su presencia — la salida parece válida, pero el error aparece en el mundo real.
De dónde viene.Dos orígenes: el modelo se equivoca (alucinación, sobreconfianza) o los datos mienten (sensor desviado, calibración corrida, dominio distinto al de las demostraciones).
Por qué nadie lo detiene.La salida parece válida; la métrica mide aciertos, no seguridad al equivocarse; y no existe un canal de «no sé».
Cómo se combate.Tres frentes: anclar el lenguaje a afordancias y acciones factibles, cerrar el lazo con detección de éxito y fallo, medir la incertidumbre.
El hueco.Los detectores viven en el laboratorio: ninguno integrado en un framework de producción, ninguno conectado a la cadena de responsabilidad. Del lado de los datos, las cifras lo dicen todo: «sensor fault detection» + robot devuelve un solo resultado en arXiv; «OOD detection» + «robot manipulation», cero.
Para el público del Camp
Si el límite de estos sistemas es el mundo físico y la cadena de responsabilidad, el fallo silencioso es el punto exacto donde ambos se cruzan: el sistema actúa en el mundo y nadie puede reclamar a tiempo. Para el ingeniero — industrial, multimedia, biomédico, mecatrónico — el trabajo no está en entrenar mejores modelos, sino en diseñar la señal que falta: el sensor auditado, el registro firmado, el umbral que dispara la intervención.
Sobre el ponente
Henry Roncancio es docente de la UMNG y trabaja en el diseño de sistemas de IA para automatización empresarial.
Para profundizar
Michael Ahn et al. «Do As I Can, Not As I Say: Grounding Language in Robotic Affordances». arXiv:2204.01691, 2022.El diagnóstico: la narrativa razonable que no aplica al robot. PDF local: papers/06_ROS2_AI_LLMs.
Wenlong Huang et al. «Inner Monologue: Embodied Reasoning through Planning with Language Models». arXiv:2207.05608, 2022.La señal: la detección de éxito como entrada del razonamiento. PDF local: papers/06_ROS2_AI_LLMs.
Sahar Salimpour et al. «Towards Embodied Agentic AI: Review and Classification of LLM- and VLM-Driven Robot Autonomy». arXiv:2508.05294, 2025.La taxonomía del campo, sin eje de fallo silencioso. PDF local: papers/07_Recent_2025_2026.
Kun Wang et al. «GhostTac: Manipulating Tactile Sensors without Physical Contact». arXiv:2608.20817, ACM CCS 2026.El extremo: la lectura falsificada se registra normal. Referenciado en el protocolo; sin PDF local.
Qiao Gu et al. «SAFE: Multitask Failure Detection for Vision-Language-Action Models». arXiv:2506.09937, NeurIPS 2025.La señal que faltaba: el detector que dice al robot cuándo parar, retroceder o pedir ayuda. PDF local: papers/07_Recent_2025_2026.
Ralf Römer et al. (UQ-VLA); Zhi Zheng et al. (KnowLoop); Jaehwan Jeong et al. (Path Deviation). arXiv:2606.18043 · 2406.00430 · 2603.13782, 2024–2026.El resto del clúster incorporado: incertidumbre en VLA de flujo, detección de fallo en planificadores LLM y detección de alucinación por attention heads.
Zihao Dong et al. «ELLIPSE: Evidential Learning for Robust Waypoints and Uncertainties». arXiv:2603.04585, 2026. · Dong Hu et al. «SAGE: Self-Aware Active Learning Enables Continual Improvement in Autonomous Driving». arXiv:2608.29772, 2026.El origen datos: recalibración evidencial bajo shift y autoestimación de competencia con takeover humano. PDFs locales: papers/07_Recent_2025_2026.
S. Mohammadreza Ebrahimi et al. «Sensor Fault Detection and Compensation with Performance Prescription for Robotic Manipulators». arXiv:2305.19157, 2023.El nicho vacío: único resultado de «sensor fault detection» + robot en arXiv; solo simulación — excluido del protocolo, registrado como evidencia del hueco.
Asistencia y consultas
Material abierto a estudiantes, docentes y visitantes del Technology Camp 2026.