«Responder por un acto exige tres cosas que ningún sistema actual tiene: continuidad biográfica — ser el mismo mañana —, algo que perder — una sanción que signifique algo — y capacidad de dar razones propias — no reconstrucciones plausibles.»
Tesis central — Technology Camp 2026, UMNG.
Las tres, una a una
Continuidad biográfica.Ser el mismo mañana. Quien responde por el fallo debe ser el mismo que tomó la decisión — con su historia de decisiones a cuestas. Un sistema que se reemplaza por la siguiente versión no tiene ayer ni mañana: su biografía se borra con el despliegue.
Algo que perder.Una sanción que signifique algo: multa, retiro de homologación, cárcel. Solo cuida antes del acto quien puede sufrir la consecuencia después. A un sistema no se le puede quitar nada que le duela.
Dar razones propias.Explicar el fallo desde la decisión propia — no reconstruir después una narrativa plausible. La diferencia entre confesar y redactar un descargo.
La pregunta
Los robots ya llevan registro técnico. ROS anota tópicos, comandos, niveles de log y estados del hardware mientras opera, y rosbag2 guarda el tráfico completo para reproducirlo. La pregunta: ¿esa base sirve para dar razones propias — para explicar por qué algo falló?
Primero, lo justo: el registro resuelve problemas reales de atribución técnica. No es poco.
La cadena de eventos.Qué se midió, qué se publicó, qué se ordenó y cuándo: la secuencia técnica queda en disco, con marca de tiempo. El fallo deja de ser un misterio y se vuelve una línea.
La reproducción.Un rosbag permite volver a ejecutar el fallo con las mismas entradas: la reconstrucción deja de ser testimonial y se vuelve experimental.
La localización.Sensor, nodo, planificador, actuador: el log acota dónde murió la cadena y descarta hipótesis enteras.
La integridad verificable.Con firma criptográfica y escritura secuencial, el registro se convierte en caja negra: prueba de qué se le dijo al sistema — no de qué decidió por dentro.
Intuición Física 04 · Animación Interactiva
Osciloscopio Forense: Caja Negra (rosbag2) vs Confabulación Post-Hoc
Mueve la línea de tiempo o reproduce el evento a los 2.4s para contrastar la sobrecarga física real frente a la justificación inventada por un LLM.
💡
Intuición clave: Pedirle al modelo que explique por qué falló no genera una confesión ética, sino un texto plausible. El log de ROS aporta evidencia física irrefutable (pico de torque y sobrecorriente), pero no tiene "algo que perder": la responsabilidad solo la asume el titular humano o institucional.
📄Base científica: Andreas Matthias (2004) · Madeleine C. Elish (2019) · ROS 2 rosbag2 / DDS
Registra datos, no intenciones.Anota qué acción se ejecutó, no por qué se eligió: el objetivo, las alternativas descartadas, la incertidumbre en el momento de decidir. La razón de una política no aparece en su salida — a veces ni en su código.
Explicar después no es dar razones propias.Un modelo que lea el log y redacte «lo que pasó» produce exactamente lo que la tesis excluye: una reconstrucción plausible. Y es peor — resulta indistinguible de la confesión honesta, con toda la autoridad del formato técnico.
Hereda la mentira de los sensores.Si una lectura táctil se puede falsificar sin tocar el robot, el registro guarda la lectura falsa con la misma fe que la verdadera. El formato protege el texto, no la verdad de lo registrado.
No tiene nada que perder.Aun perfecto, el registro responde ante quien lo lee: la sanción la recibe siempre alguien distinto del sistema. Las dos primeras condiciones siguen intactas — y sin ellas, la tercera no cierra la cadena.
Veredicto: no. Un log no da razones propias — registra lo que pasó, no responde por ello. Lo que sí hace es valioso: convierte el fallo en evidencia que alguien puede usar para responder.
La claridad importa tanto como el registro. Tres decisiones de ingeniería siguen de ahí:
Registrar decisiones, no solo datos.Intención, alternativa descartada, confianza en el momento de elegir: el porqué se captura cuando ocurre — no se reconstruye después con una narrativa plausible.
Firmar el registro.Escritura secuencial y firma criptográfica: que la caja negra valga como prueba y no pueda reescribirse — ni por el sistema ni por quien lo opera.
Asignar el titular.La explicación la da la institución — la única con continuidad biográfica y algo que perder. El log la obliga a responder con hechos, no con versiones.
El hueco de responsabilidad no lo cierra el modelo que se explica a sí mismo. Lo cierra la arquitectura que hace la explicación verificable — y a alguien, reclamable.
Para profundizar
Andreas Matthias. «The responsibility gap: Ascribing responsibility for the actions of learning automata». Ethics and Information Technology, 2004.El hueco: ni el operador controla ya, ni el sistema responde. El marco de las tres condiciones.
Madeleine Clare Elish. «Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction». Engaging Science, Technology, and Society, 2019.A quién le asignan el fallo cuando hay registro de todo: al humano, no al sistema.
Kun Wang et al. «GhostTac: Manipulating Tactile Sensors without Physical Contact». arXiv:2608.20817, ACM CCS 2026.El límite del log: la lectura falsificada entra al registro con la misma fe que la verdadera.
ROS 2 Documentation. About Logging y rosbag2. docs.ros.org.Qué registra hoy el middleware: /rosout, niveles de log y grabación completa con rosbag2.