Un sistema de inteligencia artificial aprueba el examen de especialización médica. El mismo sistema, puesto a conectar cinco electrodos a un paciente, no puede hacerlo. Las dos cosas son ciertas a la vez.
La charla parte de ese contraste para sostener una tesis de ingeniería: lo que hoy limita a estos sistemas no es la capacidad de razonar — que ya iguala a la humana en dominios formales — sino la acción en el mundo físico y la cadena de responsabilidad que la acompaña.
La charla muestra por qué una tarea física como manipular un cable sigue siendo difícil de automatizar. También aborda un riesgo de los modelos de lenguaje: pueden presentar un dato inventado con la misma seguridad que uno correcto. Finalmente, plantea qué decisiones de diseño permiten saber quién debe responder cuando el sistema se equivoca.
Qué recorre la charla
La paradoja de Moravec.Por qué el razonamiento abstracto se automatizó antes que la destreza, y qué dice eso de dónde está el valor.
Qué hace difícil la manipulación física.Estado que no se observa, acción que modifica el problema, fuerza contra un material que responde y no se conoce de antemano.
Del laboratorio a la planta.El ensamblaje de cableado como uno de los pocos procesos de manufactura que no se ha automatizado, y por qué.
El fallo silencioso.Sistemas que se equivocan sin señalarlo — en robótica y en lenguaje — y la decisión que se toma sobre un dato falso.
La brecha de responsabilidad.Continuidad, sanción y capacidad de dar razones propias: las tres condiciones que ningún sistema actual reúne.
Dónde queda el trabajo de ingeniería.El hueco se llena con arquitectura institucional, no con modelos mejores.
Para el público del Camp
La charla cruza varios de los ejes del Technology Camp — sistemas inteligentes, robótica e industria, ingeniería para la salud, experiencias digitales. Su tesis es directa: si el límite de estos sistemas es el mundo físico y la cadena de responsabilidad, entonces el ingeniero — industrial, multimedia, biomédico, mecatrónico — está en el lugar exacto donde queda trabajo por hacer. No compitiendo con quien entrena modelos, sino donde el modelo se encuentra con la materia — o con el usuario —, y donde alguien tiene que diseñar el sistema para que se pueda identificar quién responde y esa responsabilidad se asuma de verdad, no solo se asigne en el papel.
Sobre el ponente
Henry Roncancio es docente de la UMNG y trabaja en el diseño de sistemas de IA para automatización empresarial.
Para profundizar
Hans Moravec. Mind Children: The Future of Robot and Human Intelligence. Harvard University Press, 1988.El planteamiento original de la paradoja.
Michael Polanyi. The Tacit Dimension. 1966.«Sabemos más de lo que podemos decir.»
Andreas Matthias. «The responsibility gap: Ascribing responsibility for the actions of learning automata». Ethics and Information Technology, 2004.El hueco entre el operador que ya no controla y el sistema que no responde.
Madeleine Clare Elish. «Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction». Engaging Science, Technology, and Society, 2019.El humano que absorbe el impacto para proteger el sistema.
Raja Parasuraman y Victor Riley. «Humans and Automation: Use, Misuse, Disuse, Abuse». Human Factors, 1997.Por qué el supervisor de un sistema fiable se degrada como supervisor.
Asistencia y consultas
Ponencia abierta a estudiantes, docentes y visitantes del Technology Camp 2026.