La confianza en la IA y la pregunta sobre el acceso a la terminal

El crecimiento de sistemas de agentes como OpenClaw me ha hecho pensar en lo rápido que las personas se han acostumbrado a la IA.

No ha pasado tanto tiempo desde que ChatGPT se lanzó al público a finales de 2022 y, sin embargo, pocos años después ya estamos dando a la IA acceso completo a nuestras computadoras. Solo eso debería hacernos detenernos un momento.

Lo que me llamó la atención no fue únicamente la tecnología. Fue la velocidad con la que apareció la confianza. Los expertos en ciberseguridad advertían sobre el acceso a la terminal, los privilegios de administrador y el comportamiento autónomo. Aun así, las personas ponían en marcha servidores VPS de un día para otro para tener su propio agente personal. Parecía una fiebre del oro, pero el atractivo no era el dinero, sino la capacidad de hacer cosas.

Y sigo preguntándome por qué.

Creo que la respuesta es sencilla. Las personas ya no quieren una IA que les diga qué hacer. Quieren una IA que haga cosas.

Hay algo fascinante en ver a un agente ejecutar tareas que uno no podría realizar por sí mismo a esa velocidad. Le das un objetivo y se pone en marcha. Instala, edita, despliega y conecta sistemas. Te sientas a observar cómo trabaja a un nivel que parece estar más allá de tus posibilidades.

En el centro de todo esto hay una cosa: el acceso a la terminal.

Cuando construía mi propio agente para experimentar y aprender, llegué al punto en que necesitaba implementar ese acceso. Ahí fue cuando las cosas se pusieron interesantes. Los modelos dudaban. El poder de estos sistemas viene de su capacidad para ejecutar comandos en tu computadora. Sin eso, se comportan como un chatbot. Con eso, actúan.

Y aquí es donde la lógica comenzó a incomodarme.

Las empresas hablan de seguridad y de no dejar que la IA actúe sin control en tu sistema. Pero los agentes de programación como Claude Code y Codex también ejecutan comandos en la terminal. Leen y escriben archivos. Ejecutan código. La diferencia está, sobre todo, en el alcance y el contexto. Ayudar dentro de un repositorio de código parece algo delimitado. Gestionar toda tu vida digital se siente más expuesto. Pero, técnicamente, la base es la misma.

Esta es la parte que no veo reconocer a muchas personas: si realmente quieres que un agente de IA interactúe con tu computadora de forma flexible, en algún momento tendrá que ejecutar código. Puedes rodearlo de permisos. Puedes aislarlo en un entorno controlado. Pero, debajo de todo eso, algo se sigue ejecutando.

Así que quizá el acceso a la terminal no sea el villano. Quizá sea un requisito.

La verdadera tensión está entre capacidad y control.

Cuanto más restringes a un agente, más seguro parece. Pero también se vuelve menos impresionante. Y una vez que las personas prueban la autonomía completa, cualquier cosa inferior puede sentirse como una IA atrapada.

Por eso creo que OpenClaw pudo haber cambiado las expectativas. Cuando ves a un agente actuar sin pedir confirmación constantemente, volver a copiar y pegar instrucciones parece anticuado. Si la seguridad agrega fricción, muchas personas eliminarán esa fricción.

También hay una capa más profunda.

La pregunta sobre la seguridad no es solo técnica. Es humana.

El mismo sistema que automatiza tu trabajo también puede automatizar la manipulación o el abuso. La capacidad es neutral. La intención no lo es. Ninguna arquitectura elimina por completo el uso malintencionado de herramientas potentes por parte de las personas.

Quizá el verdadero problema sea la distancia entre lo que la herramienta puede hacer y lo que el usuario cree que puede hacer.

La interfaz parece casual. Envía un mensaje. Instala una habilidad. Déjala trabajar. Pero debajo de esa sencillez hay un control profundo del sistema. Para quien entiende lo que está pasando, el riesgo se percibe de otra manera. Para quien no lo entiende, el peligro es invisible.

La confianza aumenta no porque hayamos resuelto la seguridad, sino porque la capacidad resulta demasiado atractiva para ignorarla.

Y esta es mi conclusión.

No creo que la seguridad vaya a depender únicamente de capas de protección o avisos de permisos. Ayudan, pero son medidas de superficie. Creo que el camino hacia la seguridad a escala pasa por que el propio modelo sepa actuar con seguridad: razonar sobre las consecuencias y reconocer cuándo debe cuestionar una petición.

Pero incluso eso plantea otra pregunta.

¿Qué modelo es el más seguro? ¿El que te restringe más? ¿El que te da más libertad? ¿El que coincide con tus valores?

No existe un pensamiento completamente libre de sesgos. Todos recibimos influencias. La IA también.

Así que, al final, no podemos delegar toda la responsabilidad.

Sigue siendo nuestra.

Nos corresponde educarnos, comprender las decisiones y sus consecuencias, y exigir sistemas que no solo sean más potentes, sino también más responsables.

Estamos construyendo herramientas capaces de actuar en nuestro nombre.

Si queremos que sean seguras, tenemos que tomarnos en serio nuestro papel al darles forma.

Nota: Mi mente suele sentirse como una tormenta, con ideas que chocan en todas direcciones. A veces me cuesta organizarlas de forma clara y fácil de leer. Para ser transparente, la IA me ayudó a estructurar y pulir estas reflexiones, pero cada idea, experiencia y sentimiento surge de mis propias interacciones con la IA.