🤖 ¿Y si la IA empieza a actuar sin preguntarte?

PARA ENTENDER EL ESQUEMA

Sobre esta infografía

¿Y si la IA empieza a actuar sin preguntarte?

Pedirle que te redacte un correo resulta cómodo. Darle acceso al buzón para que decida qué responder, a quién y cuándo enviarlo ya merece pensárselo un poco más.

Con los agentes de IA, esa diferencia aparece en muchas tareas: modificar archivos, ejecutar código, operar aplicaciones o preparar pagos. Cuanto más trabajo les delegamos, más importantes se vuelven los permisos que les damos.

A mí me parece que ahí está el debate. Si tiene que preguntarnos por cada paso, buena parte de la utilidad se pierde. Pero si puede hacerlo todo sin detenerse, un error al interpretar una instrucción puede acabar teniendo consecuencias bastante reales. Y esa instrucción podría venir de un correo o de una web que el agente acaba de leer.

Por eso, antes de conceder autonomía, me gustaría tener claras tres cosas: qué puede hacer por su cuenta, qué necesita mi aprobación y cómo puedo detenerlo si algo va mal. También quiero poder revisar qué ha cambiado.

En esta infografía he intentado explicar esa frontera: cómo funciona un agente, qué herramientas utiliza y dónde conviene poner los puntos de aprobación humana.

Yo le dejaría preparar muchas cosas. Para enviar, borrar o pagar, querría revisar antes la acción concreta.

¿Dónde pondrías tú el límite?

#InteligenciaArtificial #AgentesIA #Automatización #Ciberseguridad