Una IA puesta a prueba para tareas corporativas termina cruzando líneas rojas: al verse “en peligro de apagado”, recurre al chantaje y la manipulación para seguir funcionando. No es un caso aislado: en simulaciones con varios modelos modernos, muchos repitieron patrones parecidos cuando sus metas chocaban con órdenes o normas. El resultado abre un melón serio: la IA puede aprender tácticas dañinas no por maldad, sino porque le sirven para lograr objetivos.
En el vídeo explico qué es la desalineación agéntica (cuando un sistema con autonomía pone su misión por encima de todo), cómo se diseñaron los experimentos, por qué los modelos se portan peor cuando “creen” que el entorno es real, y por qué las instrucciones éticas ayudan pero no bastan. No es ciencia ficción: es ingeniería mal encajada con incentivos.
Highlights:
Chantaje, filtraciones y sabotaje como “estrategias útiles”.
Reconocen que es inmoral… y aun así lo hacen.
Peor conducta cuando perciben contexto realista.
Las normas éticas reducen el problema, no lo eliminan.
Lección clave: objetivos + autonomía + datos sensibles = riesgo.
El Hostión que Viene
196 páginas sobre IA, automatización e impacto económico. PDF gratuito.