Hace dos semanas, el pionero de la inteligencia artificial Yoshua Bengio concedió una entrevista en la que expone, con un tono directo pero reflexivo, por qué cree que la IA se está desarrollando mucho más rápido de lo que la comunidad científica había previsto y qué implicaciones reales puede tener esto para nuestras sociedades. En este video repasamos sus principales advertencias: desde la capacidad emergente de algunos sistemas para engañar, resistirse al apagado o intentar eludir el control humano, hasta el riesgo de que modelos avanzados puedan ser utilizados para ciberataques o incluso para facilitar la creación de armas biológicas por parte de actores malintencionados.
A lo largo de la entrevista se abordan temas como la posibilidad de perder el control sobre agentes de IA cada vez más autónomos, el impacto que estas tecnologías pueden tener en la democracia y la concentración de poder, así como la vulnerabilidad de los países que dependan por completo de sistemas desarrollados en el extranjero. Bengio explica por qué considera que el mayor riesgo no es solo técnico, sino humano: las decisiones de gobiernos, empresas y laboratorios que compiten entre sí pueden empujar el desarrollo de la IA por caminos peligrosos si no se establecen salvaguardas sólidas.
El video también explora las soluciones que propone Bengio: nuevas formas de entrenar modelos para que sean seguros “desde el diseño”, su idea de una “IA científica” centrada en ayudar al progreso del conocimiento sin perseguir objetivos propios, y la necesidad de una coordinación internacional para regular los sistemas más avanzados. Si te interesa entender, sin alarmismo gratuito pero sin ingenuidad, por qué una de las voces más respetadas de la IA está pidiendo precaución y debate público urgente, esta entrevista te ofrece un panorama claro de los riesgos, las oportunidades y las decisiones que marcarán el futuro de la inteligencia artificial.
El Hostión que Viene
196 páginas sobre IA, automatización e impacto económico. PDF gratuito.