Ilya Sutskever : La AGI será como un “súperaprendiz”, no un oráculo.

Conversación en profundidad entre Ilya Sutskever (cofundador de OpenAI y ahora fundador de SSI) y Dwarkesh Patel sobre qué está fallando en los modelos actuales y hacia dónde va realmente la IA. Parten de una paradoja: modelos que parecen superhumanos en benchmarks, pero con un impacto económico y práctico muy por detrás, capaces de pasar competiciones difíciles y al mismo tiempo cometer errores básicos y repetitivos. Ilya propone que estamos sobreoptimizando para evaluaciones y “programación competitiva”, mientras seguimos sin entender bien la generalización y el verdadero “gusto” para resolver problemas en el mundo real.

Hablan de preentrenamiento vs aprendizaje por refuerzo, de por qué los humanos generalizan mucho mejor que los modelos con muchos menos datos, y del papel de las emociones como una especie de “función de valor” que guía nuestras decisiones a largo plazo de forma robusta. Ilya sugiere que la clave del siguiente salto no es solo más datos y más cómputo, sino una nueva “receta” de entrenamiento y una vuelta a la era de la investigación: usar el cómputo masivo de hoy, pero con ideas nuevas, no solo con escalado bruto.

La charla entra también en su nueva empresa, SSI: qué significa hacer un “disparo directo” hacia la superinteligencia, cómo competir con gigantes que gastan miles de millones en cómputo, y por qué cree que, tarde o temprano, habrá convergencia en las estrategias de alineación. Ilya defiende una idea fuerte: construir IA que se preocupe genuinamente por la vida sintiente, en un mundo donde habrá billones de agentes artificiales y un crecimiento económico potencialmente explosivo.

Finalmente, Sutskever se moja con plazos (entre 5 y 20 años para sistemas que aprendan tan bien como un humano), reflexiona sobre los riesgos de tener inteligencias del tamaño de un continente, sobre la importancia de un despliegue gradual para que la sociedad vea de verdad el poder de la IA, y cierra explicando su propio “gusto” en investigación: buscar belleza, simplicidad y una inspiración correcta en el cerebro como brújula cuando los datos experimentales son confusos.