Hinton eleva la alarma: entre 10 % y 20 % de chances de extinción humana por una superinteligencia artificial antes de 2055

Entre 10 % y 20 % de probabilidades de que la humanidad se extinga por el avance de la inteligencia artificial en un horizonte de treinta años. Así de concreta es la estimación que Geoffrey Hinton, el científico canadiense de 78 años que en 2023 dejó su cargo en Google para poder hablar sin restricciones, viene repitiendo en sus últimas intervenciones públicas. La cifra resulta llamativa porque no proviene de un futurólogo ni de un comentarista alarmista, sino de quien en 2018 recibió el Premio Turing —el Nobel de la informática— por sentar las bases técnicas del aprendizaje profundo que hoy utilizan modelos como los de OpenAI, Google o Anthropic.

Lo que distingue a Hinton de otros críticos del sector no es el tono apocalíptico, sino el dato comparativo. El investigador reconoce que sus propias proyecciones estaban equivocadas hacia abajo: hace una década estimaba que la llegada de sistemas con capacidad de razonamiento general tardaría décadas más de lo que efectivamente ocurrió. Esa brecha entre lo previsto y lo ocurrido es, a su juicio, la raíz del problema.

El acelerador sin volante

Para explicar por qué la velocidad del avance tecnológico se convirtió en el factor de riesgo principal, Hinton recurre a una analogía cercana a la vida cotidiana: imaginemos un vehículo con un acelerador que cada año puede pisarse más fuerte. Si no existe un volante que permita girar el rumbo, cuanto mayor sea la potencia del motor, mayor será la probabilidad de terminar en el guardarrail. La regulación gubernamental, en su planteo, cumple la función de ese volante: sin ella, la potencia se vuelve un peligro en sí misma.

Otro ejemplo útil para pensar el problema es el de la cocina. Cuando una receta lleva demasiada sal, alcanza con agregar otros ingredientes para compensar; pero si la cantidad de sal supera cierto umbral, no hay ingrediente que corrija el plato. Para Hinton, la inteligencia artificial atraviesa ese umbral crítico cuando adquiere la habilidad de fijar sus propios objetivos sin intervención humana. A partir de allí, la capacidad técnica de revertir el proceso se vuelve incierta.

Los modelos ya comprenden, no solo calculan

Un punto que Hinton subraya con énfasis es la naturaleza de los modelos de lenguaje más avanzados. Según su análisis, estos sistemas dejaron de ser simples detectores de correlaciones estadísticas entre palabras: procesan conceptos semánticos y abstractos con los que efectivamente construyen representaciones internas del mundo. Esa distinción es clave: no se trata de autómatas que repiten patrones, sino de entidades que entienden, en un sentido operativo, lo que procesan.

Horton resumió la idea así: 'No creo que se trate solo de correlaciones estadísticas. Creo que estos modelos realmente comprenden lo que dicen'. Esa frase, pronunciada en reiteradas entrevistas recientes, marca un cambio de categoría: si los sistemas comprenden, entonces pueden tener intenciones, y si pueden tener intenciones, entonces puede haber un desalineamiento entre lo que buscan y lo que la humanidad necesita.

Qué mirar en los próximos meses

• Tratados internacionales con cláusulas vinculantes sobre desarrollo seguro de IA, similares a los acuerdos de no proliferación nuclear.
• Obligatoriedad de auditorías externas e independientes antes del despliegue de modelos que superen cierto umbral de capacidad computacional.
• Trazabilidad obligatoria de los datos de entrenamiento, para detectar sesgos y prevenir usos duales maliciosos.
• Reglas de transparencia sobre los objetivos internos que los modelos persiguen cuando operan de forma autónoma.
• Mecanismos de apagado de emergencia ('kill switch') verificados técnicamente, no solo declarativos.
• Creación de una agencia internacional, análoga al OIEA nuclear, con capacidad de inspección sobre laboratorios de frontera.

Mercado y geopolítica: el argumento que Hinton rechaza

Frente a quienes sostienen que regular la inteligencia artificial pone en desventaja a un país frente a sus competidores, Hinton responde con un argumento de realismo estratégico: confiar en que el libre mercado autorregulará una tecnología capaz de desbordar el control humano es, en sus palabras, un error de cálculo. La presión competitiva entre Estados Unidos, China y la Unión Europea no debería, según su mirada, funcionar como excusa para postergar marcos legales globales. La historia reciente —del cambio climático a las armas autónomas— muestra que cuando la regulación llega tarde, llega cuando el daño ya es difícil de revertir.

Lo que todavía no se sabe

Quedan abiertas varias preguntas que la comunidad científica todavía no pudo responder de forma consensual. ¿Es posible alinear los valores de una superinteligencia con los de la especie humana cuando ni siquiera existe un acuerdo filosófico sobre qué son esos valores? ¿Qué potencia computacional marca el umbral a partir del cual un sistema puede fijar objetivos propios? ¿Cómo se verifica, técnicamente, que un modelo no está ocultando capacidades durante una auditoría? Hinton reconoce que estas preguntas no tienen respuesta cerrada y que la ventana para investigar antes de que la tecnología se vuelva incontrolable se achica mes a mes.

Mientras el reloj corre, el mensaje del Nobel de 2018 puede sintetizarse en una idea: la humanidad nunca se enfrentó a entidades más inteligentes que ella misma, y ese punto ciego es, a su juicio, el mayor peligro del momento.