Hinton, el padre del aprendizaje profundo, ahora le pide al mundo que frene la inteligencia artificial

Geoffrey Hinton, el investigador británico canadiense que en 2018 recibió el Premio Turing por sus trabajos fundacionales en aprendizaje profundo, volvió a encender el debate sobre el futuro de la inteligencia artificial. En una reciente entrevista, el científico de 78 años estimó entre 10 % y 20 % las chances de que sistemas superinteligentes provoquen la extinción de la humanidad en un horizonte de treinta años, es decir, antes de 2055.

La cifra, surgida del propio Hinton, no es una hipótesis alarmista aislada sino el resultado de observar una velocidad de desarrollo que, según sus palabras, superó con creces las proyecciones que él mismo manejaba hace una década. Después de renunciar a Google en 2023 justamente para poder hablar sin restricciones, el académico sostiene que la humanidad nunca se enfrentó a entidades más inteligentes que ella misma, y que ese punto ciego es el mayor riesgo del momento.

Modelos que entienden, no solo calculan

Uno de los puntos que el investigador destacó con mayor fuerza es la naturaleza de los modelos de lenguaje más avanzados. En su análisis, estos sistemas ya no se limitan a identificar correlaciones estadísticas en grandes volúmenes de texto: comprenden efectivamente los conceptos semánticos y abstractos que procesan. Esa distinción, para Hinton, cambia la categoría del riesgo porque pasamos de máquinas que predicen palabras a sistemas que parecen entender significados.

“La regulación gubernamental es el volante. Sin él, cuanto más acelerás, más peligroso es el viaje.”Geoffrey Hinton

Por qué el mercado no alcanza

Frente a quienes argumentan que imponer límites regulatorios pone en desventaja a determinados países frente a competidores internacionales, Hinton respondió que confiar en la autorregulación del mercado ante una amenaza de esta escala es un error estratégico. En su postura, la competencia geopolítica entre Estados Unidos, China y Europa no puede ser razón suficiente para postergar marcos legales globales vinculantes.

Para graficar el problema, el científico comparó la innovación tecnológica con el acelerador de un automóvil. Sin volante, más velocidad equivale a más peligro. La regulación gubernamental, en su esquema, cumple ese rol de dirección que todavía no existe a la altura del desafío.

Lo que falta

• Un tratado internacional vinculante que limite el desarrollo de modelos por encima de ciertos umbrales de cómputo y capacidad, similar al régimen de no proliferación nuclear.
• Organismos de auditoría independientes, con acceso a los pesos internos de los modelos y no solo a las interfaces de uso.
• Reglas claras sobre responsabilidad legal cuando un sistema autónomo toma decisiones en salud, justicia, finanzas o defensa.
• Mecanismos de rendición de cuentas corporativa que identifiquen qué empresa o laboratorio entrena cada modelo de frontera.
• Políticas de transición laboral para los puestos de trabajo que la IA reemplazará antes de que ese reemplazo se concrete.