Experto en IA asegura que empresas vaticinan "un 10% de probabilidades de desastre hasta 2030"

00:00 - 00:18 Es difícil establecer un riesgo, aunque algunos de ellos manejan cifras de porcentajes, lo llaman algo así como el PIDAMP, que es la probabilidad de que haya un desastre, y están hablando de un 10% de probabilidades de que eso suceda de aquí al 2030.

00:18 - 00:38 La realidad o la denuncia que realmente está habiendo ahora mismo, y la salida de muchos ingenieros que trabajan en estos temas dentro de estas grandes tecnológicas, tiene que ver con la velocidad con la que estos modelos están llegando a niveles que esperábamos que sucediera aquí a cinco años y se está produciendo en meses.

00:38 - 00:58 Y sin embargo, la evolución tecnológica de las salvaguardas, es decir, de los elementos tecnológicos que nos permiten que la inteligencia artificial se alinee con las directrices que se les da, que no tengan comportamientos no deseables, pues esas salvaguardas evolucionan muchísimo más lento.

00:58 - 01:21 y de alguna forma lo que se está poniendo de manifiesto es ese peligro. Y el incidente que ha habido hace unas semanas del ataque de una serie de agentes de OpenAI que atacaron o ciberatacaron Hagen Face, pues de alguna forma han cristalizado efectos que ya se vaticinaban que podían suceder desde el 2023, te diría.

01:21 - 02:22 Lo que es alarmante es que la tecnología que soporta las salvaguardas no vaya a la misma velocidad que la tecnología que hace más inteligentes a estos modelos. sobre todo porque hemos llegado a un punto en el que estos modelos ya tienen la capacidad de mejorar de forma recursiva, se automejoran de forma recursiva, con lo cual entramos en un momento donde la evolución de estos modelos deja de ser lineal y empieza a ser exponencial, Con lo cual, teniendo en cuenta los elementos que hemos visto ahora, como el suceso de Hagen Face, sí que es cierto que consiguieron cosas que en teoría era imposible, que salieran de un sandbox o de un entorno para ciberatacar a algo a lo que estos agentes no tenían acceso, te puede plantear situaciones que ahora mismo son inimaginables, que sean capaces de tomar control de una infraestructura crítica como puede ser una central nuclear, con efectos que no podemos deducir.

02:22 - 02:29 El problema de esto es que se podría dar esa circunstancia.