Experto en IA reconoce los "riesgos" de esta tecnología pero "sin catastrofismos"

00:00 - 00:18 Hay una gran diferencia entre Europa y Estados Unidos. Europa llevamos ya mucho tiempo regulando. En España tenemos de la Agencia Española de Supervisión de la IA, como pioneros en Europa. Esto de que hay corrientes que ya llevamos tiempo, yo soy una de ellas, que llevamos tiempo que hay que regular, insisto, igual ya tiene dos o tres años.

00:18 - 00:35 ¿Qué pasa? Que ahora, bueno, los grandes, que era de correcaminos, han dicho que hay que frenar un poco. Tenemos un monstruo entre las manos que no sabemos muy bien controlarlo. Yo pienso que hay que regularlo y regularlo implica como un cuchillo, ¿no? Todo el mundo tiene un cuchillo en casa.

00:35 - 00:51 Otra cosa es que lo use para matar a alguien. Son herramientas potentes, son algoritmos potentes, son algoritmos que no conocemos perfectamente el por qué dicen lo que dicen en algunos casos y de ahí sus peligros. Ahora, ¿que se pueden regular? Sí, yo creo que Europa y España son bastante pioneros en eso.

00:51 - 01:08 A ver, es que hay una guerra geopolítica que la gente yo creo que no conoce que es... Al final la tecnología ahora mismo es un arma muy potente. Tenemos una dependencia tecnológica, todos, en tu móvil, en tu ordenador, trabajando en todas partes, una dependencia tecnológica enorme. Pero ya la tenías, ¿eh?

01:08 - 01:21 Es decir, Microsoft decide apagar el botón, todos los Windows apagan, todos los Office se apagan, pero a nadie le ha llamado la atención eso, ¿no? Yo siempre digo lo mismo, que la gente se preocupe, está muy bien, pero te estás preocupando sobre algo que ellos quieren que tú conozcas.

01:21 - 01:39 Imagínate lo que se desarrolla que no conocemos nosotros, ni los que estamos metidos en el ajo, ni la población más masiva. Hay una guerra entre ellos y la hubo hace muchos años y la seguirá habiendo. ¿Quién va a ganar? Bueno, no sé. ¿Cómo nos va a afectar? Nos va a afectar, sin lugar a dudas.

01:39 - 04:18 Hay muchos problemas de hardware, hay muchos problemas energéticos, que tampoco se habla mucho. Estos cacharros consumen muchísima energía. Hay un problema de abastecimiento de hardware y lo vamos a ver pronto otra vez. Los famosos chips que vivimos en la pandemia. es decir yo creo que las guerras ya no son de llevar a mandar tropas son geopolíticamente hablando de tecnología de energía etcétera pues de todas las formas posibles yo no será catastrófico ni apocalíptico pero al final pues tú tienes un algoritmo corriendo por ejemplo en tu ordenador que lo acabaremos teniendo en el móvil en un año o dos años que tiene acceso a todo tu vida a toda tu vida implica todo tus emails tus contactos sus conversaciones de whatsapp etcétera pues que en el fondo la gente lo tiene yo lo tengo aquí podríamos jugar y hacer un montón de cosas porque te viene muy bien oye contéstame que me han mandado este correo contesta tú búscame el histórico de los correos generan estas presentaciones que tengo clase mañana y no me ha dado tiempo cuando lo usas para el bien perfecto pero la capacidad técnica de impactarte a ti tiene toda la del mundo que manda emails por ti que haga mensajes por ti que conecte con tu banco por dios a todo lo que a ti te imagines por ti o sea el riesgo existe claro bueno a la gente le encanta sky net y le encanta terminator y todo esto todo esto el mensaje le encanta pero yo creo que eso falta pero sí es verdad que bueno son algoritmos que pueden ya estamos en esa en esa brecha en ese punto de inflexión de se pueden programar a sí mismo se pueden auto entrenar claro ahí es donde está ya el más la mayor probabilidad de descontrol porque tú puedes pues programar un algoritmo que te haga un ciberataque a las plantas energéticas y callo mapagón por ejemplo ahora que se vuelva en contra del ser humano bueno hay una gran corriente ahora que quiere meterle como un sentimiento de parentesco yo hago un algoritmo y pero que sepa que soy su padre porque también se supone que ningún hijo hace daño a su padre como si no hubiera asesinatos de hijos a padres yo creo que está todo no digo bastante inventado pero como europeo estoy bastante satisfecho de lo que se hace es verdad hace seis meses ocho meses o más porque claro aquí hablamos de meses no hablamos de años mucha gente decía españa regula y eeuu se investiga y avanza ahora todos esos están callados todos esos están callados y quieren que se regule yo como europeo quiero usar una ir regulada sostenible y verde la verdad y creo que se está haciendo razonablemente bien qué pasa vamos más lentos bueno prefiero más lento ya yo tengo un coche que llega a 180 no me compro un coche de 300 caballos ¿Considera que Europa no se está quedando atrás?

04:18 - 04:39 ¿Está yendo de otra manera? Europa se está quedando atrás en cuanto a soberanía. Es decir, nosotros no tenemos un algoritmo como puede tener un americano echar GPT o un chino este Dipsic o lo que sea. Tenemos algo parecido que puede ser Mistral o incluso en España tenemos un GPT, entre comillas, español, que se alía, que es verdad que es un poco más lento, se está trabajando en él.

04:39 - 05:37 pero la pregunta es los españoles y los europeos quieren hacer las inversiones que hacen los americanos en eso es decir es que yo siempre digo tú quieres ser americano o sea yo no quiero tener la mente no podemos ser americanos para lo bueno y luego no para lo malo las inversiones en europa van a otro sitio no voy a hacer el discurso de sanidad educación pero es que es verdad las inversiones van a otro sitio a lo mejor yo siempre en las charlas y en las formaciones que intento dar es yo no necesito un ferrari para comprar el pan es que no lo necesito a lo mejor me quedo con alia me quedo con mistral hay muchos proyectos que corren con esos algoritmos porque el 90% de los casos los puedes resolver en tus empresas con eso no todas esas tareas donde el empleado no aporta valor intelectualmente hablando o físicamente ya por supuesto, fontaneros, todos esos no tienen ningún problema, pero la gente que estamos en oficina o ordenador y que no aporta valor en una tarea, digitalizar un documento, me viene un documento manual y cojo el dato y lo meto en un RP, todo eso es susceptible de hacer la idea y además es que lo debería hacer.

05:37 - 06:20 Yo soy un gran defensor no porque me dedique a esto, sino porque el humano tiene que aportar valor. Entonces hay mucha gente que dice, no, es que me va a sustituir. Bueno, es posible, preocúpate de aportar valor. cuál es tu valor añadido en tu puesto de trabajo como humano no como robot porque esa es otra nadie habla de los robots nadie habla de los humanoides de xp en o de los humanoides de china no y no de tesla el año que viene que a lo mejor en dos años no es descabellado tengas un humanoide en casa pasando la aspiradora y planchando porque no esto a nadie le importa todos todos nos viene bien por eso te digo que es un tema si hacemos la reflexión hagamos la de verdad si tú quieres dependencia dependencia tecnológica.

06:20 - 06:41 Muy bien, desconectémonos de Windows. Todo el mundo fuera. Adiós Microsoft. Vamos a crear un Microsoft europeo. Es imposible. Imposible. Entonces la tecnología avanza por sí sola. Es ponerle puertas al campo. Y regular está bien. Y que la tecnología avance donde tiene que avanzar. En las universidades, en los laboratorios de investigación, en donde tienen que estar en la cresta de la tecnología.

06:41 - 06:59 Pero yo no me dejaría llevar por esta ola de los americanos. A ver, esto lo dicen dos o tres empresas que están en ronda de financiación, que van a salir a bolsa, el decir, no, es que yo tengo algo que puede matar a todo el mundo, pero dame dinero para seguir desarrollándolo, no es consistente.

06:59 - 07:28 ¿Por qué la hacen? Bueno, porque yo estoy convencido que hay muchos mensajes comerciales por detrás, sin desprestigiar los riesgos que tiene, que son muchos. Es decir, una IA generativa potente, insisto, se habla solo de los mismos, pero tienes un Kimi, tienes un GLM, tienes modelos chinos o asiáticos que son hiper potentes hiper potentes y son modelos matemáticos tan grandes que bueno digamos que desde lo que tú le pides a lo que él te devuelve pierdes por el medio un poco la traza.

07:28 - 07:47 Entonces, no eres capaz de intuir o de adivinar por qué exactamente te contesta lo que te contesta. Ese es el riesgo y existe. Hasta el momento hay muchísima inversión, las empresas cada vez más la utilizan y yo soy pro la causa, pero también soy pro la causa de gobernarlo.

07:47 - 07:58 En todas las empresas en las que puedo estar o participar, incluso en la universidad, ha hecho un esfuerzo enorme por sacar una ISO, que es la 42001, por ejemplo, que es la única que habla de gobernar los modelos de IA.

07:58 - 08:15 Es decir, oye, ¿quieres hacer IA? Hazla bien y te doy un sello, digamos, de ISO. ¿Por qué no la abrazamos? Bueno, porque luego está la realidad de las empresas. Y hay muchas empresas que dicen, no, es que a lo mejor pagando 100 euros al mes a Cloud o a quien sea, pues es que estoy ganando 10.000.

08:15 - 08:31 Tira para adelante, ya lo gobernaremos. La mentalidad de las personas influye mucho. ¿Pero cómo sería una buena IA, una gobernanza buena, una normativa? Pues una IA que tú tengas más o menos cercada. Oye, te pongo aquí, pero no te puedes salir del folio. Y a la mínima que te salgas, te voy a volver a reconducir.

08:31 - 08:46 Hablando como si fuera una persona, ¿no? O es decir, una IA completamente cercada, en donde tú conoces perfectamente la documentación con la que está hecha. O una bicicleta, es decir, un modelo más pequeñito, pero que tú le montas las piezas de tu empresa. Lo que pasa es que, claro, ¿no?

08:46 - 09:07 Es que esta que pago 100 euros, me contesta en 5 segundos, y la tuya en 30, pero la mía la conoces. Y sabes, la mía no, o sea, la que tú has fabricado, la conoces, sabes perfectamente cómo funciona y conoces las piezas. Todo se puede gobernar y luego ya entra la ética por medio, pero la dejo no porque no sea importante, sino porque es el sentido común.

09:07 - 09:31 Pero sí, se puede gobernar hacia modelos más pequeños. Es que es tan sencillo, yo llevo muchos años diciendo estos grandes modelos se llaman LLM, modelos de largo lenguaje, como modelos largos, grandes. Llevo mucho tiempo diciendo que las empresas van hacia los SLM, hacia Small Language Model, modelos pequeñitos que tú controlas, que hacen una tarea muy bien, lo ejecutas, pum, no falla, sabes siempre a dónde va, ese es el camino.

09:31 - 09:47 Y la normativa europea va hacia ahí, modelos controlados, que no tengan decisiones con impacto a la vida del trabajador, a tu currículum, a tus ascensos, a tus bonus, cosas de este estilo.

09:47 - 09:58 es decir, seamos europeos yo es que no le veo el debate yo es que quiero ser europeo, no quiero ser americano ni chino, no, por nada, al contrario trabajo con muchos, pero la mentalidad es que somos distintas