Debate sobre la IA
Los miedos sobre la IA empiezan a hacerse realidad: inventan su propio lenguaje y agentes atacan por primera vez en España
Los detalles Un científico galardonado con el Premio Nobel de Física ha sido el último en sumarse a las voces que piden frenar el desarrollo de esta tecnología ante la incapacidad de los seres humanos de controlarla.
Resumen IA supervisado
Geoffrey Hinton, Nobel de Física, advierte sobre un riesgo del 10% al 20% de que la inteligencia artificial (IA) pueda causar la extinción humana. Hinton se une a las preocupaciones de otros expertos, como Bilal Chughtai, ex investigador de Google, quien teme que la IA pueda ser letal. Jacob Coxon, pionero en frenar el desarrollo de la IA, revela que algunos colegas compran tierras aisladas por miedo. En España, la Agencia Española de Protección de Datos denunció un ataque con IA para robar datos personales. A pesar de estos riesgos, Mark Zuckerberg defiende el avance de la IA, proponiendo verificadores independientes.
* Resumen supervisado por periodistas.
"Hay entre un 10% y un 20% de posibilidades de que la IA pueda provocar la extinción de la humanidad". Esta es la alerta que ha lanzado Geoffrey Hinton, un científico que fue premiado con el Premio Nobel de Física, precisamente por desarrollar la base técnica de gran parte de la inteligencia artificial.
Hinton ha sido el último en sumarse al goteo de advertencias sobre los peligros de la inteligencia artificial. Entre las voces de alarma está el recién dimitido investigador de IA dentro de Google, Bilal Chughtai, que se ha confesado "extremadamente preocupado" porque esta tecnología "tiene el potencial de matarnos a todos".
Ya son casi legión los autoexiliados de esta industria. Jacob Coxon, que fue quien inició este movimiento para ralentizar el desarrollo de la IA, ha revelado que algunos de sus compañeros están comprando tierras aisladas por "miedo" a la tecnología que han ayudado a crear.
Primer ataque con agentes de IA en España
Mientras se dan estos avisos, también se empiezan a vivir algunos de los efectos que puede provocar la IA. En España, por primera vez, la Agencia Española de Protección de Datos ha denunciado un ataque en el que se habrían usado agentes de inteligencia artificial para robar datos personales.
No se sabe qué empresa fue el objetivo, ni qué modelo tecnológico se utilizó. Lo que sí se ha corroborado es que el agente de IA consiguió hasta modificar los datos y acceder a facturas.
Inventan su propio lenguaje
Al mismo tiempo, un experimento ha confirmado que las distintas IA, incluso confinándolas, son capaces de encontrarse e inventar un lenguaje propio al margen de los humanos y que sería difícil de descifrar. Con ello, estarían tramando engaños deliberados.
Este avance ya estuvo detrás del gran ciberataque a 'Hugging Face'. En aquella ocasión, modelos avanzados de OpenAI consiguieron abandonar un entorno aislado, salieron a internet y perpetraron su ciberataque.
Pese a todos estos indicios, el CEO de Meta, Mark Zuckerberg, se niega a frenar el desarrollo de la inteligencia artificial. Está dispuesto a que, como mucho, haya verificadores independientes y pide a la población que confíe en que las tecnológicas sabrán autorregularse.
"Los laboratorios se enfrentan a una responsabilidad significativa si sus modelos causan daño, por lo que también tienen un gran incentivo para evitarlo", ha escrito en redes sociales (aunque no en la suya).