Los peligros de la IA
Un nuevo dilema provocado por el miedo: Anthropic apuesta por frenar el desarrollo de la IA mientras Trump pide más
Los detalles Mientras una de las empresas líderes piensa en parar, tras frenar complots para desarrollar armas biológicas usando la IA, el magnate y presidente de EEUU pide ir más rápido para adelantar a China. "Me preocupa que, si no ganamos la carrera, estaremos en una situación muy complicada", ha dicho.
Resumen IA supervisado
La compañía Anthropic afirma haber frustrado complots para desarrollar armas biológicas mediante inteligencia artificial, lo que ha generado preocupación. OpenAI planea ralentizar el desarrollo de la IA, mientras que Donald Trump defiende acelerarlo para ganar ventaja sobre China. La cuestión es si se debe frenar la IA o impulsar su evolución, y si hay intereses económicos detrás de estas narrativas. Ingenieros advierten sobre el peligro potencial de la IA, que podría amenazar a la humanidad en una década. En Estados Unidos, se proponen medidas para mitigar riesgos, pero el consenso en el sector es necesario para avanzar con precaución.
* Resumen supervisado por periodistas.
Complots para desarrollar armas biológicas usando la inteligencia artificial. Esto es lo que asegura haber frustrado la compañía Anthropic. Y una vez más, asusta. Este viernes hemos sabido que OpenAI planea bajar el ritmo en el desarrollo de la IA, aunque el magnate y presidente de los Estados Unidos, Donald Trump, quiere todo lo contrario.
Por ello, la pregunta actual es: ¿se debe echar el freno con la IA o impulsar su evolución? Pero también debemos hacernos otra cuestión, que pasa por saber cuánto hay de verdad en toda esta historia. Descubrir si nos están engañando para hinchar el valor de las acciones de las empresas relacionadas con la IA.
¿Por qué ha aumentado la preocupación por la IA?
La advertencia de varios ingenieros de las principales empresas del sector ha avivado el temor en los últimos días. Sobre todo después de asegurar que la IA podría acabar con la humanidad en una década o menos.
"Esta es posiblemente la tecnología más peligrosa que la humanidad haya creado jamás", ha dicho Jacob Coxon. Palabras que coinciden con el anuncio de Antropic, que asegura haber desarticulado posibles complots que usaban su inteligencia artificial para investigar armas biológicas.
¿Cómo podría matar la IA a toda la humanidad?
"La IA superinteligente no es algo tan lejano", es otra de las advertencias de Coxon. Una superIA sería imposible de manejar si decide actuar por su cuenta y acabar con todos.
Para ello podría hackear lo que quisiera, activar armas nucleares y biológicas, colapsando nuestras infraestructuras o provocando ataques de falsa bandera para que las superpotencias se destruyan entre sí.
¿Qué se está haciendo al respecto?
En Estados Unidos, los demócratas proponen medidas para evitar los riesgos.
"No queremos adentrarnos en la IA superinteligente. Tenemos que prohibirla", ha llegado a decir Sam Altman, que ralentiza varios proyectos de inteligencia artificial.
El CEO de OpenAI ya plantea ralentizar el desarrollo de la inteligencia artificial y frenar así las amenazas que representa. Pero solo si todo el sector se comprometiera a autoregularse.
Mientras tanto, Trump asegura: "Me preocupa que, si no ganamos la carrera de la IA, nos veremos en una situación muy complicada". Así, el presidente de EEUU propone todo lo contrario, acelerar el desarrollo de la IA para tener ventaja sobre China.