El presidente de Estados Unidos, Donald Trump, cuestionó a las “fuerzas negativas” que —según él— intentan ralentizar el desarrollo de la inteligencia artificial (IA). Sus declaraciones llegan después de que tres figuras centrales de la industria —Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (xAI)— coincidieran en pedir una desaceleración en el avance de los modelos más poderosos para reforzar medidas de seguridad.
Trump habló desde el complejo de golf de Doonbeg, en Irlanda, donde asistía al Abierto. Allí sostuvo que algunos actores “están planteando cosas que no van a suceder” y que Estados Unidos es “el país más avanzado del mundo” en IA. También afirmó que quiere mantener ese liderazgo porque “quien gane en IA, gana”. Aunque criticó las advertencias, no descartó implementar “medidas de control”.
Días atrás, cuando le preguntaron si la IA podría escapar al control humano y poner en riesgo a la especie, Trump respondió: “No me preocupa en absoluto.”
La advertencia de Amodei, Altman y Musk
El primero en pedir una desaceleración fue Dario Amodei, CEO de Anthropic. Propuso reducir el ritmo de mejora de los modelos de frontera y permitir que evaluadores independientes tengan acceso profundo a los sistemas para supervisar riesgos.
Horas después, Sam Altman respaldó la idea y anunció que OpenAI adoptará ese mecanismo de supervisión externa. “Coincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA”, escribió.
Luego se sumó Elon Musk, quien apoyó la postura con un mensaje breve: “Dario tiene razón”.
La coincidencia entre los tres es llamativa en un sector marcado por la competencia feroz. OpenAI ya había informado en agosto que había desacelerado temporalmente parte del entrenamiento de sus modelos para reforzar monitoreo y seguridad, tras incidentes recientes y señales de que sus próximos sistemas podrían alcanzar capacidades críticas en ciberseguridad.
Los riesgos señalados por Anthropic
En su ensayo, Amodei pidió actuar con mayor cautela. “Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA”, escribió. Su postura se publicó luego de que Anthropic difundiera un informe donde se detallaba que actores maliciosos habían usado Claude para actividades vinculadas a armas, operaciones cibernéticas, vigilancia y fraude.
Amodei advirtió que la IA es una tecnología “tan poderosa que sus riesgos son graves”. Según él, avanzar demasiado rápido es imprudente, pero no desarrollarla también implica dejar la tecnología en manos de poderes autoritarios.
Un debate que ya lleva años
Las advertencias se alinean con la carta publicada en marzo de 2023, firmada por más de mil referentes del ámbito académico y empresarial, que pedía una pausa de seis meses en el desarrollo de sistemas de IA generativa. Entre los firmantes estaba Elon Musk, aunque eso no le impidió avanzar con su propio chatbot, Grok.
Fuente: Radio + 🎙️Multimedia 104.9