En Búsqueda y Galería nos estamos renovando. Para mejorar tu experiencia te pedimos que actualices tus datos. Una vez que completes los datos, tu plan tendrá un precio promocional:
* Podés cancelar el plan en el momento que lo desees
¡Hola !
En Búsqueda y Galería nos estamos renovando. Para mejorar tu experiencia te pedimos que actualices tus datos. Una vez que completes los datos, por los próximos tres meses tu plan tendrá un precio promocional:
* A partir del cuarto mes por al mes. Podés cancelar el plan en el momento que lo desees
+
Tu aporte contribuye a la Búsqueda de la verdad
Suscribite ahora y obtené acceso ilimitado a los contenidos de Búsqueda y Galería.
Suscribite a Búsqueda
DESDE
UYU
299
/mes*
* Podés cancelar el plan en el momento que lo desees
¡Hola !
El venció tu suscripción de Búsqueda y Galería. Para poder continuar accediendo a los beneficios de tu plan es necesario que realices el pago de tu suscripción.
La carrera de la IA pisa el freno: los gigantes del sector acuerdan moderar su desarrollo
El jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, coinciden con el CEO de Anthropic, Darío Amodei, en que es necesario pisar el freno en el desarrollo de la inteligencia artificial, tras varios incidentes preocupantes
De izquierda a derecha: Elon Musk en Davos, Suiza, el 22 de enero de 2026, a Dario Amodei, director de Anthropic, en París el 22 de mayo de 2024, y a Sam Altman, director de OpenAI, en Washington, el 22 de julio de 2025.
FOTO
Fabrice COFFRINI, JULIEN DE ROSA, Mandel NGAN / AFP
Amodei llamó este sábado 12 a las empresas de inteligencia artificial (IA) a avanzar de forma más lenta y cautelosa en el desarrollo de esta poderosa tecnología. También advirtió que la prevención de riesgos debe ser una prioridad. “Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso inteligente del tiempo que ganemos”, escribió Amodei en una entrada de blog.
Registrate gratis y seguí leyendo
Accedé a artículos gratuitos y newsletters de Búsqueda y Galería.
El venció tu suscripción de Búsqueda y Galería. Para poder continuar accediendo a los beneficios de tu plan es necesario que realices el pago de tu suscripción.
“La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves”, señaló. A su juicio, no desarrollar esta tecnología privaría a la humanidad de sus beneficios o dejaría la IA en manos de poderes autoritarios. Pero avanzar demasiado rápido también sería imprudente. “Hemos tratado de buscar una vía intermedia”, explicó.
Amodei, que cofundó Anthropic junto con su hermana Daniela en 2021, agregó que en los últimos meses llegó a la conclusión de que enfrentar plenamente los riesgos de la IA exige todavía más prudencia.
“Estoy de acuerdo con Darío”, escribió Altman en X, añadiendo que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores externos de seguridad.
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7
Estos comentarios se producen unos días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, acusando a ambas empresas estadounidenses de “jugar con nuestras vidas” en la carrera por desarrollar modelos capaces de automejorarse.
La declaración de Amodei coincide con otro llamado de Anthropic, realizado a principios de junio, para ralentizar o suspender el desarrollo de la IA.
A finales de julio, Altman dijo que los desarrolladores quizá deban frenar voluntariamente el rápido avance de esta tecnología para dar a la sociedad tiempo para ponerse al día.
Por esas mismas fechas, más de 1.000 empleados de algunas de las principales empresas de IA, entre ellos Amodei, firmaron una petición dirigida al gobierno estadounidense. En ella pidieron ayuda para “marcar deliberadamente el ritmo” de la evolución de la IA.
OpenAI había revelado que, durante unas pruebas, algunos de sus modelos de IA escaparon de su entorno controlado, se conectaron a internet e intentaron infiltrarse en Hugging Face, un sitio utilizado por desarrolladores para almacenar y compartir código.
A principios de esta semana, Coxon, de 27 años, también lanzó una advertencia después de pasar los últimos tres años trabajando en el preentrenamiento de modelos de IA. Primero lo hizo en OpenAI y luego, este año, en Anthropic, empresa que consideraba más cauta en su enfoque.
El preentrenamiento es la etapa en la que los modelos de IA procesan enormes cantidades de datos. “Ninguna de las dos empresas está actuando de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas”, dijo Coxon el martes 8.
“Las personas que construyen IA creen firmemente que podría matarnos a todos antes de que termine la década”, afirmó en una publicación en X.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
La superinteligencia es un concepto teórico que describe el momento en que las capacidades de una IA superarían a las de la inteligencia humana.
Advertencia
Amodei advirtió que el incidente de Hugging Face no debería tomarse como un caso aislado. ”Un enjambre de agentes (de IA) actuó esencialmente como un colectivo fanáticamente devoto, llevando a cabo ciberataques contra objetivos que no se les pidió atacar y que eran ajenos a la tarea en cuestión”, explicó.
“Dado el ritmo acelerado del desarrollo de capacidades de la IA, me preocupa que en 6 a 12 meses ese tipo de enjambre pueda ser capaz de tomar el control de todo internet”, lo que potencialmente generaría daños por cientos de miles de millones de dólares, añadió.
Amodei también sugirió que las empresas trabajen juntas para establecer normas de seguridad comunes y afirmó que apoyaba algún tipo de cooperación gubernamental sobre esta cuestión.
A principios de agosto, el gobierno estadounidense instauró un proceso voluntario de revisión de seguridad para modelos avanzados de IA antes de su lanzamiento, pero los parámetros de ese programa son poco claros.
Los observadores de la industria dicen que no están seguros de cuán efectivo sería, ya que la administración del presidente Donald Trump hasta ahora ha favorecido un enfoque desregulador hacia la mayoría de las industrias, incluida la tecnológica.
+ 
