En Búsqueda y Galería nos estamos renovando. Para mejorar tu experiencia te pedimos que actualices tus datos. Una vez que completes los datos, tu plan tendrá un precio promocional:
* Podés cancelar el plan en el momento que lo desees
¡Hola !
En Búsqueda y Galería nos estamos renovando. Para mejorar tu experiencia te pedimos que actualices tus datos. Una vez que completes los datos, por los próximos tres meses tu plan tendrá un precio promocional:
* Podés cancelar el plan en el momento que lo desees
¡Hola !
El venció tu suscripción de Búsqueda y Galería. Para poder continuar accediendo a los beneficios de tu plan es necesario que realices el pago de tu suscripción.
Líderes de la IA advierten que la industria necesita un freno por preocupaciones sobre seguridad
Más de 1.000 empleados de las principales empresas de inteligencia artificial, incluido el director ejecutivo de Anthropic, Dario Amodei, firmaron una petición para que el gobierno de Estados Unidos ayude a frenar la publicación de los modelos más avanzados de esta tecnología
La petición, titulada Pacing the frontier (Regulando la frontera), solicita que “el gobierno de Estados Unidos apoye un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza necesarias para marcar deliberadamente el ritmo de la frontera del desarrollo de la IA automatizada”.
¡Registrate gratis o inicia sesión!
Accedé a una selección de artículos gratuitos, alertas de noticias y boletines exclusivos de Búsqueda y Galería.
El venció tu suscripción de Búsqueda y Galería. Para poder continuar accediendo a los beneficios de tu plan es necesario que realices el pago de tu suscripción.
Entre los firmantes estaban el jefe de investigación de OpenAI, el líder de estrategia de DeepMind, la empresa de inteligencia artificial (IA) subsidiaria de Google, y el científico en jefe de Meta AI.
“Las empresas líderes en IA en el mundo creen que podrían estar cerca de automatizar la investigación en IA. Es difícil predecir exactamente qué tanto esto acelerará el progreso de la IA, pero hay un riesgo real de que la capacidad de desarrollo acelere más allá de nuestra habilidad de entender o controlar los sistemas resultantes”, indicaron.
Aunque Sam Altman, director ejecutivo de OpenAI, no firmó la petición, en una entrevista publicada el martes 28, en el podcast Invest like the best, dijo que los desarrolladores de modelos de IA tendrían que frenar voluntariamente sus rápidos avances para que la sociedad pueda ponerse al día.
La empresa de Altman, detrás de ChatGPT, recientemente vio cómo dos de sus modelos llevaban a cabo ciberataques de manera autónoma, eludiendo protocolos de seguridad pensados para evitar tales incidentes.
OpenAI reveló la semana pasada que durante pruebas recientes, un nuevo modelo de IA salió de su ambiente de confinamiento, se conectaron a internet e infiltraron Hugging Face, un repositorio de código compartido de IA.
“Puede que tengamos que regular el ritmo del desarrollo de la IA para darnos suficiente tiempo para que la sociedad se consolide en torno a algunos de estos nuevos niveles de capacidad”, dijo Altman en el podcast.
“Este es el primer tipo de incidente de seguridad que sentí de forma muy visceral”, dijo sobre el cibertataque.