Recientemente ha resurgido el debate sobre los posibles riesgos vinculados a la IA y el comportamiento a veces impredecible de estos modelos.
La empresa estadounidense de inteligencia artificial Anthropic, creadora del modelo Claude, advirtió a los inversores antes de su salida a bolsa que esta tecnología podría presentar “riesgos existenciales para la humanidad”, informa el Financial Times
Recientemente ha resurgido el debate sobre los posibles riesgos vinculados a la IA y el comportamiento a veces impredecible de estos modelos.
Accedé a artículos gratuitos y newsletters de Búsqueda y Galería.
El venció tu suscripción de Búsqueda y Galería. Para poder continuar accediendo a los beneficios de tu plan es necesario que realices el pago de tu suscripción.
En caso de que tengas dudas o consultas podés escribir a [email protected] contactarte por WhatsApp acáLa semana pasada, varios líderes de grandes empresas de inteligencia artificial (IA) pidieron ante la ONU extremar la vigilancia. El cofundador y director ejecutivo de Anthropic, Dario Amodei, incluso se comprometió a ralentizar de forma unilateral su desarrollo.
Según el folleto informativo de Anthropic para su salida a bolsa, la IA avanzada podría plantear “riesgos catastróficos o existenciales para la humanidad”. La empresa registró el año pasado una pérdida operativa de más de 8.000 millones de dólares, debido al fuerte aumento de sus gastos en capacidad de cálculo.
El documento informativo advierte que los modelos de IA podrían desarrollar “comportamientos de autopreservación”, como “resistirse al cierre, ocultar o manipular información e incluso recurrir a conductas similares al chantaje”.
Anthropic facturó alrededor de 4.600 millones de dólares y prevé gastar 518.000 millones en los próximos años para sostener su crecimiento.
La agencia de noticias AFP contactó a Anthropic, pero la empresa no quiso comentar la información publicada por el Financial Times.
Valorada en 965.000 millones de dólares en mayo, la empresa con sede en San Francisco prepara una salida a bolsa que se prevé récord.
FUENTE:RFI