En Búsqueda y Galería nos estamos renovando. Para mejorar tu experiencia te pedimos que actualices tus datos. Una vez que completes los datos, tu plan tendrá un precio promocional:
* Podés cancelar el plan en el momento que lo desees
¡Hola !
En Búsqueda y Galería nos estamos renovando. Para mejorar tu experiencia te pedimos que actualices tus datos. Una vez que completes los datos, por los próximos tres meses tu plan tendrá un precio promocional:
* A partir del cuarto mes por al mes. Podés cancelar el plan en el momento que lo desees
+
Tu aporte contribuye a la Búsqueda de la verdad
Suscribite ahora y obtené acceso ilimitado a los contenidos de Búsqueda y Galería.
Suscribite a Búsqueda
DESDE
UYU
299
/mes*
* Podés cancelar el plan en el momento que lo desees
¡Hola !
El venció tu suscripción de Búsqueda y Galería. Para poder continuar accediendo a los beneficios de tu plan es necesario que realices el pago de tu suscripción.
OpenAI, Anthropic y Google buscan crear un organismo de supervisión de riesgos de la IA
OpenAI, Anthropic y Google DeepMind impulsan un organismo para supervisar los riesgos de la inteligencia artificial y frenar los proyectos más peligrosos. La iniciativa ya enfrenta críticas y podría quedar trabada por razones políticas
Los gigantes de la inteligencia artificial (IA) quieren extender a todo el país lo que acaba de aprobarse en California, la creación de un organismo de supervisión independiente. La idea surgió de una propuesta de Demis Hassabis, quien fue director general de Google DeepMind antes de asumir la presidencia a principios de agosto. Hassabis planteó crear una entidad similar a la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA), un organismo de autorregulación del sector financiero.
Registrate gratis y seguí leyendo
Accedé a artículos gratuitos y newsletters de Búsqueda y Galería.
El venció tu suscripción de Búsqueda y Galería. Para poder continuar accediendo a los beneficios de tu plan es necesario que realices el pago de tu suscripción.
El debate sobre los riesgos de la IA cobró fuerza desde principios del verano, impulsado por una serie de incidentes y declaraciones apocalípticas de varios profesionales del sector. En particular, varios modelos de IA de OpenAI y Anthropic salieron de forma espontánea de sus entornos confinados para acceder a Internet e irrumpir en sitios web y plataformas.
La creación de un organismo de supervisión propio de la industria, incluso si parte de una iniciativa exclusiva del sector, requeriría una ley. El objetivo sería evitar que las empresas de IA sean acusadas de colusión o de infringir las normas de competencia.
La creación de FINRA fue autorizada por una ley federal y está bajo la supervisión de la Comisión de Bolsa y Valores de Estados Unidos (SEC), que depende del poder ejecutivo. “FINRA puede elaborar sus propias normas, pero la SEC debe aprobarlas”, explica Andrew Tuch, profesor de Derecho en la Universidad de Washington en San Luis. Todos los textos que regulan FINRA “han sido aprobados en el Congreso o elaborados bajo la supervisión de la SEC”.
El llamado a frenar el desarrollo de la IA lanzado el sábado por el director de Anthropic, Dario Amodei, coincidió con nuevas declaraciones de Donald Trump y miembros de la mayoría presidencial en favor de no restringir al sector, oficialmente por temor a que China tome la delantera.
Trump y sus aliados también rechazaron las advertencias de funcionarios y desarrolladores sobre los riesgos de la IA. Entre ellas, las de Jacob Coxon, quien se pronunció hace una semana. El presidente estadounidense calificó esas advertencias de “basura”.
Expertos independientes
Los principales actores del sector de la IA llevan meses pidiendo al gobierno estadounidense que regule la industria y supervise su seguridad. A principios de agosto, la administración de Trump puso en marcha un proceso para evaluar los nuevos modelos de IA, pero su participación es voluntaria y no se ha dado a conocer cómo funciona.
En un mensaje publicado a mediados de julio, Demis Hassabis propuso crear una estructura financiada por las empresas del sector, con un consejo integrado por expertos independientes y representantes del ecosistema abierto. Este último reúne a desarrolladores de IA abierta, cuyos modelos pueden descargarse y modificarse de forma gratuita, a diferencia de los modelos cerrados de OpenAI o Anthropic.
Una vez en funcionamiento, las empresas más avanzadas en IA deberían someter sus nuevos modelos a una revisión de seguridad antes de comercializarlos.
“No creo que un pequeño grupo de empresas de IA deba definir las reglas para todos”, dijo a CNBC Aidan Gómez, director ejecutivo de la canadiense Cohere, que desarrolla su propia IA. “Hay muchísimas partes interesadas a las que se debe consultar”.
“Un punto de partida para la creación de estándares internacionales”
Según Demis Hassabis, el nuevo organismo también podría impulsar una desaceleración coordinada del desarrollo de la IA si la comprensión de sus riesgos no avanza al mismo ritmo que la tecnología.
“Cuando está en juego el futuro de la humanidad, necesitamos normas internacionales vinculantes, no estándares de la industria basados en la voluntariedad”, declaró el martes el senador demócrata Bernie Sanders durante el evento Pro-Human AI, en Washington.
Hassabis propuso que el organismo de autorregulación sea “un punto de partida para la creación de estándares internacionales para la IA de vanguardia”.
Varios observadores, en particular republicanos, acusaron a las grandes empresas de IA de “apropiarse de la regulación”. Sostienen que buscan definir sus propias normas y proteger su ventaja competitiva en perjuicio de competidores y consumidores.
David Sacks, asesor de Donald Trump, advirtió sobre el riesgo de crear un cártel de la IA y pidió a cada empresa actuar por su cuenta, incluso si eso implica reducir su ritmo de desarrollo. Ese escenario parece poco probable debido a las grandes inversiones realizadas en las principales empresas del sector.
+ 
