Icono del sitio 911 Noticias

Elon Musk y otros expertos en tecnología piden el fin de la capacitación en IA

A grupo de expertos en inteligencia artificial (IA) y ejecutivos de tecnologíaentre ellos Elon Muskfirmó una carta abierta en la que pide una pausa en el desarrollo de sistemas de IA.

El escrito, que ya cuenta con más de mil firmantes, fue publicado por Future of Life Institute, una organización sin fines de lucro dedicada a «dirigir la tecnología transformadora hacia el beneficio de la vida y alejarla del riesgo extremo a gran escala».

Entre los firmantes se encuentran Steve Wozniakcofundador de Apple, y Elon Musk, director ejecutivo de Twitter, así como investigadores de DeepMind, propiedad de Alphabet, y expertos en aprendizaje automático como Yoshua Bengio Y stuart russell.

La carta pide específicamente una pausa de al menos seis meses en el entrenamiento de sistemas de IA más potentes que el GPT-4 de Open AI.los gobiernos están a punto de intervenir y hacer cumplir una prohibición.

«Les laboratoires d’IA et les experts indépendants devraient profiter de cette pause pour développer et appliquer conjointement un ensemble de protocoles de sécurité partagés pour la conception et le développement d’IA avancées, rigoureusement audités et supervisés par des experts tiers indépendants», indique la carta.

“Estos protocolos deben garantizar que los sistemas que se adhieren a ellos sean seguros más allá de toda duda razonable. Este no significa una pausa en el desarrollo de la IA en general, solo un paso atrás en la peligrosa carrera hacia modelos de caja negra impredecibles más grandes y con capacidades emergentes.

Los expertos también piden sistemas de gobernanza más fuertes, que debería incluir, como mínimo, nuevas autoridades reguladoras dedicadas a la supervisión y control de la IA; sistemas de procedencia y marcas de agua que ayudan a distinguir las fugas reales de las sintéticas y rastrear modelos, y un sólido ecosistema de auditoría y certificación.

Los proveedores deben asumir la responsabilidad por los daños causados ​​por la IA y debe haber una financiación pública significativa para la investigación técnica sobre la seguridad de la IA. Finalmente, deben Se deben crear instituciones con los recursos para hacer frente a la perturbación económica y política “dramática” que la IA probablemente cause..

regulación heterogénea

Actualmente, la regulación de la IA es muy heterogénea. Dentro Estados Unidosa principios de este mes, la Cámara de Comercio ha pedido más regulación para evitar que la IA obstaculice el crecimiento económico o se convierta en un riesgo para la seguridad nacional.

“La IA está siendo utilizada cada vez más por todos los principales actores en todos los aspectos de nuestra economía y sociedad, tanto a nivel nacional como mundial”, afirma el informe.

«Sin embargo, en muchos sentidos, en términos de tecnología de inteligencia artificial, impacto económico y formulación de políticas, estamos al comienzo de una nueva era».

En el Reino Unidodurante, el gobierno ha descartado la creación de un nuevo organismo dedicado a la gobernanza de la IA. En cambio, pide a los reguladores existentes en diversas áreas, como la Comisión de Derechos Humanos e Igualdad y la Autoridad de Mercados y Competencia, que desarrollen sus propios enfoques específicos del sector.

Sin embargo, Los planes para una nueva ley de IA avanzan en la UEasí como una regulación más estricta de la calidad de los datos, la transparencia, la supervisión humana y la rendición de cuentas.

Aunque el es muy improbable que la carta abierta logre sus objetivos, subraya el malestar general Las tecnologías de IA están aumentando y la presión por una mayor regulación está creciendo.

«La sociedad ha suspendido otras tecnologías con efectos potencialmente catastróficos para la sociedad», escriben los autores. «Podemos hacerlo aquí».

Camelia Granados Olivas

Salir de la versión móvil