Elon Musk y los expertos piden frustrar los avances de la inteligencia artificial

In medio del furor por el ChatGPT 4 y el poder de la inteligencia artificial alrededor del mundo un grupo de expertos de distintas ramas realizó un llamado para cesar con los progresos por al menos seis meses, alertados por los riesgos que podría generar.

a través del sitio futurodevida.orglos firmantes piden que se establezcan sistemas de seguridad con nuevas autoridades reguladoras, técnicas que ayuden a distinguir entre lo real y lo artificial, instituciones capaces de hacer frente a la «perturbación económica y política dramática (especialmente para la democracia) que hará que la IAy la vigilancia de los sistemas que la conforme.

Incluye el creador de ChatGPT, sam altmanexpresó que su empresa «necesita tiempo» para adaptar a la nueva tecnología y plantó tener «un poco de miedo» por la «misinformación a gran escala o ciberataques» que se pueden generar a partir de los experimentos con IA.

En el pedido firmado por expertos como Elon Muskdueño de Twitter y Space X, co-fundador de Apple, Steve Wozniak, miembro del laboratorio de AI DeepMind de Google, director de Stability AI, Emad Mostaque, ingenieros ejecutivos de Microsoft y el historiador Yuval Noah Harari, entre otros, están a cargo de la lupa en la calidad de poder que puede ostentar la IA.

«En los últimos meses hemos visto cómo los laboratorios de IA se han lanzado a una carrera descontrolada para desarrollar y desplegar cerebrosdigits cada vez más potentes que nadie, ni siquiera sus creadores, pueden oír, predecir o controlar de manera fiable», expresan en un fragmento

También explica que este tipo de sistema «deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables».

Inteligencia artificial: ¿heroína o villana en la lucha contra la desinformación?

Además de pedir que la pausa por varios meses sea «pública y verificable», refirieron que en otros momentos de la historia «otras tecnologías con efectos potencialmente catastróficos en la sociedad» también frenaron su desarrollo.

Qué dice la carta completa contra la inteligencia artificial

Pausar experimentos gigantes de IA: un mapa abierto

Hacemos un llamado a todos los laboratorios de IA para que pausen inmediatamente durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4.

Los sistemas de IA con inteligencia humana-competitiva pueden plantar riesgos profundos para la sociedad y la humanidad, como lo demuestra una extensa investigación [1] y reconocido por los principales laboratorios de IA. [2] Tal como se establece en los Principios de IA de Asilomar ampliamente respaldados, la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificar y administrarse con el cuidado y los recursos correspondientes.

Desafortunadamente, este nivel de planificación y gestión no está ocurriendo, a pesar de que en los últimos meses los laboratorios de IA han entrado en una carrera fuera de control para desarrollar e implementar ments digitales cada vez más poderosas que nadie, ni siquiera sus creadores, puedo oir. predecir o controlar de forma fiable.

Los sistemas de IA contemporáneos ahora se están volviendo competitivos para los humanos en tareas generales, [3] y debemos preguntarnos: ¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad? ¿Deberíamos automatizar todos los trabajos, incluidos los de cumplimiento? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más, obsoletas y reemplazarnos? ¿Deberíamos arriesgarnos ha perdido el control de nuestra civilización? Tales decisiones no deben delegarse en líderes tecnológicos no elegidos.

Los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables. Esta confianza debe estar bien justificada y aumentar con la magnitud de los efectos potenciales de un sistema. La reciente declaración de OpenAI con respecto a la inteligencia artificial general establece que en algún momento, puede ser importante obtener una revisión independiente antes de comenzar a entrenar sistemas futuros, y para los esfuerzos más avanzados para acordar la tasa de crecimiento de la computación utilizada para crear nuevos modelos». Estamos de acuerdo. Ese punto es ahora.

Por todo eso, hagamos un llamado a todos los laboratorios de IA para que pausen de inmediato durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4. Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no se puede promulgar rápidamente, los gobiernos deberán intervenir e instituir una moratoria.

La inteligencia artificial de Microsoft ha traído usuarios tan provocativos

Los laboratorios de IA y los expertos independientes deben probar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA que son rigurosamente auditados y supervisados ​​por expertos externos. Estos protocolos deben garantizar que los sistemas que se adhieren a ellos sean seguros más allá de toda duda razonable. [4] Esto no significa una pausa en el desarrollo de la IA en general, simplemente un paso atrás de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con habilidades emergentes.

La investigación y el desentrañamiento de IA deben reforzarse en hacer que los sistemas potentes y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.

Al mismo tiempo, los desarrolladores de IA deben trabajar con los legisladores para acelerar drásticamente el desarrollo de sistemas sólidos de gobierno de IA. Estos deben incluir como mínimo: nuevas autoridades reguladoras y capacidades dedicadas a la IA; supervisión y monitoreo de sistemas de IA de alta capacidad y conjuntos de gran capacidad informática; sistemas de procedencia y marcas de agua para ayudar a distinguir las fugas reales de las sintéticas y rastrear modelos; un sólido ecosistema de auditorios y certificación; responsabilidad por daños causados ​​por IA; financiamiento público solidificado para la investigación técnica de seguridad de la IA; Estas instituciones están bien dotadas para hacer frente a las dramáticas perturbaciones económicas y políticas (especialmente en democracia) que provocan las IA.

La humanidad puede disfrutar de un futuro floreciente con la IA. Habiendo tenido éxito en la creación de poderosos sistemas de IA, ahora podemos disfrutar de un «verano de IA» en el que cosechamos las recompensas, diseñamos estos sistemas para el claro beneficio de todos y le damos a la sociedad la oportunidad de adaptar. La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad. [5] Podemos hacerlo aquí. Disfrutemos de un largo verano de IA, no nos apresuremos a caer sin estar preparado.

GI/ff