Elon Musk y docenas de otros líderes tecnológicos han pedido a los laboratorios de IA que detengan el desarrollo de sistemas que puedan competir con la inteligencia a nivel humano.
En una carta abierta del Future of Life Institute, firmada por Musk, Apple
cofundador Steve Wozniak y el candidato presidencial de 2020 Andrew Yang, se instó a los laboratorios de IA a dejar de entrenar modelos más potentes que GPT-4, la última versión del software de modelo de lenguaje grande desarrollado por la startup estadounidense OpenAI.
“Los sistemas de IA contemporáneos ahora se están volviendo competitivos para los humanos en tareas generales, y debemos preguntarnos: ¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad?” leyó la carta.
″¿Deberíamos automatizar todos los trabajos, incluidos los satisfactorios? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?”
La carta agregó: “Dichas decisiones no deben delegarse en líderes tecnológicos no elegidos”.
El Future of Life Institute es una organización sin fines de lucro con sede en Cambridge, Massachusetts, que lucha por el desarrollo responsable y ético de la inteligencia artificial. Sus fundadores incluyen al cosmólogo del MIT Max Tegmark y al cofundador de Skype Jaan Tallinn.
La organización ha conseguido previamente que Musk y el laboratorio de IA DeepMind, propiedad de Google, prometan nunca desarrollar sistemas letales de armas autónomas .
El instituto dijo que estaba llamando a todos los laboratorios de IA a “pausar inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que GPT-4”.
Se cree que GPT-4, que se lanzó a principios de este mes, es mucho más avanzado que su predecesor GPT-3.
“Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria”, agregó.
ChatGPT, el chatbot viral de IA, ha sorprendido a los investigadores con su capacidad para producir respuestas similares a las humanas a las indicaciones de los usuarios. En enero, ChatGPT había acumulado 100 millones de usuarios activos mensuales solo dos meses después de su lanzamiento, lo que la convirtió en la aplicación para consumidores de más rápido crecimiento en la historia.
La tecnología está entrenada en grandes cantidades de datos de Internet y se ha utilizado para crear de todo, desde poesía al estilo de William Shakespeare hasta redactar opiniones legales sobre casos judiciales.
Pero los especialistas en ética de la IA también han expresado su preocupación por los posibles abusos de la tecnología, como el plagio y la desinformación.
En la carta del Future of Life Institute, los líderes tecnológicos y académicos dijeron que los sistemas de inteligencia artificial con inteligencia humana y competitiva plantean “profundos riesgos para la sociedad y la humanidad”.
“La investigación y el desarrollo de IA deben reenfocarse en hacer que los sistemas potentes y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales”, dijeron.
