El jefe de OpenAI advierte sobre dos formas en que la IA podría ir «muy mal» a los humanos
El director ejecutivo de OpenAI, Sam Altman, advirtió que el rápido desarrollo de la inteligencia artificial podría ser “muy malo” para la humanidad de dos maneras principales.
«Hay dos formas en las que el progreso de la IA podría salir muy mal y que debemos evitar. Primero, podríamos perder el control del futuro ante la IA. Esto es inaceptable; no nos disculpamos en el Equipo de la Humanidad», escribió Altman en una publicación en X poco después de la medianoche del lunes.
«En segundo lugar, podríamos terminar en un mundo con demasiada concentración de poder. Si una persona o empresa utiliza una IA extraordinariamente poderosa para transmitir su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos».
Altman y su rival Elon Musk, que libraron una batalla legal a principios de este año, respaldaron durante el fin de semana una extensa carta del director ejecutivo de Anthropic, Dario Amodei, instando a las empresas globales a ralentizar su trabajo en modelos líderes de IA.
Esto se produce después de que el investigador de Anthropic Jacob Coxon renunciara a su trabajo y provocara conmoción en toda la industria la semana pasada con una advertencia de que empresas como Anthropic y OpenAI están «jugando con nuestras vidas», añadiendo que la IA «podría matarnos a todos para finales de la década».
Estados Unidos y China se han visto enfrascados en una feroz batalla para avanzar en la carrera de la IA, ya que los líderes tecnológicos han advertido que una IA más poderosa podría permitir a China tácticas de vigilancia superiores, poder militar en el campo de batalla y capacidades de piratería de ciberseguridad.
“La generación de miedo, la confrontación y la competencia sólo perturbarán [the] proceso global de gobernanza de la IA”, dijo el lunes Guo Jiakun, portavoz del Ministerio de Asuntos Exteriores de China, según una traducción de Reuters.
