Exinvestigador de OpenAI advierte que la IA puede superar y matar a los humanos
Jacob Coxon, ex investigador de inteligencia artificial de OpenAI y Anthropic, advirtió que el rápido desarrollo de la IA avanzada podría representar una amenaza sin precedentes para la humanidad.
Jacob Coxon, quien dijo que pasó los últimos tres años realizando investigaciones previas a la capacitación en OpenAI y Anthropic, anunció su renuncia en X el miércoles, acusando a ambas compañías de apresurarse hacia la superación personal de superinteligencia sin suficientes salvaguardias.
«Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación previa a la capacitación en OpenAI y Anthropic. Ninguna de las compañías está actuando de manera responsable. Se están apresurando directamente hacia la superación personal de superinteligencia y apostando con nuestras vidas». dijo.
Advirtió contra la subestimación de las capacidades de los sistemas de IA cada vez más avanzados, diciendo que pronto podrían superar a los humanos en áreas clave y adquirir poder y recursos significativos.
«No subestimen el poder de esta tecnología. Pronto habrá sistemas sobrehumanos que podrán piratear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos del progreso en cada uno de estos dominios y el progreso no se está desacelerando», dijo.
Coxon dijo que las personas que trabajan en IA avanzada reconocen en privado la posibilidad de consecuencias catastróficas.
LEA TAMBIÉN: La policía arresta al usuario X por publicación viral en Opay
«Las personas que están construyendo la IA creen sinceramente que podría matarnos a todos antes del final de la década. Esto no es un truco de marketing. De hecho, muchos ejecutivos e investigadores de alto nivel expresarán sus líneas en la prensa para parecer sensatos, pero escucho a la misma gente expresar miedo en privado. Ninguna otra actividad humana plantea este nivel de peligro», añadió.
Las preocupaciones de Coxon fueron respaldadas más tarde por otro investigador antropogénico, Evan Hubinger, quien dijo que él personalmente creía que había una probabilidad superior al 10% de que la IA pudiera matar a todos los humanos en la próxima década.
«Jacob tiene razón: ¡realmente creemos sinceramente que la IA podría matar a todos los humanos! Personalmente, creo que será >10% en la próxima década.
«Creo que Anthropic está haciendo lo mejor que puede, pero todavía no tenemos un plan para resolver la alineación de la superinteligencia y claramente no estamos en el camino correcto para hacerlo», añadió.
La renuncia de Coxon se produce mientras las principales empresas de inteligencia artificial continúan desarrollando sistemas cada vez más capaces, mientras investigadores y formuladores de políticas debaten cómo gestionar los riesgos potenciales asociados con la inteligencia artificial avanzada.
