La IA podría matar a mil millones de personas, advierte Bill Gates
El cofundador y filántropo de Microsoft, Bill Gates, advirtió que la inteligencia artificial podría causar la muerte de hasta mil millones de personas si poderosas herramientas de inteligencia artificial cayeran en manos de actores maliciosos.
En una entrevista con Meet the Press de NBC, Gates dijo que se debería exigir a los creadores de IA que implementen salvaguardias y sistemas de monitoreo, argumentando que la autorregulación voluntaria de la industria no es suficiente.
«Se necesita que las fuerzas del orden y los políticos participen en el debate sobre cómo son las salvaguardias y el seguimiento», dijo Gates al medio. «Y esto tiene que ser obligatorio».
Gates reconoció que una regulación adicional crearía algunos costos para la industria de la IA, pero dijo que no necesariamente impediría que las empresas siguieran desarrollando la tecnología.
«Será una especie de carga para la industria, pero no una desaceleración dramática de lo que están haciendo», afirmó.
Gates también emitió una severa advertencia sobre las posibles consecuencias si herramientas avanzadas de inteligencia artificial caen en manos de personas con intenciones maliciosas.
«Nunca ha habido un arma tan poderosa como la combinación de malos actores que utilizan las últimas herramientas de inteligencia artificial», dijo Gates.
Añadió que la IA podría “sin duda ser lo suficientemente poderosa como para generar eventos que, ya sabes, causarían mil millones de muertes”.
También se le preguntó a Gates sobre un “interruptor de apagado” de IA que podría apagar los sistemas si se volvieran demasiado poderosos. Dijo que simplemente poder apagar un sistema de inteligencia artificial no sería suficiente para abordar los riesgos más amplios.
«No es suficiente tener un interruptor de apagado», dijo Gates, señalando que los sistemas de inteligencia artificial actuales no han llegado al punto en el que puedan tomar el control de las computadoras de forma independiente y evitar que se apaguen.
Los comentarios de Gates siguen a un ensayo que publicó el mes pasado advirtiendo sobre los peligros potenciales que plantean los sistemas de IA cada vez más capaces. En general, mantuvo una perspectiva optimista sobre la tecnología y la humanidad, pero también pidió salvaguardias a medida que se acelera el desarrollo de la IA.
Otras figuras tecnológicas destacadas, entre ellas Sam Altman, director ejecutivo de OpenAI, y Elon Musk, director ejecutivo de Tesla, también han expresado su preocupación por los riesgos asociados con la IA avanzada y han pedido una mayor supervisión en su desarrollo.
