El rey Carlos insta a los ejecutivos de IA a considerar urgentemente los riesgos de que la IA caiga en las manos equivocadas
El rey Carlos III advirtió a los ejecutivos de inteligencia artificial sobre los “peligros existenciales” de que la tecnología caiga en las manos equivocadas, en medio de advertencias sobre el rápido avance de las capacidades de los modelos de inteligencia artificial de vanguardia.
El rey hizo los comentarios el jueves en una cumbre que convocó en Dumfries House en Ayrshire, Escocia, para discutir cómo se puede utilizar la IA en beneficio de la sociedad, lo que lo convirtió en el último líder mundial en advertir sobre los peligros potenciales de la tecnología.
La reunión reunió a funcionarios gubernamentales, ejecutivos de tecnología y otros expertos, entre ellos la ministra de IA del Reino Unido, Kanishka Narayan, un asesor del Papa y representantes de empresas de IA, incluidas Nvidia, OpenAI y Anthropic.
¿Qué dice el rey Carlos?
El rey Carlos dijo que quienes han desarrollado tecnologías de inteligencia artificial advierten cada vez más sobre su potencial para desarrollar capacidades peligrosas.
- “Quienes crearon estas tecnologías advierten cada vez más que la IA corre el riesgo de desarrollar capacidades más oscuras, tal vez incluso de cobrar vidas”. dijo el rey a los ejecutivos en la cumbre.
Dijo que había un «urgencia”para considerar adecuadamente los riesgos de que la IA avanzada caiga en las manos equivocadas y se utilice de manera potencialmente catastrófica.
- “En este sentido, parece urgente considerar adecuadamente los peligros existenciales de que tales tecnologías caigan en las manos equivocadas”.dijo.
- “La tarea que tienen por delante no es sólo hacer avanzar la tecnología, sino garantizar que permanezca firmemente al servicio de la humanidad, la comunidad y el mundo natural.”, añadió.
La cumbre fue convocada para considerar si los participantes podrían desarrollar un “conjunto de principios compartidos” para guiar la futura aplicación de la IA.
Los líderes de IA evalúan la seguridad y el progreso
El director ejecutivo de Nvidia, Jensen Huang, que asistió a la cumbre, dijo que la seguridad de la IA es fundamental a medida que se desarrolla la tecnología.
- Huang dijo que las empresas deberían estar preparadas para retener un producto y continuar desarrollándolo si creen que no es lo suficientemente seguro.
- También destacó el papel de los modelos abiertos para garantizar que las personas y los países no se queden atrás en el desarrollo de la IA.
- Huang dijo que estos sistemas deben protegerse para que los investigadores, las universidades, las empresas emergentes y los países puedan desarrollar aplicaciones que «Ninguno de nosotros lo habría imaginado por nuestra cuenta”.
Mientras tanto, Sir Demis Hassabis, cofundador de Google DeepMind, dijo que la inteligencia artificial general podría estar a sólo unos años de distancia.
La inteligencia artificial general se refiere a sistemas de IA que se cree que son capaces de realizar múltiples tareas a niveles humanos o superiores.
Hassabis dijo que dicha tecnología podría tener un impacto «diez veces mayor que la Revolución Industrial”.
Actualízate
Las preocupaciones sobre los riesgos de sistemas de IA cada vez más capaces se han intensificado en las últimas semanas, y investigadores, ejecutivos de tecnología y reguladores financieros han planteado preguntas sobre el ritmo del desarrollo de la IA de vanguardia.
Las preocupaciones también van más allá de los posibles riesgos existenciales. El 31 de agosto, la Junta de Estabilidad Financiera advirtió que el impacto de la IA de frontera en el riesgo cibernético era la preocupación más inmediata relacionada con la IA para la estabilidad financiera global, citando el potencial de la IA para acelerar el descubrimiento y la explotación de vulnerabilidades cibernéticas.
lo que debes saber
La carrera mundial de la IA también está impulsando a países, incluida Nigeria, a invertir en la infraestructura, las habilidades y las capacidades tecnológicas necesarias para participar en la economía emergente de la IA.
El 13 de septiembre, Nairametrics informó que Nigeria estaba buscando una cooperación más profunda con los países BRICS en inteligencia artificial, infraestructuras digitales, transferencia de tecnología y desarrollo de capital humano.
El cambio se produce en un momento en que el Gobierno Federal busca atraer inversiones y fortalecer las capacidades tecnológicas nacionales.
