El futuro de la IA en África depende de la confianza: por qué la IA responsable debe ser lo primero
África no perderá la carrera de la IA debido a servidores débiles o presupuestos escasos. Lo perderá el día en que la gente corriente decida, silenciosa y colectivamente, que no confían en él. Eliminar la aplicación. Ignore la nueva herramienta de diagnóstico de la clínica. Niégate a escanear tu rostro, compartir contactos o tocar «Aceptar». Ese día puede llegar antes de lo que pensamos, y las decisiones que tomemos ahora determinarán si algún día llegará.
La confianza es la verdadera infraestructura
Hablamos mucho sobre lo que la IA necesita para crecer aquí: centros de datos, energía confiable, ingenieros capacitados, financiamiento: todo esto es importante. Pero nada de esto funciona si las personas se mantienen alejadas porque se sienten observadas, mal juzgadas o ignoradas.
La adopción de tecnología en África siempre ha estado basada en la confianza. El dinero móvil despegó porque la gente creía que su dinero estaba seguro con un agente cercano. La IA seguirá la misma regla. La IA responsable no es un lujo que agregamos una vez que escalamos. Es lo que hace posible la escala.
La confianza ya se está poniendo a prueba
Las señales de advertencia no son hipotéticas. En 2023, las autoridades de Kenia suspendieron la operación de escaneo del iris de Worldcoin debido a preocupaciones sobre la forma en que se recopilaban y utilizaban los datos biométricos de las personas. Muchas personas hicieron fila para recibir un pequeño pago sin entender completamente lo que estaban dando. Más cerca de casa, el auge de los préstamos digitales en Nigeria ha generado quejas sobre aplicaciones que recopilan datos de contacto y los utilizan para avergonzar a los prestatarios. Cada historia como ésta enseña a la gente corriente a desconfiar de la tecnología “inteligente”.
La sospecha es racional. Si la primera experiencia de IA de alguien parece una exploración, no debería sorprendernos que rechacen la siguiente, incluso si es realmente útil.
IA que se parece a nosotros
Hay un segundo problema de confianza, que reside en la propia tecnología. La IA aprende de los datos y muchos de los datos del mundo no reflejan a África. El estudio “Gender Shades” de 2018 encontró que las herramientas comerciales de análisis facial cometían muchos más errores en mujeres de piel más oscura que en hombres de piel más clara. El lenguaje funciona de la misma manera. Un chatbot que lucha con yoruba, hausa, igbo, swahili o amárico les dice silenciosamente a millones de personas que no fue creado para ellos.
Por eso son importantes los esfuerzos liderados por la comunidad. Masakhane, una red de base de investigadores africanos, desarrolla tecnología lingüística para lenguas africanas, con africanos liderando el trabajo. Cuando las personas ven que se respeta su propio idioma y contexto, se apoyan mutuamente.
Cómo se ve la IA responsable en la práctica
La “IA responsable” puede parecer abstracta, así que esto es lo que significa en la práctica.
Explique la decisión: Si un sistema afecta el préstamo, la solicitud de empleo o la atención médica de alguien, esa persona merece una razón en un lenguaje sencillo y un ser humano al que pueda recurrir.
Recoge menos, protege más: Solicite únicamente los datos que necesita, indique claramente para qué sirven y protéjalos. El consentimiento debe ser real, no un botón que la gente toca para continuar con su día.
Construya con las personas a las que sirve: Pruebe las herramientas con agricultores, comerciantes, enfermeras y profesores antes del lanzamiento, no después de las quejas. Identificarán problemas que su equipo no puede.
Suponer errores: Todo sistema comete errores. La confianza aumenta cuando las organizaciones admiten errores rápidamente y los corrigen, y colapsa cuando los ocultan.
La política se está actualizando, pero no es suficiente
Hay un movimiento alentador. Nigeria aprobó su Ley de Protección de Datos en 2023 y creó una comisión para hacerla cumplir. La Unión Africana ha aprobado una Estrategia Continental de IA para 2024 que une la ética y el desarrollo. Éstas son buenas bases.
Pero las leyes escritas no crean confianza. Practica si. Los fundadores, hospitales, bancos y agencias gubernamentales deben seguir hábitos responsables antes de que los reguladores los obliguen a hacerlo, y los reguladores deben tener la capacidad de seguirlos.
La elección que tenemos ante nosotros
África tiene una rara ventaja: estamos construyendo gran parte de nuestro futuro de IA, no heredando un futuro completo. Podemos promover la justicia, la privacidad y la responsabilidad desde el principio, en lugar de arreglarlas después de un escándalo.
Todas las tecnologías que cambiaron la vida en este continente, desde el teléfono móvil hasta el dinero móvil, ganaron porque la gente corriente decidió que estaba de su lado. La IA no será diferente. Hemos llegado con suficiente antelación para elegir qué tipo de historia será la nuestra: una de sistemas que la gente tolera o en los que creen. La primera se construye con código. El segundo está cuidadosamente construido. Elijan cautela y el futuro de la IA en África no sólo será impresionante. Será nuestro.
