¿Cómo se puede lograr la diversidad cultural en la globalización de la inteligencia artificial?

Actualmente, muchos grandes modelos de lenguaje (LLM) y aplicaciones de inteligencia artificial han demostrado ser una reserva para los gigantes tecnológicos, y solo unos pocos novatos tienen éxito en este campo.

En términos de diversidad lingüística, África aún no está bien representada en los productos de IA.

Por ejemplo, ChatGPT de OpenAI admite 50 idiomas, incluidos inglés, español, francés, alemán, chino, japonés, árabe y más. Pero no hay acentos africanos.

Por otro lado, Bard de Google admite 40 idiomas, incluidos 9 idiomas indios y el suajili, un idioma popular entre los africanos.

En su informe provisional titulado “Gobernando la IA para la Humanidad”, el Consejo Asesor de IA de la ONU destaca la brecha en la globalización de la IA y la necesidad de garantizar que el acceso a la IA y los beneficios vayan de la mano, especialmente para el Sur Global. incluyendo África.

«Incluso fuera del Sur Global, aprovechar la IA requerirá esfuerzos para desarrollar ecosistemas locales de IA, la capacidad de entrenar modelos locales con datos locales, así como mejorar los modelos desarrollados en otros lugares para adaptarlos a las condiciones y propósitos locales», dijo el organismo asesor. Estados.

A través de la inclusión y permitiendo el acceso equitativo a la tecnología, el uso de los sistemas existentes desempeñará un papel crucial para garantizar la diversidad lingüística en la era de la inteligencia artificial.

Hay una forma segura de garantizar la diversidad en la IA y es a través de la representación en los datos de entrenamiento. Los datos son el alma de los sistemas de IA e impactan directamente en qué tan bien la IA refleja la diversidad cultural.

La falta de representación adecuada en los datos de capacitación lleva a que se imaginen cada vez más culturas subrepresentadas a través de la tecnología que está remodelando el mundo.

Imagine una aplicación de inteligencia artificial que pueda traducir un video en suajili y recrear el resultado en dholuo o kikuyu. ¿Será esto posible? Sin embargo, ¿no existe una base de datos para las lenguas kikuyu y dolo?

Mientras discutía la posibilidad de crear un sistema de inteligencia artificial orientado a África, conversé con Michael Michie, director ejecutivo de la Fundación Nia Za Akili Zito.

Explica que una de las grandes barreras para la diversificación lingüística son los escenarios en los que los datos necesarios no existen en formatos digitales.

«La colaboración con expertos culturales y representantes de la comunidad es esencial. Sus conocimientos pueden ayudar a garantizar que la IA sea sensible a los matices culturales y evite perpetuar los prejuicios», explica Michie.

«Fomentar la diversidad dentro de los propios equipos de desarrollo de IA es fundamental. Esto permite tener en cuenta una amplia gama de perspectivas durante el proceso de diseño y desarrollo», añade.

Mandato comunitario en la diversidad cultural

Para permitir la disponibilidad de datos que respalden la IA basada en África, las comunidades desempeñan un papel crucial, ya que son las guardianas de sus idiomas y culturas.

«Es importante colaborar con ellos mientras trabajamos en una IA culturalmente más inclusiva, especialmente cuando hay tan pocos datos disponibles para entrenar modelos de IA», explica Michie, y añade que involucrarlos y mostrar claramente cómo se benefician las comunidades es asegurar no están siendo explotados.

Además de las comunidades, una fuerza laboral humana diversa, como los entrenadores de datos, que están a la vanguardia del desarrollo de la IA, también es clave para lograr este objetivo.

Como elemento vital de los sistemas de inteligencia artificial, los datos desempeñan un papel crucial para garantizar la diversidad cultural. La falta de diversidad en los datos de capacitación conduce a un sesgo obvio en los sistemas de IA, cuyos resultados indican claramente una subrepresentación de ciertas comunidades y culturas.

«Que esto pueda verse de manera más eficiente con herramientas productivas de IA es una señal clara de que sin datos culturalmente equilibrados, corremos el riesgo de seguir marginando a las culturas subrepresentadas. Los datos utilizados para entrenar sistemas de IA deben estar culturalmente equilibrados», afirma Michie.

Por lo tanto, se debe hacer un esfuerzo significativo para obtener y utilizar datos que representen culturas subrepresentadas.

“Se debe aprovechar el deseo de las comunidades de compartir su cultura e incluso cómo beneficiarse de dicho intercambio porque son custodios de la cultura misma”.

En un intento por garantizar la diversidad en los modelos de IA, los gigantes tecnológicos se han encontrado en casos recientes favoreciendo a comunidades subrepresentadas, a expensas de comunidades “superiores”.

Recientemente vimos un caso en el que el sistema de inteligencia artificial Gemini de Google mostró errores de diversidad, deteniendo la capacidad de Gemini para generar imágenes de personas.

El director ejecutivo de Google, Sundar Pichai, reconoció los errores que «ofendieron a nuestros usuarios y mostraron parcialidad». Esto ocurre después de que el modelo, en un intento por lograr diversidad racial, representara de manera inexacta las razas de algunas figuras populares e históricas.

«No es fácil garantizar una representación equilibrada de todas las razas, géneros y culturas utilizando modelos de IA. «Siempre hay un grupo que lamentablemente seguirá estando subrepresentado a pesar de todos los esfuerzos realizados», dice Michie sobre estos incidentes, y añade que a pesar de la necesidad de equilibrio en… Representación, pero hay mayor daño en la falta de diversidad.

“No es (actualmente) posible construir modelos de IA perfectos y culturalmente diversos cuando nosotros, como especie, todavía estamos luchando con el mismo problema, pero podemos construir herramientas que sean sensibles a la raza y el género del usuario, y que garanticen más alguna forma de personalización personal”. Intercambiar con tecnología que no socave la cultura ni las creencias.

Retrocesos en la globalización de la inteligencia artificial

La desigualdad en el acceso a la tecnología y la infraestructura entre países crea un campo de juego desigual para aprovechar las oportunidades de la IA. Está previsto que este debate ocupe un lugar central durante el debate plenario que se celebrará en la Universidad de Strathmore el 5 de abril de 2024.

Algunos países están muy por delante de otros en el desarrollo y uso de la IA, mientras que otros son solo consumidores de estas tecnologías, debido a la falta de infraestructura como energía, Internet, informática y recursos técnicos, lo que crea una brecha en la IA.

Si bien cuestiones como el acceso a la tecnología en el Sur Global son evidentes, la interconexión y las restricciones al intercambio de culturas en todo el mundo también obstaculizan la globalización.

«La creencia de que la cultura de uno es superior a otras crea una barrera significativa para la apreciación y el respeto por las diversas prácticas. Incluso con la exposición a las culturas que nos ha brindado la tecnología, hay quienes todavía ven la suya como superior, y es posible que la IA a través de la adulación podría empeorar esto”. “Los estereotipos también pueden obstaculizar la globalización cultural y dificultar el intercambio armonioso y la apreciación de las culturas y su diversidad”, dice Akili Zito, fundador de NIA ZA.

Otra barrera a la globalización son los escenarios donde las lenguas conllevan matices culturales que pueden malinterpretarse fácilmente.

Estos matices, si no se tienen en cuenta, pueden crear una barrera a la globalización cultural y la aceptación de la diversidad cultural a través de las lenguas.

Las diferencias en las regulaciones de gobernanza y protección de datos también pueden obstaculizar la globalización, ya que pueden dificultar el intercambio de datos a través de las fronteras, obstaculizando el desarrollo de soluciones de IA verdaderamente globales.

«Si bien existe una necesidad de protección de datos, especialmente cuando se trata de datos confidenciales, limitar la cooperación debido a leyes y regulaciones puede obstaculizar el desarrollo de la IA hacia una presencia global. Los países pueden llegar a acuerdos sobre cómo compartir infraestructura y datos sin dejar de tener sus propios derechos». propia IA soberana”. Con ella.

El papel de África para garantizar la representación

Para habilitar la IA en África, organizaciones como Nia za Akili Zetu imaginan un futuro en el que cada persona, independientemente de su sofisticación tecnológica, comprenda y controle la tecnología que afecta directamente sus vidas.

El potencial de la IA podría impulsar un gran desarrollo económico en África, aumentando la adopción de Internet y la electricidad en todo el continente, haciendo que los datos sean más accesibles y utilizados en modelos de capacitación. El esfuerzo conjunto de África puede centrarse en transformar la IA en la próxima frontera de la IA, y esto se puede lograr a través de la colaboración de los países africanos para aprovechar el potencial de datos, la fuerza laboral, la infraestructura y la inversión de África.

Esto permitiría a África pasar rápidamente de ser un usuario neto de aplicaciones de IA a una región importante para la investigación y el desarrollo de IA a nivel mundial.

“Energía más limpia para la informática, más contenido generado por humanos para entrenar modelos, legislación adecuada y ciberseguridad para compartir datos para entrenar modelos, e investigadores y empresarios para utilizar modelos para resolver desafíos para África y el mundo también”, dice Michie. .

El tema de la inteligencia artificial y la globalización cultural; El debate, que se llevará a cabo en la Universidad de Strathmore, busca profundizar en cuestiones fundamentales que rodean la influencia de las culturas dominantes en las tradiciones locales, las dimensiones éticas del intercambio cultural y el papel de la tecnología en la configuración de las interacciones culturales globales.