Aprovechar la tecnología para desafiar la desigualdad

Si queremos abordar los desafíos más apremiantes y persistentes de la sociedad, desde el cambio climático hasta la desigualdad, entonces la tecnología tendrá un papel de liderazgo. Los avances científicos facilitados por la inteligencia artificial podrían marcar la diferencia crucial, al ayudar a descubrir nuevos conocimientos, ideas y estrategias en las áreas que más nos importan a todos.

Pero la creciente preocupación pública sobre algunos elementos de la industria de la tecnología debería servir como una llamada de atención. La tecnología es demasiado importante y sus efectos son demasiado amplios, no para formar parte del debate público. Debajo de las cuestiones individuales planteadas, hay al menos tres asimetrías entre el mundo de la tecnología y el mundo real.

Primero, la desconexión entre las personas que desarrollan tecnologías y las comunidades que las usan. Los salarios en Silicon Valley duplican el salario medio para el resto de los EE. UU. Y la base de empleados no es representativa en lo que respecta al género, la raza, la clase y más. La tecnología no es neutral en cuanto a los valores, y debe ser construida y conformada por diversas comunidades si queremos minimizar el riesgo de daños no intencionales.

Este es un problema urgente. Las mujeres y los grupos minoritarios siguen estando muy poco representados, y los líderes deben ser proactivos para romper el molde.

En segundo lugar, existe una asimetría de información sobre cómo funciona realmente la tecnología. Resolver esto tiene que ser un esfuerzo de colaboración, y requiere nuevos tipos de organizaciones que faciliten la comprensión profunda de cómo los algoritmos complejos operan y su impacto en la sociedad. Esto requiere coraje, confianza y la priorización del debate y el compromiso real sobre la comodidad de nuestras funciones institucionales, en las que los activistas, los gobiernos y los tecnólogos suelen criticar más a los demás que trabajar juntos.

También requiere más visibilidad sobre cómo se usan los datos. Se están realizando esfuerzos en las empresas, junto con académicos y organizaciones sin fines de lucro que están desarrollando formas de facilitar el entendimiento de los impactos de los algoritmos.

La investigadora del MIT Joy Buolamwini y la Algorithmic Justice League han creado exhibiciones en museos para aumentar la conciencia sobre las formas perturbadoras en que las tecnologías de reconocimiento facial a menudo fallan para las personas con tonos de piel más oscuros.

En tercer lugar, y esto no es exclusivo de la tecnología, existe un desequilibrio estructural de incentivos.

Las medidas estándar de los logros empresariales, desde las valoraciones de recaudación de fondos hasta los usuarios activos, no reflejan la responsabilidad social que implica tratar de cambiar el mundo.

Esta desconexión comienza temprano. Puede haber mucho dinero en tecnología, pero la gran mayoría de los empresarios aún fracasan. Cualquier fundador que desee lanzar un nuevo negocio debe convencer a los inversores y al personal del crecimiento futuro, y luego ofrecerlo implacablemente. Hacer esto requiere un enfoque único en las métricas que parecen importar, con poco espacio para considerar externalidades sociales complejas o escuchar a los detractores.

Es en parte por eso que algunas de las mentes más brillantes del mundo gravitan hacia las ideas y modelos de negocio más seguros y probados. Terminan creando nuevos servicios para personalizar bebidas gaseosas cuando 500 millones de personas no tienen acceso a agua potable, o nuevas formas de pedir comida por teléfono cuando más de 800 millones de personas están desnutridas. Necesitamos nuevas estructuras de incentivos para alentar a más fundadores a enfrentarse a problemas del mundo real, y hacerlo con la ética en su corazón.

Nada de esto es fácil. Pero un mundo más justo no surgirá por accidente. Los resultados éticos positivos dependen mucho más que los algoritmos y los datos: también dependen de la calidad del debate social y la responsabilidad. El premio es enorme Si lo hacemos de forma colectiva, podemos esperar un progreso científico y social increíble en las próximas décadas. Todos los que creemos en el poder de la tecnología debemos hacer todo lo posible para garantizar que estos sistemas reflejen el ser colectivo más elevado de la humanidad.

Sé el primero en comentar

Dejar una contestacion

Tu dirección de correo electrónico no será publicada.


*