¿Por qué la IA imparcial es esencial para construir un mejor mundo de negocios?

Es crucial para el desarrollo a largo plazo de la IA que la tecnología sea percibida como justa. De lo contrario, la confianza en la IA puede perderse para una generación.

L a crisis de COVID-19 ejerció una presión sin precedentes sobre los contratos sociales en todo el mundo. El impacto desproporcionado de la pandemia en las comunidades minoritarias y desfavorecidas, tanto en lo que respecta a los costos sanitarios como a los económicos, ha puesto de manifiesto las desigualdades sistémicas por motivos raciales y étnicos en muchas sociedades.

La ira pública se dirige legítimamente al status quo, creando riesgos a corto plazo para las empresas que navegan en este clima social volátil. En medio de las protestas globales de Black Lives Matter, las empresas se ven obligadas a reevaluar sus responsabilidades sociales, incluyendo la de asegurar que el despliegue de tecnologías de inteligencia artificial (IA) sea justo e imparcial.

IBM anunció recientemente que ya no ofrecerá tecnología de reconocimiento facial o de vigilancia debido a la preocupación por la parcialidad, por ejemplo. Microsoft y otros han suspendido las colaboraciones de reconocimiento facial con las agencias de aplicación de la ley. Esto no sólo demuestra un liderazgo ético, sino también una astuta gestión del riesgo.

Estos riesgos requieren una mitigación activa más allá de las suspensiones, y las recientes acciones corporativas sugieren que las brechas pueden estar cerrándose. Las empresas deberían considerar la posibilidad de ir más allá y exponer tanto sus modelos como sus marcos de gobernanza a un escrutinio más amplio, como los auditores externos independientes o incluso el público en general. También es necesario un examen minucioso de los datos de capacitación de los modelos, ya que puede haber sesgos que se filtren inadvertidamente. Por ejemplo, aunque excluir las observaciones que describen la raza o el origen étnico podría parecer que elimina el riesgo de sesgo, si el mundo real está segregado por el código postal, la dirección de una persona puede revelar características delicadas y generar resultados sesgados a pesar de las buenas intenciones.