Aunque parezca mentira, la inteligencia artificial ha pasado de ser algo del futuro a ser una realidad diaria con la que ya convivimos sí o sí.
El papel que tiene está presente, desde los famosos algoritmos que se encargan de recomendarnos series en las plataformas de streaming hasta los sistemas encargados de evaluar solicitudes de crédito o de diagnosticar enfermedades. La tenemos ya en prácticamente todos los rincones.
Dicha expansión que se ha producido en estos últimos años ha sido vertiginosa, pero también nos deja una pregunta: ¿quién es el que realiza la labor de vigilancia sobre las máquinas que toman decisiones por nosotros? Esta pregunta es la que ha aparecido como fruto de la respuesta a esta inquietud.
Nos encontramos ante algo más que una preocupación del sector tecnológico; es ya un asunto de interés social que es prioritario.
¿Qué entendemos por gobernanza de la IA?
Al hablar de ella, no solo hablamos de regulaciones o de leyes. Estamos ante un concepto que engloba una serie de políticas, marcos de trabajo, tecnologías y procesos que se encargan de asegurar que los sistemas vayan desarrollándose y se usen con fiabilidad, de un modo ético y que se alineen con los objetivos de la organización y, al mismo tiempo, con el propio bienestar de la sociedad.
Debemos tener en cuenta que, esencialmente, estamos ante un puente que se ubica entre la innovación y la responsabilidad social. No se quiere frenar el progreso que está produciéndose actualmente, sino ordenarlo de tal forma que pueda beneficiar a todos sin que se pongan en riesgo los derechos fundamentales, la seguridad o la privacidad.
Los motivos de preocupación para la sociedad
Puede ocurrir que creamos que estas son cosas solamente de las empresas y de los gobiernos, pero no, afectan de manera directa a la ciudadanía de manera que a veces pueden pasar desapercibidas.
Los sistemas de recomendación que hay en las redes sociales pueden ampliar contenidos de carácter polarizante, lo que puede alimentar las burbujas informativas que corren el riesgo de fracturar los debates públicos.
En el caso de los algoritmos en el sector de la contratación laboral, en multitud de ocasiones han reproducido sesgos en materia de género o raza que están presentes en los datos de entrenamiento.
Del mismo modo, en los sistemas de reconocimiento facial que muchas veces vemos en los espacios públicos sin una clara regulación, lo cierto es que amenazan con erosionar el derecho a la libertad de movimiento y a la privacidad.
El caso es que no todos son riesgos. La IA debemos también pensar que tiene una serie de oportunidades extraordinarias: desde detectar de forma temprana enfermedades hasta optimizar el consumo energético en ciudades inteligentes. El desafío se encuentra en maximizar este tipo de beneficios mientras los daños potenciales se minimizan. Justo ahí es donde entra la gobernanza.
Más allá de la ley: el papel del sector privado
Pese a que la regulación es importante, las leyes por sí solas no bastan. Las empresas son responsables de ir más allá del mínimo legal y de construir culturas organizativas que den prioridad a la ética y la transparencia a la hora de usar la IA.
Justo aquí es el momento en el que las consultoras especializadas tienen un papel fundamental. Crowe, desde su experiencia, cree que las empresas tienen una necesidad actualmente y es crear soluciones que estén personalizadas en base a sus necesidades.
Eso sí, hay que tener en mente que cada empresa tiene una serie de objetivos, cultura y marcos de riesgo diferentes, por lo que se evitan soluciones genéricas.
Se debe tener la madurez de la organización en cuanto a la IA, identificando las brechas y desarrollando unos planes de acción que deberán adaptarse a las necesidades específicas.
Los cinco puntos esenciales para que funcione bien
Expertos en el campo identifican de forma clara que existen cinco componentes clave para construir un marco de gobernanza de IA sólido:
Evaluación de preparación
Algo que hay que hacer antes de que se implemente un sistema es realizar una evaluación del nivel de madurez digital, de la calidad de los datos y de la capacidad técnica y organizativa para la gestión de los proyectos de IA. En esta fase se diagnostican fortalezas y debilidades, lo que establece una hoja de ruta realista.
Responsabilidad y propiedad clara
Es necesario que cada sistema de IA tenga un dueño identificable, el cual debe ser una persona o un equipo responsable del desarrollo, despliegue y monitorización continua. Cuando no se actúa de esta forma, los riesgos suelen diluirse y nadie quiere responder cuando algo sale mal.
Transparencia y consentimiento
Los usuarios tienen que ser conscientes de qué datos son los que se recopilan cuando interactúan con una IA y de qué manera se usan. Sin duda, la transparencia es útil para construir la confianza; la opacidad la va a destruir.
Políticas y estándares éticos
Las empresas necesitan contar con directrices claras sobre qué usos de la IA son los que se pueden aceptar y cuáles son inaceptables. Todo ello va a incluir compromisos explícitos contra la discriminación del algoritmo, la vigilancia masiva o la manipulación psicológica.
Formación y concienciación
La tecnología avanza con más rapidez que la capacidad de las instituciones de muchas empresas. La inversión en educación interna asegura que empleados y directivos entiendan tanto las oportunidades como los riesgos, tomando siempre decisiones debidamente informadas.
¿Qué desafíos prácticos existen?
No es fácil que se implemente una gobernanza de IA. Las empresas se enfrentan a unos obstáculos en concreto que van mucho más allá de la buena voluntad.
Calidad de los datos
Los modelos de IA, en especial los que se basan en machine learning, son tan buenos como los datos con los que se están entrenando. Hay datos incompletos, desactualizados o sesgados que acaban por generar resultados defectuosos. Garantizar la precisión, calidad y completitud de los datos es un desafío técnico y organizativo importante.
Explicabilidad
Muchos algoritmos avanzados tienen un funcionamiento que podemos asemejar a las cajas negras: toman una serie de decisiones complejas que los desarrolladores no pueden explicar completamente.
Todo ello, en sectores que están muy regulados como la salud o las finanzas, es un problema. Los auditores internos precisan estar seguros de que los sistemas sean transparentes y que los procesos decisorios se puedan explicar a los reguladores.
Integración con sistemas heredados
Muchas de las empresas no parten de cero. Disponen de una serie de infraestructuras tecnológicas antiguas, procesos establecidos y culturas resistentes al cambio.
El hecho de integrar todo el tema del control de esta en un contexto como tal necesita de paciencia, un toque de diplomacia y, con frecuencia, una inversión importante.
Tensión entre innovación y cumplimiento
Hay un equilibrio delicado entre moverse rápido de cara a aprovechar las oportunidades competitivas y tomarse el tiempo que sea necesario para evaluar e ir mitigando los riesgos.
Los expertos de Crowe desde su web hablan de la importancia que tienen las auditorías y que además son vitales para generar confianza entre los grupos de interés y sirven de guía para la toma de decisiones del negocio. Esta es una realidad que es fundamental tenerla clara.
El impacto social: más allá de las empresas
La sociedad debe entender que el poder de transformación que tiene la IA es importante. Estamos ante una tecnología que no es neutral. Las decisiones que toma pueden afectar a aquellos que quieren conseguir un trabajo, un préstamo, etc. Sin una gobernanza adecuada, estos sistemas pueden amplificar o perpetuar las desigualdades existentes.
Hay estudios que citan a expertos que muestran que cuando una IA se entrena con unos datos incompletos o desequilibrados, puede reproducir o amplificar las discriminaciones presentes en la sociedad.
No hablamos de hipótesis, puesto que ya ha sucedido con algoritmos de contratación que lo que hacían era penalizar a candidatas femeninas o personas pertenecientes a una serie de etnias.
Existe otra cara de la moneda. Una IA bien gobernada es una herramienta bastante poderosa para la justicia social. Solo tienes que imaginarte sistemas que detecten sesgos en decisiones humanas, algoritmos que optimicen la distribución de recursos públicos o herramientas que logren democratizar el acceso a los servicios financieros en comunidades desatendidas,
Existe una diferencia entre estos dos escenarios y no se encuentra en la tecnología como tal, sino en la forma en la que se decide regularla, supervisarla y orientarla.
¿Qué papel tiene la sociedad civil?
Debemos tener claro que la gobernanza de la IA no debe ser de dominio exclusivo de las corporaciones o los gobiernos. La sociedad civil en general tiene un papel fundamental que desempeñar.
Existen organizaciones como el Observatorio del Impacto Social y Ético de los Algoritmos (OBISAL) en España que se encargan de monitorizar la forma en la que los sistemas automatizados afectan a los derechos fundamentales y proponen una serie de mejoras a nivel regulatorio.
Los periodistas de investigación van destapando casos de uso abusivo o discriminatorio de la IA. En el caso de los académicos, se van desarrollando marcos éticos y métodos de auditoría algorítmica.
La vigilancia por parte de los ciudadanos es más necesaria que nunca. Las leyes se pueden quedar anticuadas rápidamente en un campo que evoluciona a un ritmo vertiginoso. La presión social, el escrutinio público y la movilización colectiva son una serie de contrapesos que son necesarios frente al poder que tienen las grandes tecnológicas y los Estados.
Mirando hacia el futuro
La gobernanza de la inteligencia artificial dejó de ser un debate teórico para pasar a ser una obligación legal y práctica. No nos olvidemos de que la tecnología sigue avanzando.
Los agentes de IA autónomos, capaces de tomar decisiones y ejecutar acciones sin necesidad de intervención humana directa, plantean una serie de nuevos desafíos regulatorios.
La inteligencia artificial generativa, la cual produce textos, imágenes y vídeos indistinguibles de los creados por los humanos, ha obligado a que se tengan que repensar algunos conceptos tales como la veracidad, la autoría o la propiedad intelectual.
A la vez, la fragmentación regulatoria global está creando incertidumbres. Mientras que Europa apuesta por un enfoque orientado a las precauciones que se basa en los derechos fundamentales, en Estados Unidos dan prioridad a la innovación y la competitividad, y China combina el control estatal con la ambición en el plano tecnológico.
Esta divergencia lo que hace es complicar el panorama para las empresas multinacionales y puede generar un “turismo regulatorio” en el que las organizaciones desplegarán tecnologías controvertidas en jurisdicciones con normas que son más laxas.
Ante un escenario como este, la cooperación internacional es fundamental. Existen iniciativas como el Global Partnership on AI o los esfuerzos de la OCDE buscan una armonía en los principios y unas mejores prácticas, aunque el camino hacia estándares globales y vinculantes es largo y complejo.
Conclusión: una tecnología, muchas decisiones
No estamos ante un destino que es inevitable. Nos encontramos ante una herramienta de lo más poderosa cuyas consecuencias dependen de una serie de decisiones que debemos tomar como sociedad.
La gobernanza de la IA es una serie de mecanismos con los que es posible dirigir esa herramienta hacia unos fines deseables, en los que haya más justicia, bienestar o eficiencia, sin que ello suponga sacrificar derechos fundamentales ni valores democráticos.
Esto nos deja claro que la pregunta que hay que hacerse no es si la IA va a transformar nuestra sociedad, puesto que lo hará y lo está haciendo. Eso sí, pensemos si queremos ser espectadores pasivos de esta transformación o activos que sean capaces de orientarla hacia un bien común.
Al final, nos encontramos actualmente ante una decisión colectiva sobre el futuro en el que queremos vivir y esto es una decisión importante que debemos tomar, puesto que los cambios en este sector avanzan a una velocidad endiablada y pueden tener un efecto grave para muchas empresas y personas.
Por todo ello, lo mejor que podemos hacer es confiar en profesionales que sepan realizar un control muy necesario, para tomar el mejor rumbo posible. Los próximos años van a ser muy importantes de cara a que la humanidad tenga un aliado confiable y la inteligencia artificial no se vea como una amenaza.
