A esto se añade el hecho de que los gobiernos deben hacer uso de esta tecnología si quieren capturar todos sus beneficios, consiguiendo así cumplir con sus obligaciones. Sin embargo, al ser una tecnología nueva y los gobiernos y las entidades contratantes son aversos al riesgo, esta serie de directrices servirá para disminuir los riesgos de implementar una tecnología tan avanzada y relativamente nueva, haciéndola más transparente y segura.

Lógicamente, para comprender adecuadamente el significado y cómo implementar estas pautas, un concepto de Inteligencia Artificial es imprescindible. Se trata de tecnologías cuyo objetivo es implementar y desarrollar habilidades que requieren aprendizaje, adaptación, comprensión, planificación e incluso capacidad de razonar.

La guía recoge 10 recomendaciones, organizadas según su importancia dentro del proceso de compra:

1. Hacer uso de procedimientos que no prescriban una solución específica, sino que describan problemas y oportunidades, dejando espacio para la creatividad. En otras palabras: utilizar los requisitos funcionales y de rendimiento promovidos por la Compra Pública de Innovación, que permiten describir el problema a resolver en lugar de determinar la solución, dando al proveedor margen para proponer soluciones innovadoras.

   Para adquirir sistemas de IA que satisfagan sus necesidades, los gobiernos y las autoridades contratantes deberían hacer uso de procedimientos de contratación innovadores, ya que apoyan la adopción de nuevas tecnologías, la prueba y ensayo de prototipos antes de comprometerse a adquirir la solución desarrollada, la colaboración entre diferentes licitadores y la participación temprana del mercado. Es más, las PYME y las start-ups se verían beneficiadas por estas prácticas.

2. Aclarar el beneficio público de recurrir a la IA, a la vez que se evalúan sus riesgos. Es importante aclarar ya en la fase de solicitud de ofertas por qué la entidad contratante cree que un sistema de IA es la mejor solución para sus necesidades. Para ello, antes de comenzar la licitación, un equipo multidisciplinar debería haber analizado la situación y las posibles soluciones. Las consultas de mercado pueden ser muy útiles en este sentido. Sin embargo, si durante el proceso de licitación surge otra solución "más simple" que no implica la utilización de IA, esta debería ser la opción elegida.

   Con respecto a los riesgos, es importante aclarar previamente las posibles desviaciones y sesgos del sistema de IA que se desea. La elaboración de diferentes escenarios puede ser extremadamente útil. En cualquier caso, debe disponerse de un sistema de evaluación de riesgos sistemático y continuo durante todo el despliegue del sistema de IA y a lo largo de su ciclo de vida.

3. Adaptar la adquisición de IA con las políticas existentes y contribuir a su mejora, ya que esto potencia la contratación estratégica y fomenta economías de escala al agrupar la demanda de sistemas de IA. Por otro lado, consultar a otras instituciones públicas permite conocer las mejores prácticas y evitar errores.
4. Incorporar las normas y códigos de práctica potencialmente relevantes en los documentos de licitación para asegurar el cumplimiento de la regulación, los estándares existentes, las mejores prácticas y otras formas de “soft law”.

   También es importante alcanzar el equilibrio entre la necesaria transparencia y la protección de la confidencialidad y los secretos comerciales.

5. Asegurar la viabilidad técnica y administrativa de acceder a datos relevantes (teniendo en cuenta que la disponibilidad de datos relevantes es un requisito previo para implementar AI). En este sentido, es importante tener en cuenta que un mecanismo de gobernanza de datos (que requiere un equipo multidisciplinar) y un sistema de rendición de cuentas deberían estar activos y en funcionamiento, ya incluso antes de comenzar el proceso de compra.
6. Clarificar las limitaciones técnicas y éticas de la utilización prevista de los datos para evitar problemas de parcialidad. En este sentido, deben destacarse tres cosas. En primer lugar, no todos los datos requieren la misma protección: los datos no confidenciales y los datos abiertos no necesitan tantas garantías. En segundo lugar, los datos deben cumplir con los criterios de equidad e imparcialidad. En tercer y último lugar, las posibles limitaciones (de representatividad, procedencia, claridad, integridad y precisión) de los datos deben evaluarse previamente.
7. Trabajar con un equipo diverso y multidisciplinario, ya que la IA reúne muchos ámbitos de competencia. Si la organización carece de experiencia, una solución es la subcontratación. Esta experiencia en el campo de la IA será también un criterio de selección de los candidatos.
8. Centrarse durante todo el proceso de compra en la transparencia y en la rendición de cuentas y responsabilidades subsidiarias, ya que generará confianza pública y garantizará la legitimidad del sistema de IA. Una manera de lograrlo es requerir en los documentos de licitación algoritmos trasparentes y explicaciones (comprensibles) sobre el funcionamiento de la IA. Se trata de hacer un balance entre precisión y transparencia, especialmente demandada en temas de gran interés social.
9. Implementar un proceso para la transferencia de conocimiento y la evaluación de riesgos a largo plazo que garantice el compromiso continuo del proveedor de IA con la autoridad contratante, ya que estos sistemas requieren de soporte regular durante todo su ciclo de vida. Una buena manera de asegurar este apoyo es crear un marco de gobernanza (basado también en consideraciones éticas) regularmente monitorizado.
10. Crear las condiciones para una competición equitativa y justa entre los proveedores de IA exige que las soluciones requeridas en los documentos de licitación sean interoperables y en términos de licencia abierta para evitar la dependencia de un solo proveedor (lo que se conoce como “vendor lock-in”).

    La contratación pública es una buena herramienta, ya que puede potenciar mercados equitativos y competitivos, así como apoyar a las PYME innovadoras y a las start-ups (actualmente desarrollando sistemas de IA). Para hacerlo, la participación temprana del mercado es una herramienta práctica y de fácil acceso para los compradores públicos que ofrece una visión general de lo que está actualmente disponible en el mercado, a la vez que da tiempo a ese mercado para prepararse con antelación a las necesidades de los compradores públicos.

En resumen, el objetivo de la guía es ayudar a desarrollar políticas sobre IA, a gestionar propuestas y procedimientos de contratación de IA, a identificar y controlar los potenciales riesgos y a compaginar los desarrollos de IA con las necesidades y estándares públicos emergentes, cumpliendo al mismo tiempo con los requisitos sociales de transparencia e igualdad. Estas recomendaciones no se alejan mucho de la metodología EAFIP, que es un instrumento estructurado en tres módulos, cuyo objetivo es apoyar a los responsables políticos en el diseño de estrategias de Compra Pública de Innovación y a los compradores públicos en su implementación ¹ . Sería recomendable utilizar esta metodología en combinación con esta “Guía para la Compra de Inteligencia Artificial” para maximizar los beneficios de prestar los mejores servicios a los ciudadanos y de hacer un uso más eficiente de los fondos públicos.

====================

¹ Para más información véase https://eafip.eu