En este 2024, continuaremos
siendo testigos de la profundización de la transformación digital de los
gobiernos y las administraciones públicas alrededor del mundo con un
foco en mejorar la eficiencia organizacional, así como en la prestación
de servicios al público. Dos elementos críticos que impulsan esta
transformación digital son los datos acumulados por múltiples entes y la
inteligencia artificial (IA). La IA desempeña un papel fundamental a la
hora de desbloquear el valor de los datos y obtener conocimientos más
profundos sobre la amplia información que las administraciones públicas
recopilan para servir a los ciudadanos y cómo pueden darle un uso en la
mejoría de esos servicios.
Dado que se espera que la demanda de IA, y en especial de la IA generativa, crezca este año, se vuelve imperativo que el sector público, desde los niveles nacionales hasta los locales, adopte el uso responsable de esta tecnología. Sólo así podrán los gobiernos establecerse como administradores confiables de la misma.
Las diferencias entre la IA tradicional y la IA generativa
Para comprender los desafíos únicos que
plantea la IA generativa en comparación con la IA tradicional, es útil
comprender sus diferencias fundamentales. La IA tradicional se basa
principalmente en algoritmos y extensos conjuntos de datos etiquetados
para entrenar modelos mediante el aprendizaje automático. Estos modelos
pueden proporcionar recomendaciones o identificar ciertos
comportamientos reconociendo patrones y adhiriéndose a reglas
predefinidas. Por ejemplo, la IA tradicional se utiliza para mejorar la
eficacia del filtrado de correo electrónico no deseado, mejorar las
recomendaciones de películas o productos para los consumidores y
permitir que los asistentes virtuales ayuden a las personas a buscar
información.
La IA generativa está surgiendo como una
solución valiosa para automatizar y mejorar las tareas administrativas y
repetitivas. Esta tecnología se destaca en la aplicación de modelos
fundacionales, grandes redes neuronales entrenadas con una gran cantidad
de datos sin etiquetar y ajustadas para diversas tareas. La IA
generativa puede identificar, resumir, convertir, predecir y generar
contenido de forma eficaz a partir de grandes conjuntos de datos. La
implementación de esta tecnología en el sector público puede mejorar
significativamente la eficiencia, permitiendo a las organizaciones
completar sus tareas diarias con una fracción de los recursos.
La IA generativa presenta una oportunidad sin precedentes para mejorar diversos aspectos de las operaciones de las administraciones públcias y mejorar los servicios para los ciudadanos. Puede dotar a los trabajadores públcios de herramientas más poderosas para responder preguntas y realizar investigaciones; tareas como la redacción y gestión de contratos, que requieren mucho tiempo y son cruciales, podrían beneficiarse enormemente de la aplicación de esta nueva tecnología.
Implementando IA generativa de forma responsable
Las notables capacidades generativas de esta tecnología emergente plantean dudas sobre su uso responsable en el sector público. Por ejemplo, los administradores de contratos necesitan saber que la investigación original se convierte fielmente en un contrato legalmente vinculante para dos o más partes.
Recientemente, la IA generativa se ha dado a
conocer al gran público principalmente a través de herramientas que
utilizan texto, imágenes, videos y audio para crear contenido
personalizado a demanda. Sin embargo, el nivel de detalle sobre la
capacitación de algunos de estos modelos podría ser insuficiente,
especialmente para grandes empresas o industrias altamente reguladas que
dependen de la confianza pública.
Para desarrollar una IA responsable, las administraciones públicas deben preparar cuidadosamente sus datos internos para aprovechar todo el potencial tanto de la IA como de la IA generativa. Así mismo, se deben establecer estándares responsables para requerir la integración de la responsabilidad y ética desde el principio, y no como un necesidad a posteori. Esto incluye mantener la supervisión humana para ayudar a garantizar la precisión del contenido generado por la IA y evitar sesgos, entre otras consideraciones.
Pilares fundamentales para el desarrollo de IA responsable en el sector público
El desarrollo responsable de la IA por parte
de IBM se centra en cinco pilares fundamentales para ayudar a
garantizar una IA confiable. Los responsables públicos alrededor del
mundo deberían priorizar estos pilares al considerar el desarrollo, la
capacitación y el despliegue responsable de la IA:
Equidad en un sistema de IA, se refiere a su capacidad para tratar a individuos o grupos de manera equitativa, según el contexto en el que se utiliza el sistema de IA. Eso significa contrarrestar los prejuicios y prevenir la discriminación relacionada con características protegidas, como el género, la raza, la edad y la condición de veterano.
Privacidad, se refiere a la capacidad de un sistema de inteligencia artificial para priorizar y salvaguardar la privacidad y los derechos de los datos de los consumidores mientras cumple con las regulaciones existentes relacionadas con la recopilación, el almacenamiento, el acceso y la divulgación de datos.
Explicabilidad, es importante porque un sistema de IA debe ser capaz de proporcionar una explicación interpretable por humanos para sus predicciones y conocimientos de una manera que no se esconda detrás de la jerga técnica.
Transparencia, significa que un sistema de IA debe incluir y compartir información sobre cómo fue diseñado y desarrollado y los datos o fuentes de datos utilizados para alimentar el sistema y sus modelos.
Robustez, es la capacidad de un sistema de IA para manejar eficazmente condiciones excepcionales, ayudando a garantizar resultados consistentes.
IBM watsonx™,
una plataforma integrada de lA, datos y gobernanza, encarna estos
principios al ofrecer un enfoque transparente, eficiente y responsable
para el desarrollo de la inteligencia artificial en diversos entornos.
Más específicamente, el reciente lanzamiento de IBM watsonx.governance™
ayudará a los equipos del sector público a automatizar y abordar estas
áreas, permitiéndoles dirigir, gestionar y monitorear las actividades de
IA de su organización. Esta herramienta facilita procesos claros para
que las organizaciones puedan detectar y mitigar riesgos de manera
proactiva y, al mismo tiempo, respaldar sus programas de cumplimiento de
políticas internas de IA y estándares de la industria.
A medida que el sector público continúa su proceso de adopción de tecnologías como la IA, IA generativa y la automatización para resolver problemas y mejorar la eficiencia, es fundamental mantener la confianza y la transparencia en cualquier solución construida con IA. Los equipos deben tener la capacidad de comprender y gestionar el ciclo de vida de la IA de forma eficaz. Adoptar de forma proactiva prácticas responsables de IA, especialmente por parte del sector público, es una oportunidad para que todos mejoremos.
