“CONGRESO DE AGUASCALIENTES RECIBE INICIATIVA DE ALE PEÑA Y ANA GÓMEZ PARA REGULAR EL USO DE INTELIGENCIA ARTIFICIAL EN LAS INSTITUCIONES PÚBLICAS”

Por: #AgsRadioTvNoticias

✅ Las Diputadas de MORENA proponen reformar la Constitución del Estado para evitar que las autoridades tomen decisiones exclusivamente automatizadas que afecten los derechos de las personas, sin ofrecer explicaciones ni mecanismos de revisión.

✅ La iniciativa contempla garantizar la protección de datos personales, prevenir actos de discriminación y establecer que las dependencias estatales y municipales informen a los ciudadanos cuando utilicen herramientas tecnológicas en trámites y procedimientos oficiales.

🤖⚖️ ¡La inteligencia artificial podría tener nuevas reglas dentro del Gobierno de Aguascalientes! Cada vez más instituciones utilizan sistemas digitales para procesar información y facilitar servicios, pero ¿qué sucede cuando una herramienta tecnológica interviene en una decisión que afecta directamente a una persona? Ante esta situación, Ale Peña y Ana Gómez plantearon establecer garantías legales para que los ciudadanos puedan conocer, cuestionar y solicitar la revisión de las determinaciones que se realicen con apoyo de estas tecnologías. 👇🏽👇🏽

El Congreso del Estado de Aguascalientes recibió una iniciativa presentada por las Diputadas de MORENA, Alejandra Peña Curiel, conocida como Ale Peña, y Ana Gómez Calzada, con el objetivo de establecer reglas constitucionales para el uso responsable de la inteligencia artificial dentro de las instituciones públicas.

La propuesta contempla adicionar el artículo 6º Bis a la Constitución Política del Estado de Aguascalientes, con la finalidad de garantizar que la incorporación de estas herramientas tecnológicas respete los derechos humanos y mantenga la responsabilidad de las autoridades sobre las decisiones que afectan a la población.

Durante su intervención ante el Pleno Legislativo, Ale Peña explicó que la inteligencia artificial representa una oportunidad para mejorar el funcionamiento de los servicios públicos, agilizar procedimientos y facilitar el acceso de las personas a diferentes trámites.

Sin embargo, señaló que su utilización también requiere mecanismos de vigilancia y disposiciones claras, especialmente cuando las autoridades emplean sistemas automatizados para analizar información, realizar evaluaciones o intervenir en procesos administrativos.

La legisladora sostuvo que la incorporación de nuevas tecnologías no debe significar que las instituciones dejen de asumir la responsabilidad por sus determinaciones, particularmente cuando estas pueden afectar los derechos o intereses de los ciudadanos.

“No venimos a frenar la innovación, venimos a ponerle reglas claras al aparato público de Aguascalientes. La tecnología debe estar al servicio de las personas, jamás para sustituir la responsabilidad humana”, sostuvo desde tribuna.

Uno de los puntos centrales de la iniciativa establece que ninguna persona pueda quedar sujeta a decisiones exclusivamente automatizadas que tengan consecuencias jurídicas sin contar con mecanismos que le permitan conocer cómo se tomó esa determinación.

Esto significa que, cuando una institución pública utilice inteligencia artificial en un procedimiento que afecte legalmente a un ciudadano, deberá existir la posibilidad de recibir una explicación comprensible sobre la decisión.

La propuesta también contempla garantizar el derecho a solicitar supervisión humana, de manera que una persona pueda revisar la determinación y no sea únicamente un sistema informático el que intervenga en la resolución.

Además, se busca establecer mecanismos para que los ciudadanos puedan impugnar los resultados de las decisiones automatizadas cuando consideren que existe alguna irregularidad o afectación a sus derechos.

Ale Peña explicó que estas garantías resultan importantes debido a que los sistemas de inteligencia artificial pueden procesar grandes cantidades de información, pero su funcionamiento no elimina la necesidad de contar con procedimientos transparentes y autoridades responsables.

Otro de los aspectos de la reforma está relacionado con la obligación de informar a la ciudadanía cuando las dependencias públicas utilicen herramientas de inteligencia artificial.

De acuerdo con el planteamiento, las instituciones estatales y municipales deberán dar a conocer cuándo emplean estos sistemas en trámites, evaluaciones, contrataciones o decisiones administrativas que puedan tener consecuencias para las personas.

Con esta disposición se pretende evitar que los ciudadanos desconozcan la participación de tecnologías automatizadas en los procedimientos que realizan ante las autoridades.

La iniciativa también busca fortalecer la protección de los datos personales, tomando en cuenta que muchas herramientas digitales requieren procesar información para realizar sus funciones.

Las Diputadas consideran necesario que el uso de estos sistemas se desarrolle bajo condiciones que respeten la privacidad y eviten el manejo indebido de información personal.

Otro de los objetivos es prevenir decisiones discriminatorias que puedan surgir cuando una herramienta tecnológica utiliza información o criterios que generan resultados desiguales para determinados sectores de la población.

Ale Peña señaló que la innovación debe acompañarse de mecanismos que garanticen la igualdad y eviten que una decisión automatizada perjudique a una persona sin que exista la posibilidad de identificar las razones o solicitar su revisión.

En ese sentido, la legisladora planteó que las instituciones públicas deben mantener controles que permitan conocer cómo se utilizan estas tecnologías y quién es responsable de las determinaciones que se toman con su apoyo.

La propuesta establece que siempre deberá existir una persona responsable de las decisiones públicas, incluso cuando se empleen sistemas de inteligencia artificial para procesar información o facilitar su elaboración.

Esto permitiría mantener la responsabilidad institucional y evitar que el uso de herramientas tecnológicas sea utilizado como justificación para desconocer errores o posibles afectaciones a los ciudadanos.

Ale Peña también destacó que la finalidad de la reforma no es impedir que el Gobierno del Estado o los municipios incorporen innovaciones a sus actividades.

Por el contrario, explicó que se busca aprovechar las oportunidades que ofrece la tecnología para mejorar los servicios públicos, siempre que su implementación se realice bajo principios de transparencia, igualdad y respeto a los derechos fundamentales.

La Diputada consideró que las herramientas digitales pueden contribuir a facilitar procedimientos y ampliar oportunidades, pero sostuvo que su utilización debe contar con límites cuando intervienen en asuntos que requieren una valoración jurídica o administrativa.

Desde su perspectiva, el desarrollo tecnológico debe avanzar acompañado de una legislación que permita identificar responsabilidades y ofrecer garantías a las personas que utilizan los servicios gubernamentales.

Ana Gómez Calzada participa como promovente de esta iniciativa constitucional, que busca incorporar al marco jurídico de Aguascalientes obligaciones dirigidas a las autoridades que utilicen inteligencia artificial en el ejercicio de sus funciones.

La propuesta de ambas legisladoras plantea atender desde la Constitución estatal los riesgos que pueden surgir cuando los sistemas automatizados intervienen en decisiones oficiales sin mecanismos suficientes de explicación, revisión o supervisión.

Con ello, buscan que los derechos de la ciudadanía sean considerados desde el momento en que una institución decide incorporar estas tecnologías a sus procedimientos.

Ale Peña destacó que Aguascalientes tiene la posibilidad de avanzar en el establecimiento de reglas para el uso de inteligencia artificial dentro del sector público, sin dejar de impulsar la innovación científica y tecnológica.

“Ningún algoritmo puede operar como una caja negra que discrimine, niegue un derecho o tome una decisión pública a ciegas. La dignidad humana, la privacidad y la justicia no se delegan en un código informático”, concluyó.

La iniciativa todavía deberá continuar su procedimiento legislativo, por lo que las obligaciones y garantías propuestas no representan disposiciones constitucionales ya aprobadas.

Su estudio permitirá determinar los alcances jurídicos de la reforma y la manera en que las instituciones públicas podrían incorporar estas obligaciones a sus procedimientos administrativos.

🏛️📋 El siguiente paso será que las comisiones correspondientes del Congreso de Aguascalientes revisen la propuesta de Alejandra Peña Curiel y Ana Gómez Calzada, particularmente su relación con las facultades de las autoridades estatales y municipales. Una vez concluido el análisis, se determinará si el proyecto cuenta con las condiciones necesarias para convertirse en un dictamen y ser sometido a discusión y votación ante el Pleno Legislativo.