El Gobierno dominicano prohibió utilizar sistemas de inteligencia artificial (IA) para clasificar socialmente a los ciudadanos, manipular sus opiniones políticas, identificar posibles delincuentes por su condición socioeconómica o adoptar decisiones penales autónomas, como parte de un nuevo marco de regulación ética de estas tecnologías en la Administración Pública.
Las disposiciones están contenidas en el Decreto 787-26, firmado el 2 de noviembre por el presidente Luis Abinader, mediante el cual se aprueba el Código de Ética de la Inteligencia Artificial para los Servicios Públicos de la República Dominicana.
La normativa prohíbe los sistemas de clasificación social que condicionen el acceso de las personas a derechos y servicios públicos. También restringe la identificación biométrica masiva e indiscriminada en espacios públicos, incluido el reconocimiento facial, de voz o de marcha, cuando no existan las garantías legales y judiciales exigidas.
Otra prohibición alcanza los sistemas de predicción criminal que clasifiquen a personas como potenciales infractores por su lugar de residencia, origen étnico o situación económica, prácticas consideradas incompatibles con la presunción de inocencia y el debido proceso.
El Código impide, además, que algoritmos recomienden, determinen o ejecuten autónomamente sentencias penales, medidas de coerción o privaciones de libertad sin intervención humana directa.
También prohíbe utilizar inteligencia artificial para propaganda política manipuladora, desinformación institucional o técnicas encubiertas de influencia ciudadana.
Derechos de los ciudadanos
Uno de los aspectos centrales de la disposición es el reconocimiento del derecho de las personas a conocer cuándo una decisión administrativa que les afecta ha sido apoyada por inteligencia artificial.
Las instituciones deberán explicar los factores relevantes de esas decisiones y establecer procedimientos para solicitar información adicional, corregir errores y obtener una revisión humana.
La responsabilidad continuará recayendo sobre las autoridades y los servidores públicos, aun cuando utilicen herramientas automatizadas para preparar o adoptar sus decisiones.
Los sistemas considerados de alto impacto, particularmente aquellos relacionados con derechos fundamentales, beneficios públicos, potestades sancionadoras o servicios esenciales, deberán someterse a evaluaciones previas de impacto ético y de derechos.
Ninguno podrá entrar en funcionamiento sin completar la evaluación correspondiente, obtener la aprobación requerida y publicar un resumen accesible para la ciudadanía.
Supervisión y transparencia
El decreto crea el Consejo Nacional de Ética de la Inteligencia Artificial, copresidido por la Dirección General de Ética e Integridad Gubernamental (Digeig) y la Oficina Gubernamental de Tecnologías de la Información y Comunicación (Ogtic).
El organismo contará con representantes gubernamentales, empresariales, académicos y de la sociedad civil, y tendrá funciones de seguimiento, coordinación y revisión periódica del Código.
La Digeig asumirá la supervisión ética y la evaluación de los sistemas de alto impacto, mientras que la Ogtic tendrá responsabilidades técnicas y administrará, en coordinación con aquella, un registro y un portal público de transparencia sobre los sistemas utilizados por el Estado.
Las instituciones deberán identificar sus herramientas de inteligencia artificial, designar responsables y establecer mecanismos permanentes de supervisión humana.
También tendrán que incorporar exigencias de seguridad, protección de datos, trazabilidad y auditoría en los contratos para adquirir o desarrollar estas tecnologías.
Protección de menores
El Código establece restricciones especiales para los sistemas dirigidos a niños, niñas y adolescentes, cuya utilización requerirá evaluaciones específicas, garantías reforzadas y supervisión humana permanente.
Prohíbe expresamente emplear inteligencia artificial para generar, facilitar o distribuir contenido sexualizado, abusivo, discriminatorio o perjudicial contra menores, incluso cuando se trate de imágenes o materiales sintéticos.
- Las instituciones públicas dispondrán de 180 días calendario a partir de la publicación del decreto para adecuar sus procedimientos, registrar los sistemas existentes y designar a sus responsables.
La nueva regulación introduce así obligaciones de transparencia y control sobre tecnologías cuya incorporación a los servicios públicos puede mejorar la eficiencia administrativa, pero también generar riesgos para la privacidad, la igualdad y las garantías individuales.
Fuente: Política
