Decreto limita uso de inteligencia artificial en decisiones sobre ciudadanos
El Gobierno dominicano estableció restricciones al uso de inteligencia artificial (IA) en las instituciones públicas, al prohibir herramientas destinadas a manipular opiniones políticas, clasificar a las personas según su condición social o determinar perfiles de posibles delincuentes a partir de factores económicos, étnicos o territoriales.
Las medidas figuran en el Decreto 787-26, firmado el pasado 2 de noviembre por el presidente Luis Abinader, que aprueba el Código de Ética de la Inteligencia Artificial para los Servicios Públicos de la República Dominicana y establece controles sobre la aplicación de estas tecnologías en las decisiones del Estado.
Restricciones a la vigilancia y decisiones automatizadas
La disposición impide utilizar sistemas de clasificación social que puedan afectar el acceso de los ciudadanos a servicios públicos o derechos fundamentales por sus características personales o condiciones socioeconómicas.
También establece límites a la identificación biométrica masiva en espacios públicos, mediante reconocimiento facial, de voz o de la forma de caminar, cuando no se cumplan los requisitos legales y judiciales correspondientes.
En materia de seguridad, quedan prohibidas las herramientas que identifiquen a supuestos delincuentes basándose únicamente en su residencia, origen étnico o nivel económico, por considerar que estas prácticas vulneran garantías como la presunción de inocencia.
El decreto tampoco permite que sistemas automatizados determinen o ejecuten sentencias penales, medidas de coerción o privaciones de libertad sin participación humana directa.
Asimismo, veta el empleo de inteligencia artificial para difundir propaganda política manipuladora, generar desinformación desde organismos públicos o influir de manera encubierta en las opiniones de la población.
Ciudadanos podrán exigir explicaciones
La normativa reconoce el derecho de las personas a saber cuándo una decisión administrativa que les afecta ha sido elaborada con apoyo de inteligencia artificial.
Las entidades estatales deberán ofrecer explicaciones sobre los elementos que influyeron en esas decisiones y habilitar procedimientos para corregir errores, solicitar información y exigir una revisión humana.
Aunque intervengan algoritmos, las autoridades y los funcionarios conservarán la responsabilidad por las actuaciones administrativas y sus consecuencias.
Los sistemas considerados de alto impacto, especialmente aquellos relacionados con derechos fundamentales, servicios esenciales, beneficios públicos y sanciones, tendrán que superar evaluaciones éticas antes de comenzar a operar.
Supervisión de las instituciones
La supervisión de las instituciones es un proceso fundamental para garantizar el correcto funcionamiento de las mismas. Es importante que las autoridades competentes realicen inspecciones periódicas para asegurar que se cumplan con las normativas establecidas. Además, la transparencia en los procesos es clave para mantener la confianza del público en estas entidades.El decreto crea el Consejo Nacional de Ética de la Inteligencia Artificial, copresidido por la Dirección General de Ética e Integridad Gubernamental (Digeig) y la Oficina Gubernamental de Tecnologías de la Información y Comunicación (Ogtic).
La Digeig tendrá a su cargo la vigilancia ética y la evaluación de herramientas de alto impacto, mientras que la Ogtic asumirá funciones técnicas y participará en la administración de un registro público de sistemas utilizados por el Estado.
Las instituciones deberán inventariar sus herramientas, identificar responsables y garantizar controles humanos, mecanismos de auditoría y protección de datos.
La aplicación de estas disposiciones dependerá de la capacidad de los organismos supervisores para detectar incumplimientos y verificar que las restricciones se respeten en la práctica.
