Búsqueda
El Congreso de la Ciudad de México recibió la iniciativa de la regulación del uso de la Inteligencia Artificial, con la finalidad de que la tecnología nunca sea utilizada para denigrar, dañar el buen nombre o emplear de manera incorrecta la información de los ciudadanos. Esta nueva normativa, fue apoyada por todos los partidos políticos, los cuales afirmaron que al momento de su votación, emitirán un sufragio a favor, con la finalidad de ser la primera ciudad en Latinoamérica de poner barreras al mal uso del conocimiento científico en contra de los habitantes.
Es decir, la finalidad es que se proteja la información que los ciudadanos emiten a instituciones, secretarías, partidos políticos y sujetos obligados, donde se colocan al centro las libertades y se establezcan los principios, reglas y procedimientos para garantizar la protección de los datos personales en el desarrollo y el uso de la IA en el sector público, en defensa de la dignidad humana.
Con la regulación de rectores de Inteligencia Artificial responsable, los modelos, tipos y usos, se les exigirá a las autoridades que actualicen su labor para atender los casos ligados a la IA, para ello, el Info generará un ecosistema en el que las autoridades estén coordinadas y capacitadas, para que un órgano de control parlamentario e institucional, donde se convoque a asesorías técnicas especializadas y mesas de trabajo, para la capacitación permanente y que se deje de observar a estos delitos como algo inminente, sino real.
ANUNCIO
Con los pilares de seguridad, regulación y ética, la iniciativa desarrollada junto a White Box Project Institute y las embajadas británica y sueca, se tendrá un impacto en el comportamiento en el desarrollo de varios órganos, como el Poder Judicial, el Poder Ejecutivo, partidos políticos y sujetos obligados.
La iniciativa fue presentada por el Instituto de Transparencia, Acceso a la Información Pública, Protección de Datos Personales y Rendición de Cuentas de la Ciudad de México (InfoCDMX), bajo el argumento de que si bien, la Inteligencia Artificial puede ser empleada para el desarrollo de la humanidad, como la medicina, también está al alcance de personas que la emplean para alterar fotografías que dañan la integridad de los capitalinos, como el caso de las víctimas de Diego “N”, alumno del Instituto Politécnico Nacional (IPN) que modificó y vendió imágenes de sus compañeras, en las que parecía que estaban desnudas.
Sujetos obligados deberán de tener un Comité de IA para capacitación
En su primer apartado, la Ley establece que ningún sistema de IA se desarrollará o utilizará en detrimento a los derechos de las personas, por lo que los sujetos obligados garantizarán que los grupos de atención prioritaria puedan ejercer, en igualdad de circunstancias, su derecho a la protección de sus datos personales y privacidad, observando en todo momento el principio pro-persona.
Los sujetos obligados deberán adoptar principios de gobernanza de datos a lo largo del ciclo de vida de la IA, que incluyan responsabilidad y transparencia, para asegurar la responsabilidad y transparencia en la recolección, uso y gestión de datos. Privacidad y seguridad con la finalidad de implementar medidas robustas de privacidad y seguridad para proteger los datos personales utilizados en el desarrollo y operación de sistemas de IA. Por igual, debe de prevalecer la ética y justicia para garantizar que los sistemas de IA se desarrollen y operen de manera ética y justa, evitando sesgos y discriminación.
Asimismo, se tendrán que adoptar prácticas responsables y éticas en la recolección de datos, por ejemplo, el almacenamiento y gestión que vele para que los datos se almacenen y gestionen de manera segura y eficiente.
Con el uso y compartición, se regulará mediante un manual de políticas y procedimientos para garantizar la conformidad con las leyes y regulaciones vigentes.
Los sujetos obligados deberán mitigar los riesgos relacionados con el uso de datos personales que deriven del desarrollo o utilización de sistemas de IA, incluyendo posibles ataques cibernéticos, envenenamiento de datos, accesos no autorizados o pérdida de datos.
En tanto, los sujetos que utilicen IA deberán contar con una política transversal, cuyos lineamientos contemplen acciones previas para gestionar los riesgos de privacidad mediante un sistema automatizado acorde a las necesidades de cada unidad administrativa y con el cual se generen alertas y reportes para proteger la privacidad de las personas.
Para que la política de IA de los sujetos obligados sea transversal deberán contar con un comité de IA; código de conducta para el uso responsable de la IA; programa de capacitación; metodología básica para la gestión de riesgos de privacidad; sistema de gestión de riesgos de privacidad, así como un procedimiento para protección de la privacidad desde el diseño y defecto y respuesta a incidentes.
Para blindar la información obtenida, los sujetos obligados deberán desarrollar una metodología para la gestión de riesgos de privacidad que, por lo menos permita identificar, evaluar y mitigar el impacto adverso de los sistemas de IA.
En ese sentido, se adoptarán tecnologías y prácticas que minimicen los riesgos identificados, como técnicas de anonimización, cifrado de datos y controles de acceso.
Verificación de su cumplimiento y sanciones
El Instituto tendrá la atribución de vigilar y verificar el cumplimiento de los principios y las disposiciones contenidas en la Ley y estará obligado a verificar de oficio cuando se cuente con indicios que hagan presumir fundada y motivada la existencia de violaciones a las leyes correspondientes; así como por denuncia de la persona titular cuando considere que han sido vulnerados sus datos personales.
El Instituto podrá imponer medidas de apremio como la multa, equivalente a la cantidad de ciento cincuenta hasta mil quinientas veces el valor diario de la Unidad de Medida y Actualización; la suspensión temporal de las operaciones del sistema de IA hasta que se corrijan los problemas identificados y se garantice el cumplimiento de la ley o en su caso, la revocación de permisos y licencias para operar el sistema de IA.
Se votaría de manera unánime
Durante la presentación, representantes de todas las fuerzas políticas acompañaron a los comisionados Arístides Guerrero y Julio César Bonilla, así como el presidente de la Comisión de Transparencia en el Congreso, Víctor Hugo Romo del Vivar, quien desde que conoció la iniciativa, la consideró de urgencia para la metrópoli.
También, la coordinadora de Morena, Xóchitl Bravo, sostuvo que al momento de la dictaminación, emitirán sufragios a favor, que junto con sus aliados de la Cuarta Transformación, son necesarios para su aprobación.
“Por supuesto que el Congreso de la Ciudad de México, las y los diputados de la Transformación, vamos a acompañar esta gran iniciativa que, no me cabe duda, Julio y Arístides cuando la crearon, lo hicieron pensando en el beneficio de la ciudadanía".