El pasado 3 de noviembre, el abogado y maestro en Derecho Juan Manuel González Zapata, de 30 años, y el ingeniero industrial Jesús Roberto Díaz García, de 26 años, presentaron ante el Congreso de Coahuila una iniciativa pionera en el país para regular la industria inteligente.
Roberto cuenta con 23 certificaciones en sistemas de gestión y actualmente es la única persona en el país certificada en la ISO/IEC 42001, la norma internacional para gestionar riesgos de inteligencia artificial, mientras que Juan Manuel tiene una trayectoria activa en participación ciudadana, sumando seis iniciativas presentadas ante el Poder Legislativo.
En entrevista con VANGUARDIA, los autores de esta iniciativa explicaron los riesgos que han identificado en el uso de la inteligencia artificial en el sector privado, cómo prevén su impacto futuro y qué los motivó a impulsar esta propuesta legislativa.
P: ¿Cómo nació la idea de presentar esta iniciativa sobre industria inteligente?
Roberto: Esta iniciativa nace de un café entre un experto en derecho y alguien como yo, que trabaja en sistemas de gestión en el sector privado. Le platiqué a Juan Manuel sobre la ISO 42001 y la preocupación de cómo proteger a empresarios y trabajadores ante los riesgos y prejuicios derivados de la IA. Como ni Coahuila ni México han legislado sobre esto, decidimos unificar mi experiencia técnica con su visión jurídica para proponer una regulación enfocada en el sector privado.
P: Roberto, ¿en qué consistió la certificación que obtuviste en la ISO 42001?
Roberto: Aunque soy ingeniero industrial, me he especializado en las normativas. Las ISO se actualizan cada cierto tiempo y, tras la pandemia, muchos cambios se retrasaron. La actualización reciente de la ISO 9001 ya empezaba a hablar de riesgo cibernético y riesgo algorítmico, y eso me llamó mucho la atención.
En diciembre de 2023 nace la ISO 42001, que ya aborda el riesgo algorítmico. Antes la inteligencia artificial estaba en laboratorios o áreas muy controladas, pero con la evolución de modelos como ChatGPT todo cambió y las empresas empezaron a enfrentarse a estos riesgos.
Durante un viaje personal decidí acercarme a Ginebra y participar en una junta del comité técnico de la norma. Era el único mexicano ahí, pero logramos coincidir en varios puntos y entendí que en México no existía nada parecido.
P: En la exposición de motivos usan la aviación como ejemplo de una tecnología que surgió antes de tener regulación. ¿Buscan transmitir que con la inteligencia artificial estamos viviendo algo similar?
Juan Manuel: Sí, es justo lo que queríamos transmitir. Pusimos el ejemplo de la aviación porque en algunos libros de los años 1920 y 1930 se hablaba de cómo no había regulación del espacio aéreo. Ese vacío nos recordó lo que está pasando hoy con la inteligencia artificial.
Con esta iniciativa queremos adelantarnos a los problemas futuros y diferenciarnos de lo que existe a nivel nacional. Muchas propuestas en el país se enfocan solo en sesgos como educación, uso legislativo o su uso delictivo, pero creemos que la IA es apenas una parte del género más amplio de la industria inteligente.
Tenemos que prepararnos porque mañana va a surgir una tecnología nueva y necesitamos herramientas para proteger a nuestra gente y a nuestros empresarios. Queremos que Coahuila sea el primero en construir un marco jurídico sólido.
No buscamos restringir la inteligencia artificial. Queremos que se vea como una herramienta de productividad, no criminalizarla. Solo buscamos establecer parámetros para su uso ético y técnico.
P: ¿Cómo visualizan los riesgos que podrían presentarse?
Roberto: Hay otra norma enfocada en riesgos, la ISO 31001, que antes solo consideraba riesgos cibernéticos en temas de hackeos o invasiones a la seguridad. No contemplaba el riesgo algorítmico, y eso es lo que cambia.La diferencia entre una calculadora y la IA es que la IA puede aprender sola. ¿Qué riesgo aparece? El del uso.
P: ¿Han observado cómo se está utilizando la inteligencia artificial en procesos industriales en Coahuila y qué problemas han identificado?
Roberto: Hay software que hace exámenes psicométricos y, en una empresa donde trabajé, la IA evaluaba mal a las personas: si no le alcanzaba el tiempo al evaluado, lo declaraba con bajo desempeño, y alguien que vivía en una zona conflictiva no fue contratado por ello, aunque estaba muy preparado.
Juan Manuel: Por ejemplo, si metes currículums a una IA, podría generar sesgos discriminatorios. Por eso se contemplan garantías como el control humano. La intervención humana funciona como control y derecho. Contemplamos un procedimiento de queja para que el consejo conozca estos casos y pueda emitir recomendaciones, multas o medidas correctivas. No buscamos criminalizar la IA, sino establecer parámetros de legalidad basados en un lenguaje universal como el de la ISO, incluso en la fabricación de productos o en procesos académicos.
P: ¿Por qué proponen que el consejo esté integrado por varias dependencias del gobierno y actores ciudadanos, y cuál sería su papel?
Juan Manuel: El interés de que participen dependencias como Educación, Economía y Seguridad es tener un enfoque preventivo. Si solo actuamos desde un área, podemos dejar desatendidas otras aristas. Por eso proponemos un enfoque multidisciplinario, incluyendo participación ciudadana y de las cámaras, para mantener un equilibrio. El consejo puede emitir lineamientos y recomendaciones, marcando pautas sobre conductas problemáticas o delictivas en la industria inteligente. No definimos todo de una vez porque no sabemos cómo evolucionará la tecnología, pero sí queremos dar herramientas al sector industrial y a los ciudadanos para participar y protegerse.
P: La iniciativa menciona que aplica a todas las industrias inteligentes. ¿En qué otros ámbitos, además del sector privado, podría aplicarse esta ley?
Juan Manuel: Queremos ceñirnos al tema de industria inteligente, pero también incluimos un apartado de gobernanza digital. Esto permite que las autoridades y dependencias públicas utilicen medios electrónicos para agilizar procesos, simplificando trámites con herramientas de IA, big data o internet de las cosas.
No solo buscamos brindar herramientas a la industria, sino también al sector gubernamental, adelantándonos a posibles problemáticas. Aunque la ley está enfocada en comercios, profesionales e industrias, dejamos artículos para que las autoridades puedan deliberar y emitir lineamientos si surgen situaciones legales grises.
P: ¿Qué significa la responsabilidad algorítmica y cómo se aplicaría dentro de esta iniciativa?
Roberto: Muchas personas piensan que un algoritmo es solo programación, pero la responsabilidad algorítmica significa que quien programa o introduce datos en la IA debe ser consciente de los riesgos de las salidas. Es asumir que las decisiones de la IA tienen consecuencias y que quien las genera debe tener la competencia para hacerlo de manera segura.
Juan Manuel: En resumen, es asumir los costos de lo que se genera mediante la industria inteligente. Queremos que ciudadanos, empresarios y gobierno puedan reclamar, mediante una queja y un dictamen técnico, las consecuencias de un mal uso de los algoritmos. Tomamos este concepto de procedimientos como los de la Condusef, adaptándolo a una ley estatal para dar garantías locales sin invadir competencias federales y así equilibrar protección y legalidad.
P: ¿Han tenido acercamiento con las cámaras empresariales e industrias, y cuentan con su respaldo para la iniciativa?
Roberto: Las cámaras están altamente interesadas. Les importa ser más rentables, pero también cómo defenderse ante riesgos algorítmicos. No es solo interés de una cámara, sino de todos los empresarios.
P: ¿Cómo perciben la viabilidad de esta iniciativa en Coahuila y qué expectativas tienen sobre su recepción a nivel estatal y nacional?
Juan Manuel: Creemos que hay posibilidad de que se tome en cuenta. Más allá de si se aprueba o no, la intención es mostrar nuestra disposición a colaborar. Roberto ya lo ha socializado con las cámaras empresariales y sabemos que algunos diputados estaban trabajando en el tema. Nosotros solo quisimos sumarnos al esfuerzo y levantar la mano.
Presentamos este proyecto con la mejor intención; surgió de una plática entre amigos y lo redactamos en una semana. Sabemos que puede ser perfectible, pero confiamos en que, mediante diálogo, se pueda llegar a un consenso y ser pioneros en el país.
P: ¿De qué manera esta iniciativa podría contribuir a la competitividad de Coahuila?
Juan Manuel: Para empezar, brinda garantías a los empresarios que quieran invertir en Coahuila. Les asegura que aquí las cosas se hacen bien, con responsabilidad y habilidades algorítmicas, y los protege de problemas como la ingeniería inversa. La intención es que esto sea beneficioso para Coahuila, sin trabar a industriales ni al gobierno, sino promoviendo un desarrollo óptimo.
COMENTARIOS