Empresas que lancen nueva IA deben mostrar primero pruebas, ordena EU

Los desarrolladores de los sistemas de Inteligencia Artificial (IA) más poderosos deberán compartir información crítica de pruebas con el gobierno de Estados Unidos, de acuerdo con la tan esperada orden ejecutiva de la administración Biden, según informó Axios.

Se esperaba que el presidente Joe Biden firmara la orden ejecutiva de IA la tarde de este lunes en un evento en la Casa Blanca. Según una hoja informativa de la Casa Blanca, la orden impulsará a las empresas y agencias gubernamentales a desarrollar una IA responsable.

TE PUEDE INTERESAR: ONU crea Consejo Consultivo sobre Inteligencia Artificial

El subjefe de gabinete de la Casa Blanca, Bruce Reed, dijo en un comunicado: “Biden está implementando el conjunto de acciones más sólidas que cualquier gobierno del mundo haya tomado sobre la seguridad y la confianza de la IA. Es el siguiente paso en una estrategia agresiva para hacer todo lo posible en todos los frentes para aprovechar los beneficios de la IA y mitigar los riesgos”.

Las empresas que desarrollen modelos que presenten riesgos graves para la salud y la seguridad públicas, la economía o la seguridad nacional tendrán que notificar al gobierno federal cuando entrenen el modelo y compartir los resultados de las pruebas de seguridad del equipo rojo antes de hacer públicos los modelos.

La disposición se aplicaría a los modelos futuros que vayan más allá de un umbral de potencia de cómputo específico y no conduciría a ninguna restricción o eliminación de las herramientas de IA existentes en el mercado, dijo un alto funcionario de la administración.

Esta disposición va más allá de los compromisos voluntarios que la Casa Blanca obtuvo de las empresas de IA y requiere una notificación de acuerdo con la Ley de Producción de Defensa.

El funcionario dijo que el mecanismo de aplicación de la DPA no estaba previsto para la industria y que aún está por verse cómo reaccionarán las empresas.

CONTRA DEEPFAKES

De cara a las elecciones de 2024, la administración también está abordando los deepfakes, instruyendo al Departamento de Comercio para que desarrolle una guía para la autenticación de contenido y la marca de agua.

Las agencias federales utilizarán las herramientas de autenticación de contenido y la marca de agua para facilitar que los estadounidenses sepan que la comunicación del gobierno es auténtica.

Empresas como Adobe han estado abogando por estándares federales en torno a la marca de agua del contenido generado por IA y los legisladores han presentado proyectos de ley para proteger el trabajo de los artistas de ser copiado por programas de IA.

Enseguida, un desglose de otras áreas incluidas en la orden más allá de la seguridad y la protección, según la hoja informativa de la Casa Blanca:

1. Privacidad: El gobierno priorizará el apoyo al desarrollo de herramientas de privacidad utilizando sistemas de IA de vanguardia.

Se financiará una Red de Coordinación de la Investigación para fortalecer las herramientas de privacidad, como las herramientas de criptografía. Se fortalecerá la guía de privacidad para las agencias federales que utilizan información de corredores de datos, en particular datos de identificación personal.

2. Equidad y derechos civiles: Los propietarios, los administradores de programas de beneficios federales y los contratistas federales recibirán orientación para evitar que los algoritmos se utilicen para exacerbar la discriminación.

El Departamento de Justicia y las oficinas federales de derechos civiles recibirán capacitación sobre las mejores prácticas para investigar y enjuiciar las violaciones de los derechos civiles de la IA.

Se desarrollarán las mejores prácticas sobre el uso de la IA en las sentencias, la libertad condicional y la libertad condicional, la libertad preventiva y la detención, las evaluaciones de riesgos, la vigilancia, la previsión de la delincuencia y la vigilancia policial predictiva y el análisis forense.

3. Innovación y competencia: Se proporcionará asistencia técnica y recursos a los pequeños desarrolladores y empresarios para comercializar la IA, y se alentará a la Comisión Federal de Comercio a ejercer su autoridad para promover la competencia.

Los criterios de visa, las entrevistas y las revisiones se modernizarán y simplificarán para alentar a los inmigrantes altamente calificados y a los no inmigrantes con experiencia en áreas críticas a estudiar, permanecer y trabajar en EU.

Lo que dicen: “Creo que la amplitud de la orden ejecutiva es un reconocimiento del hecho de que la política de IA es como ejecutar un decatlón y hay 10 eventos diferentes aquí y no tenemos el lujo de simplemente elegir, de decir: ‘Solo vamos a hacer seguridad’ o ‘Solo vamos a hacer equidad’ o ‘Solo vamos a hacer privacidad’. Tenemos que hacer todas estas cosas”, dijo un alto funcionario de la administración.

Sí, pero la administración Biden reconoce que las órdenes ejecutivas no pueden reemplazar la legislación y continúa pidiendo al Congreso que apruebe una ley que regule la seguridad de la IA.

Con información de medios