Una nueva propuesta de ley para regular la IA enciende la polémica entre reguladores y desarrolladores en EE UU

Regular el desarrollo y uso de sistemas de inteligencia artificial (IA) se ha convertido en un asunto prioritario. Gobiernos de todo el mundo están evaluando diversas propuestas legislativas al respecto. La iniciativa de ley conocida como SB 1047 es una que ha despertado una gran controversia dentro del sector tecnológico en Estados Unidos.

El proyecto también se conoce como Ley de Innovación Segura y Protegida para Modelos de Inteligencia Artificial de Frontera. Fue presentado hace unas semanas por Scott Wiener, senador demócrata, con la intención de garantizar el desarrollo seguro de sistemas de inteligencia artificial a gran escala en California, Estados Unidos. La reforma contempla una serie de mecanismos y requisitos similares a los establecidos en la Unión Europea, recientemente. El objetivo es evitar que la tecnología sea utilizada para generar amenazas de seguridad pública. Pretende “establecer normas de seguridad claras, predecibles y de sentido común para los desarrolladores de los sistemas de inteligencia artificial más grandes y poderosos”.

México avanza con su plan nacional para el desarrollo ético de la inteligencia artificial

La UNESCO presentó este miércoles, en el Senado de la República, la evaluación del estadío de preparación de la inteligencia artificial en México. La Recomendación sobre la Ética de la Inteligencia Artificial (RAM) fue presentada por la Directora General Adjunta para las Ciencias Sociales y Humanas de la UNESCO.

¿Qué dice la ley que busca regular la IA en California?

La SB 1047 obligaría a las empresas que desarrollan grandes modelos de IA a implementar protocolos de seguridad para evitar usos indebidos. Este requisito aplicaría para los algoritmos cuyo entrenamiento cuesta más de 100 millones de dólares. Este tipo de sistemas deberán de incluir un “botón de apagado de emergencia” que permita desactivar su operación por completo y de inmediato, en caso de que su funcionamiento se saliera de control.

La normativa prohíbe la distribución y comercialización de herramientas de IA que puedan causar “daños críticos” a la sociedad. En la categoría se consideran a aquellos desarrollos con potencial para facilitar la creación de armas biológicas, químicas, nucleares y cibernéticas, por ejemplo.

El marco regulatorio sugiere que la Agencia de Operaciones Gubernamentales tendría la facultad de exigir auditorías externas anuales para verificar el cumplimiento de las disposiciones. Podría imponer multas civiles a las compañías que violen los protocolos de seguridad. Las sanciones más severas serían equivalentes al 30% del costo de la potencia de cálculo que requieren los modelos infractores. El organismo regulador también podría dictaminar la suspensión o eliminación de los algoritmos transgresores.

Las medidas que estipula la iniciativa han sido criticadas por las ciertas compañías de IA, académicos y algunos agentes políticos. Acusan que los lineamientos son demasiado restrictivos y representan un obstáculo para el avance de la industria en Estados Unidos.

Li Fei Fei, profesora de la Universidad de Stanford, expresó su preocupación alrededor de esta normativa. A través de sus redes sociales expuso que la Ley SB 1047 “tiene buenas intenciones, pero no resolverá lo que se supone que debe remediar. Dañará profundamente a la academia, a las pequeñas empresas tecnológicas y a la comunidad de código abierto [al limitar su incursión en el mundo de la IA]”.

Kevin McKinley, gerente de políticas estatales de Meta, dijo en una declaración retomada por Los Angeles Times que aunque “[la compañía] comparte los objetivos del proyecto de ley, teme que perjudique la innovación en California“. Por su parte, la congresista Nancy Pelosi advirtió que la implementación del merco regulatorio tendría importantes consecuencias que sofocarían la innovación y dañarían al ecosistema de IA en Estados Unidos. “La SB 1047 tiene buenas intenciones, pero está mal informada. La IA surge en California. Debemos tener una legislación que sea un modelo para la nación y el mundo. Tenemos la oportunidad y la responsabilidad de permitir que los pequeños empresarios y el mundo académico dominen el sector y no solo las grandes corporaciones tecnológicas”, alertó en una nota publicada la semana pasada.

Los impulsores de la reforma afirman que cuentan con el respaldo de Geoffrey Hinton y Yoshua Bengio, apodados como los “padrinos de la IA”. Hinton, exdirector de IA en Google, afirma que los sistemas de IA más potentes son “increíblemente prometedores, pero los riesgos también son muy reales y deben tomarse muy en serio”. Asegura que necesario tener una legislación sólida para abordar las posibles amenazas. “La SB 1047 adopta un enfoque muy sensato para equilibrar esas preocupaciones. California es un lugar natural para comenzar, ya que es el lugar donde esta tecnología ha despegado”, agregó en un apunte publicado por el equipo de Wiener.

El Comité de Asignaciones Presupuestarias estatal aprobó la iniciativa la semana pasada. El proyecto ahora se turnará al pleno de la Asamblea para una nueva votación que ocurrirá el 20 de agosto. Si se aprueba en esta instancia, regresará al Senado del estado para una ratificación. Gavin Newsom, gobernador de California, deberá aprobarlo en su totalidad para que entre en vigor.