El destino de un proyecto de ley que podría transformar la creciente industria de inteligencia artificial de Silicon Valley podría decidirse esta semana, con todos, desde las grandes empresas tecnológicas hasta los miembros del Congreso compitiendo para influir en el resultado.
Entre los cientos de proyectos de ley que el poderoso Comité de Asignaciones Presupuestarias de la Asamblea Estatal de California tiene previsto aprobar el jueves, se encuentra un controvertido plan para regular la industria de la inteligencia artificial. La legislación propuesta, SB 1047, está polarizando a Silicon Valley e incluso ha llevado a dos legisladores federales que representan a la zona a tomar la inusual decisión de intervenir en el sector empresarial de Sacramento.
La “Ley de Innovación Segura para Modelos de Inteligencia Artificial de Fronteras”, cuyo autor es el senador estatal Scott Wiener, demócrata de San Francisco, tiene como objetivo proteger al público de las catástrofes generadas por la IA. Regularía el desarrollo y la implementación de modelos avanzados de IA, específicamente productos de IA a gran escala cuyo costo de construcción sea de al menos 100 millones de dólares, mediante la creación de un nuevo organismo regulador llamado División de Modelos de Fronteras.
El proyecto de ley, que enfrenta la oposición de importantes empresas tecnológicas como Meta y Google, También propone el establecimiento de un programa de clúster informático financiado con fondos públicos, CalCompute, destinado a desarrollar modelos de IA a gran escala, proporcionar experiencia operativa y soporte al usuario y fomentar la innovación en IA “equitativa”.
Según encuestas públicas recientes, la propuesta ha obtenido apoyo bipartidista en la legislatura estatal y entre los votantes de California. Presentada en febrero pasado, fue aprobada por el Senado estatal en una votación de 32 a 1 en mayo y ahora está en camino a la Asamblea estatal.
Se espera que los miembros de la Asamblea decidan el jueves si el proyecto de ley estará entre los seleccionados para su discusión y posible financiación o si se archivará para más adelante.
Pero destacados miembros del Congreso, Ro Khanna y Zoe Lofgren, demócratas que representan a Silicon Valley, han expresado su preocupación de que el proyecto de ley pueda sofocar la innovación.
Khanna dijo que si bien está de acuerdo en que la IA necesita ser regulada, esto debería hacerse sin dañar a la sólida comunidad de pequeñas empresas y empresas tecnológicas emergentes de California.
“Como representante de Silicon Valley, he estado presionando para que se establezca una regulación reflexiva en torno a la inteligencia artificial para proteger a los trabajadores y abordar los riesgos potenciales, incluida la desinformación, las falsificaciones profundas y un aumento en la disparidad de la riqueza”, dijo Khanna en un comunicado. “Estoy totalmente de acuerdo en que es necesaria una legislación y aprecio la intención detrás de la SB 1047, pero me preocupa que el proyecto de ley tal como está redactado actualmente sea ineficaz, castigue a los empresarios individuales y las pequeñas empresas y dañe el espíritu de innovación de California”.
Khanna cree que el enfoque de la regulación de la IA debería ser más quirúrgico.
“Deberíamos empezar por centrarnos en el problema más inmediato, que es el etiquetado y la comercialización claros de los productos generados con IA”, afirmó.. “En segundo lugar, necesitamos disposiciones de privacidad mucho más estrictas que dificulten la proliferación y el ataque a la información errónea. Y, en tercer lugar, necesitamos disposiciones antimonopolio serias, de modo que no dependamos únicamente de una o dos plataformas de información”.
Mientras tanto, Lofgren, un miembro de alto rango del Comité de Ciencia, Espacio y Tecnología de la Cámara de Representantes, dijo en una carta a Wiener que el proyecto de ley está “fuertemente sesgado” hacia abordar riesgos hipotéticos “mientras que ignora en gran medida los riesgos demostrables de la IA como la desinformación, la discriminación, las falsificaciones profundas no consensuadas, los impactos ambientales y el desplazamiento de la fuerza laboral”.
Mientras los legisladores y los empresarios de IA aumentan la presión contra el proyecto de ley, Wiener celebró una conferencia de prensa en Sacramento el miércoles por la mañana para discutir los riesgos que plantea la IA en el desarrollo de armas de destrucción masiva, algo que Lofgren sostiene que hay poca evidencia que respalde.
Wiener dijo que respondió a la carta de Lofgren y que está dispuesto a hablar con ella sobre posibles enmiendas si el proyecto de ley pasa por el Comité de Asignaciones esta semana.
“Respetuosamente, discrepo con la congresista Lofgren”, dijo Wiener. “Se trata de una legislación muy razonable y muy laxa”.
Dijo que el proyecto de ley se centra en las empresas con capacidades de desarrollo a gran escala.
“Este proyecto de ley no impedirá la innovación en IA ni perjudicará a las empresas emergentes de ningún modo. Y promoverá la innovación segura”, afirmó Wiener.
Sin embargo, a Christopher Nguyen, director ejecutivo de la startup de inteligencia artificial Aitomatic, con sede en Palo Alto, y miembro de la alianza de inteligencia artificial con sede en el Área de la Bahía, le preocupa que el proyecto de ley pueda afectar a las empresas emergentes que dependen de modelos de inteligencia artificial de gran lenguaje, como Llama 3.1 de Meta.
“Dependemos mucho de este próspero ecosistema de inteligencia artificial de código abierto”, afirmó Nguyen. “Si no podemos mantener accesible la tecnología de vanguardia, esto afectará de inmediato al ecosistema de las empresas emergentes, a las pequeñas empresas e incluso al ciudadano de a pie, en términos de las tecnologías y los servicios a los que tienen acceso”.
Llama 3.1, lanzada por Meta en 2023, es una de varias plataformas de inteligencia artificial de código abierto desarrolladas por gigantes tecnológicos y utilizadas por nuevas empresas y pequeñas empresas, entre otros.
En su respuesta escrita a Lofgren, Wiener fue enfático en que el proyecto de ley no dañaría la próspera economía tecnológica de California.
“Las predicciones (anteriores similares) han resultado siempre falsas”, dijo Wiener, refiriéndose a las predicciones realizadas cuando se promulgó la Ley de Privacidad del Consumidor de California de 2018. “California sigue siendo el epicentro mundial de la innovación tecnológica”.
Publicado originalmente:
