Garry Tan, de Y Combinator, apoya cierta regulación de la IA, pero advierte contra los monopolios de la IA

Garry Tan, presidente y director ejecutivo de Y Combinator, dijo esta semana ante una multitud en el Club Económico de Washington, DC que “probablemente sea necesaria una regulación” para la inteligencia artificial.

Tan habló con Teresa Carlson, miembro de la junta directiva de General Catalyst, como parte de una entrevista individual en la que habló de todo, desde cómo ingresar a Y Combinator hasta AI, y señaló que “no hay mejor momento para trabajar en tecnología que el correcto”. ahora.”

Tan dijo que “apoyaba en general” el intento del Instituto Nacional de Estándares y Tecnología (NIST) de construir un marco de mitigación de riesgos GenAI, y dijo que “gran parte de la EO por parte de la Administración Biden probablemente estamos en el camino correcto”.

El marco del NIST propone cosas como definir que GenAI debe cumplir con las leyes existentes que rigen aspectos como la privacidad de los datos y los derechos de autor; revelar el uso de GenAI a los usuarios finales; establecer regulaciones que prohíban a GenAI crear materiales de abuso sexual infantil, etc. La orden ejecutiva de Biden cubre una amplia gama de máximas, desde exigir a las empresas de inteligencia artificial que compartan datos de seguridad con el gobierno hasta garantizar que los pequeños desarrolladores tengan un acceso justo.

Pero Tan, como muchos capitalistas de riesgo del Valle, desconfiaba de otros esfuerzos regulatorios. Calificó los proyectos de ley relacionados con la IA que se están tramitando en las legislaturas de California y San Francisco como “muy preocupantes”.

Como un proyecto de ley de California que está causando revuelo es el presentado por el senador estatal Scott Wiener que permitiría al fiscal general demandar a las empresas de inteligencia artificial si sus productos son dañinos. Informes políticos.

“El gran debate en términos generales en términos de políticas en este momento es ¿cómo sería realmente una buena versión de esto?” Dijo Tan. “Podemos mirar a personas como Ian Hogarth, en el Reino Unido, para ser reflexivo. También son conscientes de esta idea de concentración de poder. Al mismo tiempo, están tratando de descubrir cómo apoyamos la innovación y al mismo tiempo mitigamos los peores daños posibles”.

Hogarth es un ex emprendedor de YC y experto en IA que el Reino Unido ha elegido para formar parte de un grupo de trabajo sobre modelos de IA.

“Lo que me asusta es que si intentamos abordar una preocupación de ciencia ficción que no está presente”, dijo Tan.

En cuanto a cómo YC gestiona la responsabilidad, Tan dijo que si la organización no está de acuerdo con la misión de una startup o con lo que ese producto haría por la sociedad, “YC simplemente no la financia”. Señaló que en varias ocasiones leyó sobre una empresa en los medios que había presentado una solicitud para YC.

“Regresamos y miramos las notas de la entrevista y pensamos que no creemos que esto sea bueno para la sociedad. Y afortunadamente no lo financiamos”, dijo.

Los líderes en inteligencia artificial siguen cometiendo errores

La directriz de Tan todavía deja espacio para que Y Combinator genere muchas nuevas empresas de IA como graduados de cohortes. Como informó mi colega Kyle Wiggers, la cohorte de invierno de 2024 tenía 86 nuevas empresas de inteligencia artificial, casi el doble que el lote de invierno de 2023 y cerca del triple que la del invierno de 2021, según el directorio oficial de startups de YC.

Y las noticias recientes están haciendo que la gente se pregunte si pueden confiar en que quienes venden productos de IA serán quienes definan la IA responsable. La semana pasada, TechCrunch informó que OpenAI se deshará de su equipo de responsabilidad de IA.

Luego, la debacle se relacionó con el uso de una voz que sonaba como la de la actriz Scarlet Johansson cuando hacía una demostración de su nuevo modelo GPT-4o. Resulta que le preguntaron sobre el uso de su voz y ella los rechazó. Desde entonces, OpenAI eliminó la voz de Sky, aunque negó que estuviera basada en Johansson. Eso, y los problemas relacionados con la capacidad de OpenAI para recuperar el capital adquirido de los empleados, estuvieron entre varios elementos que llevó a la gente a cuestionar abiertamente Los escrúpulos de Sam Altman.

Mientras tanto, Meta hizo noticia sobre IA cuando anunció la creación de un consejo asesor de IA que solo contaba con hombres blancos, dejando de lado a mujeres y personas de color, muchas de las cuales desempeñaron un papel clave en la creación e innovación de ese consejo. industria.

Tan no hizo referencia a ninguno de estos casos. Como la mayoría de los capitalistas de riesgo de Silicon Valley, lo que ve son oportunidades para negocios nuevos, enormes y lucrativos.

“Nos gusta pensar en las startups como un laberinto de ideas”, dijo Tan. “Cuando aparece una nueva tecnología, como los grandes modelos lingüísticos, todo el laberinto de ideas se altera. El propio ChatGPT fue probablemente uno de los productos de consumo de más rápido éxito que se haya lanzado en los últimos tiempos. Y esas son buenas noticias para los fundadores”.

Inteligencia artificial del futuro

Tan también dijo que San Francisco está en el centro del movimiento de IA. Por ejemplo, ahí es donde comenzó Anthropic, iniciado por ex alumnos de YC, y OpenAI, que fue un spin-out de YC.

Tan también bromeó diciendo que no iba a seguir los pasos de Altman, señalando que Altman “tenía mi trabajo hace varios años, por lo que no tiene planes de iniciar un laboratorio de IA”.

Una de las otras historias de éxito de YC es la startup de tecnología legal Casetext, que se vendió a Thomson Reuters por 600 millones de dólares en 2023. Tan creía que Casetext fue una de las primeras empresas del mundo en tener acceso a la IA generativa y luego fue una de las primeras en salir. en IA generativa.

Al mirar hacia el futuro de la IA, Tan dijo que “obviamente, tenemos que ser inteligentes con esta tecnología” en lo que se refiere a los riesgos relacionados con el bioterrorismo y los ataques cibernéticos. Al mismo tiempo, dijo que debería haber “un enfoque mucho más mesurado”.

También supone que no es probable que haya un modelo en el que el ganador se lo lleve todo, sino más bien un “increíble jardín de libertad de elección de los consumidores y de fundadores para poder crear algo que afecte a mil millones de personas”.

Al menos, eso es lo que quiere que suceda. Eso sería lo mejor para él y para YC: muchas nuevas empresas exitosas devolverían mucho dinero en efectivo a los inversores. Entonces, lo que más asusta a Tan no son las IA malvadas y descontroladas, sino la escasez de IA para elegir.

“De hecho, podríamos encontrarnos en otra situación realmente monopolística en la que hay una gran concentración en unos pocos modelos. Entonces estás hablando de extracción de rentas y tienes un mundo en el que no quiero vivir”.

Fuente