TOYE TENGO cambió el mundo escribiendo software. Pero los tipos tecnológicos también son conocidos por componer largos memorandos en prosa, los más famosos de los cuales han marcado puntos de inflexión en la informática. Piense en el memorándum “Maremoto de Internet” de Bill Gates de 1995, que reorientó a Microsoft hacia la web; o el de Jeff Bezos”API mandato” de 2002, que abrió la infraestructura digital de Amazon, allanando el camino para la informática en la nube moderna. Ahora los técnicos están entusiasmados con otro memorando, esta vez filtrado desde dentro de Google, titulado “No tenemos foso”. Su autor desconocido detalla el asombroso progreso que se está logrando en inteligencia artificial (AI), y desafía algunas suposiciones arraigadas sobre el equilibrio de poder en esta industria de rápido movimiento.
Su navegador no admite el elemento
AI estalló en la conciencia pública con el lanzamiento a fines de 2022 de ChatGPTun chatbot impulsado por un “modelo de lenguaje grande” (LLM) realizado por AbiertoAI, una startup muy ligada a Microsoft. Su éxito llevó a Google y otras empresas tecnológicas a lanzar su propio LLM-chatbots potenciados. Dichos sistemas pueden generar texto y mantener conversaciones realistas porque han sido entrenados utilizando billones de palabras extraídas de Internet. Entrenando a un gran LLM lleva meses y cuesta decenas de millones de dólares. Esto llevó a la preocupación de que AI estaría dominada por unas pocas empresas con mucho dinero.
Pero esa suposición es incorrecta, dice la nota de Google. Señala que los investigadores en la comunidad de código abierto, utilizando recursos en línea gratuitos, ahora están logrando resultados comparables a los modelos propietarios más grandes. Resulta que LLMLos s se pueden “afinar” utilizando una técnica llamada adaptación de bajo rango o LoRa. Esto permite que una existente LLM ser optimizado para una tarea en particular mucho más rápido y más barato que entrenar a un LLM desde cero
Actividad en código abierto AI estalló en marzo, cuando LLaMamá, un modelo creado por Meta, la matriz de Facebook, se filtró en línea. Aunque es más pequeño que el más grande. LLMs (su versión más pequeña tiene 7 mil millones de parámetros, en comparación con los 540 mil millones de Google PAGaLM) se ajustó rápidamente para producir resultados comparables a la versión original de ChatGPT en algunas tareas. A medida que los investigadores de código abierto se basan en el trabajo de los demás con LLaMamá“siguió una tremenda efusión de innovación”, escribe el autor del memorándum.
Esto podría tener implicaciones sísmicas para el futuro de la industria. “La barrera de entrada para la capacitación y la experimentación se ha reducido de la producción total de una importante organización de investigación a una persona, una noche y una computadora portátil robusta”, afirma el memorando de Google. Un LLM ahora se puede ajustar por $ 100 en unas pocas horas. Con su modelo de rápido movimiento, colaborativo y de bajo costo, “el código abierto tiene algunas ventajas significativas que no podemos replicar”. De ahí el título del memorando: esto puede significar que Google no tiene un “foso” defensivo contra los competidores de código abierto. Tampoco, por lo demás, OpenAI.
No todos están de acuerdo con esta tesis. Es cierto que Internet funciona con software de código abierto. Pero la gente también usa software propietario pagado, desde Adobe Photoshop hasta Microsoft Windows. AI puede encontrar un equilibrio similar. Además, la evaluación comparativa AI sistemas es notoriamente difícil. Sin embargo, incluso si el memorando es parcialmente correcto, la implicación es que el acceso a AI la tecnología estará mucho más democratizada de lo que parecía posible incluso hace un año. Poderoso LLMs se puede ejecutar en una computadora portátil; cualquiera que quiera ahora puede ajustar su propio AI.
Esto tiene implicaciones tanto positivas como negativas. En el lado positivo, hace que el control monopólico de AI por un puñado de empresas mucho menos probable. Dará acceso a AI mucho más barato, acelerar la innovación en todo el campo y facilitar a los investigadores el análisis del comportamiento de AI (su acceso a modelos propietarios era limitado), potenciando la transparencia y la seguridad. Pero un acceso más fácil a AI también significa que los malos actores podrán ajustar los sistemas con fines nefastos, como generar desinformación. Significa los intentos occidentales de evitar que los regímenes hostiles obtengan acceso a poderosos AI la tecnología fallará. y hace AI más difícil de regular, porque el genio está fuera de la botella.
Si Google y los de su calaña realmente han perdido su foso en AI pronto se hará evidente. Pero al igual que con los memorandos anteriores, esto se siente como otro punto de inflexión para la informática. ■
