La carrera armamentística de la IA que no fue

Si la competencia es el gran acelerador de la innovación técnica, las carreras armamentísticas son los calderos del avance infinito. Las carreras armamentísticas obligan a un progreso evolutivo continuo, impulsando a todos los participantes a tomar la iniciativa disruptiva con aguda presteza. Aunque las carreras armamentísticas pueden estar igualadas durante un tiempo, uno de los bandos suele ser dominante y debe defender continuamente su territorio y liderazgo contra una constante fusilería de ataques asimétricos por parte de los demás.

El desarrollo de la inteligencia artificial parece ser una carrera armamentística evidente. Los piratas informáticos utilizan la IA para descifrar los sistemas informáticos, por lo que necesitamos una mejor ciberseguridad de la IA para contraatacar. Los propagandistas computacionales generarán un sinfín de deepfakes sintéticos, lo que nos obligará a construir sistemas de IA resistentes para identificar esta basura y expulsarla de nuestros sistemas sociales.

Sin embargo, yo sostengo que las aplicaciones de la IA en general no son carreras armamentísticas, lo que tiene implicaciones muy importantes para el desarrollo de este campo en los próximos años.

En general, la mayoría del software lo utilizan usuarios "amistosos", en el sentido de que el usuario está en última instancia del mismo lado que el software. Procesadores de texto, editores de fotos, entornos integrados para desarrolladores e incluso juegos: todas nuestras aplicaciones están diseñadas para ayudarnos y, en última instancia, queremos trabajar con ellas para terminar nuestras tareas o simplemente jugar.

Casi todo el software desarrollado antes de Internet era de este tipo, pero a medida que el software pasó de las experiencias de un solo jugador instaladas en nuestros propios escritorios a la web más amplia, se encontró cada vez más con la dinámica de la carrera armamentística. Por ejemplo, ahora todo el software en red debe tener en cuenta la ciberseguridad, mutando y mejorando constantemente a medida que los piratas informáticos y los agentes estatales encuentran nuevos agujeros y fallos en el código.

Pero la carrera armamentística no se limita a la ciberseguridad, sino que también afecta a la funcionalidad básica. Redes sociales como Facebook, Twitter y YouTube deben adaptar continuamente sus algoritmos para luchar contra nuevas formas de spam, juegos de tráfico y distribución ilegal de contenidos. Wikipedia necesita sistemas editoriales y de moderación que luchen contra los buitres sulfurosos de las agencias de relaciones públicas. La situación es aún más difícil en Google, donde existen enormes incentivos para mejorar la posición en los resultados de búsqueda mediante la optimización de motores de búsqueda (SEO). Una estimación sitúa el mercado anual de SEO en unos 80.000 millones de dólares, todos ellos dedicados a jugar con las clasificaciones y mejorar el rendimiento de un sitio en Google.

Para mí fue una lección chocante. De vuelta en Stanford, tomé el curso de posgrado sobre recuperación de información, y es increíble lo rápido que se puede construir un motor de búsqueda moderno utilizando herramientas de código abierto. Utilizando Apache Lucene , pude diseñar un motor de búsqueda durante un solo trimestre académico para asomarme a un corpus de millones de documentos en varios idiomas con resultados bastante buenos sólo en mi ordenador personal.

Unas semanas más tarde, me uní al equipo de búsqueda de Google+ trabajando con Frances Haugen (que casualmente una década más tarde, se convertiría en el 'Facebook Whistleblower' y cuyo nuevo libro llegará pronto ). De repente, pasé de clasificar millones de documentos en mi ordenador personal a trabajar con un equipo de búsqueda masiva que intentaba destacar el contenido social de cientos de miles de usuarios, muchos de los cuales intentaban activamente sabotear las clasificaciones y potenciar su propio perfil.

Sin darme cuenta, había entrado en una carrera armamentística de software. Mientras indexaba y buscaba mis propios documentos, no tenía ninguna razón para luchar contra mi propio software: era una experiencia de un solo jugador, y quería que mi motor de búsqueda tuviera éxito porque fundamentalmente me estaba sirviendo a mí. También hubo un momento en el que mi instancia personalizada de Lucene era "suficientemente buena": encontraba lo que yo quería y realmente no necesitaba más mejoras. Pero en línea, la búsqueda de Google+ necesitaba burlar a los optimizadores más inteligentes del planeta, y tenía que hacerlo meticulosamente en tiempo real.

Como es lógico, las empresas que luchan en una carrera armamentística tienen que invertir agresivamente en mantenimiento e innovación para seguir siendo competitivas. La calidad de las búsquedas de Google sube y baja con el tiempo, a medida que la empresa se adelanta y se retrasa con respecto a los actores que intentan frustrarla. Este enfoque mantiene ágiles los sistemas y la gestión de la empresa: si te pones perezoso, unas semanas más tarde los resultados de búsqueda serán literalmente basura. Pero también significa que las búsquedas de Google reciben una atención desmesurada por parte de los ejecutivos, y no sólo porque sea el principal centro de beneficios de la empresa. Siempre es posible cometer un error y perder cualquier ventaja que se pudiera tener frente a los spammers.

Avancemos hasta la batalla actual de los chatbots de inteligencia artificial, como ChatGPT de OpenAI (y, por extensión, Sydney de Microsoft) y Bard de Google. ¿Están estos chatbots y otras aplicaciones de IA en una carrera armamentística? Y si es así, ¿dónde y con quién?

Dado que ahora mismo son casi exclusivamente interfaces de un solo jugador, la experiencia de los chatbots se remonta al software de antaño. Los usuarios hacen preguntas y obtienen respuestas, sin que nadie más intervenga. Aunque muchos escritores de tecnología han empujado a los chatbots a realizar actividades ilegales o a ofrecer información confidencial, eso no impone de repente una dinámica de carrera armamentística a la IA. Es igual de fácil utilizar Microsoft Word y Adobe Photoshop para cometer actos ilegales, dadas sus capacidades. Evitar la publicidad negativa no es lo mismo que una carrera armamentística.

Existe una posible carrera armamentística entre estas aplicaciones para tratar de influir en el corpus de los modelos que sustentan estos robots, de forma muy parecida a como una empresa de SEO podría tratar de hacer girar un sitio web para el motor de búsqueda de Google. Pero con OpenAI y otros aspirando toda la producción escrita de la humanidad en su búsqueda de la dominación completa, parece difícil imaginar que algunas ediciones en un sitio (o incluso ediciones extensas a través de miles de sitios) cambiarían radicalmente la producción de un bot. Esto es aún más cierto a medida que la caja negra de estos chatbots se ha ido acercando cada vez más a la sombra de Vantablack . Sin saber cómo se construyen estos modelos, es difícil averiguar con precisión qué haría falta para influir en ellos.

Aquí es donde el análisis se complica: no cabe duda de que existe competencia entre los chatbots y otras aplicaciones de IA. OpenAI, Google y otros quieren que sus chatbots sean mejores y más útiles para los usuarios que los productos de sus competidores. Es fácil observar esta estructura de mercado y argumentar que la IA es ahora mismo un hervidero de avances infinitos.

En cambio, deberíamos analizar la utilidad marginal para los usuarios de esos avances infinitos. ¿Cada mejora adicional de una aplicación de IA conducirá en última instancia a mejores resultados para el usuario? No, ya que a menudo hay una meseta de capacidad en la que una aplicación de IA superará un umbral de competencia: será "suficientemente buena" para los usuarios, y cualquier otra mejora será en su mayor parte superflua. No se trata de alcanzar la cúspide de la inteligencia, AGI, sino de la realidad de que, en algún momento, las aplicaciones de IA se limitarán a hacer lo que esperamos que hagan.

Esto tiene enormes implicaciones para el valor a largo plazo que pueden crear las empresas en torno a la IA y para saber si los modelos tenderán hacia enfoques abiertos o cerrados. Es muy difícil competir en una carrera armamentística con software de código abierto, ya que la carga de trabajo y la inversión constantes necesarias para mantener una ventaja competitiva no son propicias para el modelo de desarrollo descentralizado del software abierto. Pero si el objetivo es alcanzar un umbral de competencia, los modelos de IA de código abierto tienen muchas posibilidades de dominar el mercado en los próximos años.

La analogía más obvia es Wikipedia, que es una enciclopedia de código abierto que también funciona con software abierto. Es eminentemente posible (y me atrevería a decir que probable) que la creación y el ajuste de modelos se produzcan de forma totalmente abierta y democratizada como en Wikipedia en los próximos años. Esto es aún más posible en un mundo multimodelo con especificidad de dominio, donde redes descentralizadas de expertos podrían optimizar el modelo de su propio campo.

Seguirá habiendo categorías en las que la IA exhiba una carrera armamentística. La detección de falsificaciones y otras herramientas de verificación de autenticidad lucharán contra los proveedores de estos medios. En teoría, podrían crearse grandes empresas en estos sectores, ya que su agilidad y su inversión constante les ofrecerán un foso que les permitirá capturar valor.

Sin embargo, la mayoría de los casos de uso de la IA no tienen esa dinámica de carrera armamentística, en la que una tecnología "suficientemente buena" será todo lo que necesite la mayoría de los usuarios. En estos mercados, va a ser mucho más difícil que una empresa con ánimo de lucro monopolice un mercado, ya que las soluciones de código abierto serán probablemente más baratas, más flexibles de integrar a través de API y más extensibles que las opciones propietarias. Las empresas pueden ser las primeras en abrirse paso entre la espesura de los retos para ofrecer aplicaciones al mercado, pero a medida que se van filtrando los aprendizajes, resulta más fácil para los que vienen detrás -incluidas las aplicaciones abiertas- ponerse al día.

Invertir en IA exige prestar una atención muy precisa a la dinámica de la competencia con los usuarios y los productos, así como entre los propios productos. Cuando un rendimiento marginal superior genera ventajas de mercado acumulativas, se pueden obtener grandes beneficios. Pero donde hay utilidades marginales decrecientes, cabe esperar un estancamiento de las capacidades y una mayor apertura de la tecnología. El caldero del avance infinito requiere una alquimia muy específica, que no es compartida por todo el software. De hecho, al igual que la alquimia de la época medieval, es relativamente difícil de encontrar y escasa.

Contáctanos