La hora de la verdad para la censura en China

En su ya clásico libro de 2018, AI Superpowers, Kai-Fu Lee lanzó el guante al argumentar que China representa una creciente amenaza tecnológica para Estados Unidos. Cuando Lee dio una conferencia como invitado a mi clase "Next China" en Yale a finales de 2019, mis estudiantes quedaron cautivados por su provocativa tesis: Estados Unidos estaba a punto de perder su ventaja de ser el primero en el descubrimiento (la experiencia de los algoritmos de IA) frente a la ventaja de China en la implementación (aplicaciones impulsadas por grandes datos).

Lamentablemente, Lee omitió un acontecimiento clave: el auge de los grandes modelos lingüísticos y la inteligencia artificial generativa. Aunque aludió a una forma más genérica de tecnología de propósito general, que remontó a la Revolución Industrial, no se acercó a captar el frenesí ChatGPT que ha envuelto ahora el debate sobre la IA. Los argumentos de Lee, aunque hacían vagas referencias al "aprendizaje profundo" y las redes neuronales, se centraban mucho más en el potencial de la IA para sustituir tareas realizadas por humanos que en las posibilidades de una "inteligencia general artificial" cercana al pensamiento humano. Esto no es una consideración trivial cuando se trata del futuro de China como superpotencia de la IA.

Y es que la censura china introduce un gran "si" en ese futuro. En un ensayo reciente, Henry Kissinger, Eric Schmidt y Daniel Huttenlocher, cuyo libro de 2021 insinuaba el potencial de la IA de propósito general, defienden firmemente la creencia de que nos encontramos en la cúspide de una revolución intelectual posibilitada por ChatGPT. No sólo abordan los retos morales y filosóficos que plantean los modelos generativos de grandes lenguajes, sino que también plantean importantes cuestiones prácticas sobre la aplicación que tienen que ver directamente con la escala del conjunto de conocimientos incorporados al lenguaje que se está procesando.

Es precisamente aquí donde el estricto régimen de censura chino hace saltar las alarmas. Aunque existe una larga y rica historia de censura tanto en Oriente como en Occidente, el Departamento de Propaganda (o Publicidad) del Partido Comunista de China destaca por sus esfuerzos por controlar todos los aspectos de la expresión en la sociedad china -periódicos, cine, literatura, medios de comunicación y educación- y dirigir la cultura y los valores que conforman el debate público.

A diferencia de Occidente, donde todo vale en la red, los censores chinos insisten en estrictas directrices políticas para la difusión de información conforme al PCCh. Los internautas chinos no pueden encontrar referencias a la Revolución Cultural, que duró una década, a la tragedia de junio de 1989 en la plaza de Tiananmen, a los problemas de derechos humanos en Tíbet y Xinjiang, a las fricciones con Taiwán, a las manifestaciones por la democracia en Hong Kong en 2019, a la oposición a las políticas de "cero COVID" y a muchas otras cosas.

Esta agresiva edición de la información es un gran escollo para un ChatGPT con características chinas. Al hacer borrón y cuenta nueva de los acontecimientos históricos importantes y de las experiencias humanas asociadas a ellos, el régimen de censura chino ha reducido y distorsionado el conjunto de información que se utilizará para entrenar grandes modelos lingüísticos mediante el aprendizaje automático. De ello se deduce que la capacidad de China para beneficiarse de una revolución intelectual de la IA se verá afectada.

Por supuesto, es imposible cuantificar con precisión el impacto de la censura. La encuesta anual Freedom on the Net de Freedom House ofrece una evaluación cualitativa. En 2022, otorgó a China la "puntuación global de libertad en Internet" más baja de una muestra de 70 países.

Esta métrica se obtiene a partir de las respuestas a 21 preguntas (y casi 100 subpreguntas) organizadas en tres grandes categorías: obstáculos al acceso, violaciones de los derechos de los usuarios y limitaciones a los contenidos. La subcategoría de contenidos -que refleja el filtrado y bloqueo de sitios web, las restricciones legales a los contenidos, la vitalidad y diversidad del dominio de la información en línea y el uso de herramientas digitales para la movilización cívica- es la aproximación más cercana a la medición del impacto de la censura en la escala de búsqueda de información. La puntuación de China en este aspecto fue de 2 sobre 35 puntos, frente a una puntuación media de 20.

De cara al futuro, podemos esperar más de lo mismo. El gobierno chino ya se ha apresurado a publicar nuevos proyectos de normas sobre chatbots. El 11 de abril, la Administración del Ciberespacio de China (CAC) decretó que el contenido generativo de la IA debe "encarnar los valores socialistas fundamentales y no debe contener ningún contenido que subvierta el poder del Estado, abogue por el derrocamiento del sistema socialista, incite a la división del país o socave la unidad nacional".

Esto subraya una distinción vital entre el régimen de censura preexistente y los nuevos esfuerzos de supervisión de la IA. Mientras que el primero utiliza el filtrado de palabras clave para bloquear la información inaceptable, el segundo (como se señaló en un reciente foro de DigiChina) se basa en un enfoque de Whac-a-Mole para contener el procesamiento generativo rápidamente cambiante de dicha información. Esto implica que cuanto más se esfuerce el CAC por controlar el contenido de ChatGPT, menor será la producción resultante de inteligencia china generada por chatbot: otra limitación a la revolución intelectual de la IA en China.

Como era de esperar, los primeros resultados de los esfuerzos de la IA generativa china han sido decepcionantes. Wenxin Yiyan, de Baidu, o "Ernie Bot", el modelo de lenguaje de gran tamaño más conocido y pionero de China, fue criticado recientemente en Wired por intentar operar en "una Internet con cortafuegos regida por la censura gubernamental". Se ha informado de resultados decepcionantes similares para otros modelos de procesamiento lingüístico de IA en China, incluidos Robot, Lily y Tongyi Qianwen de Alibaba (traducido aproximadamente como "verdad de mil preguntas").

Además, una reciente evaluación de NewsGuard, una "herramienta de confianza en Internet" creada y mantenida por un amplio equipo de respetados periodistas occidentales, descubrió que ChatGPT-3.5 de OpenAI generaba mucha más información falsa o "alucinógena" en chino que en inglés.

El extraordinario libro del literato Jing Tsu Kingdom of Characters: The Language Revolution that Made China Modern subraya el papel fundamental que ha desempeñado la lengua en la evolución de China desde 1900. A fin de cuentas, la lengua no es más que un medio de información, y en su capítulo final, Tsu aprovecha ese punto para argumentar que "quien controla la información controla el mundo".

En la era de la IA, esa conclusión plantea profundos interrogantes a China. La información es la materia prima de los grandes modelos de inteligencia artificial. Pero la censura estatal limita a China con modelos lingüísticos pequeños. Esta distinción podría ser decisiva en la batalla por el control de la información y el poder mundial.

Contáctanos