Por El martes 30 de mayo de 2023 se publicó un manifiesto firmado por cientos de expertos líderes en la Inteligencia Artificial (IA) advirtiendo que esta tecnología debe considerarse un riesgo de extinción para el mundo y que mitigarlo debe ser una prioridad a la misma altura que otros en escala mundial, tales como las pandemias y la guerra nuclear. El manifiesto se puede hallar en Statement on AI Risk, Center for AI Safety, https://www.safe.ai/statement-on-ai-risk y dice así:
“Los expertos en IA, los periodistas, los responsables políticos y el público están discutiendo cada vez más un amplio espectro de riesgos importantes y urgentes de la IA. Aun así, puede ser difícil expresar su preocupación por algunos de los riesgos más graves de la IA avanzada. La declaración sucinta a continuación tiene como objetivo superar este obstáculo y abrir la discusión. También está destinado a crear un conocimiento común del creciente número de expertos y figuras públicas que también toman en serio algunos de los riesgos más graves de la IA avanzada.
Mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social, como las pandemias y la guerra nuclear".
El lenguaje de este manifiesto es tan extremo que alguien podría pensar que es una gran exageración, hasta que lee quienes lo firman. Estos incluyen a Sam Altman, el jefe ejecutivo (CEO) de OpenAI, la empresa que lanzó el ChatGPT, el software de IA que ha causado la gran conmoción y ha puesto a la IA en la imaginación de todo el mundo; Demis Hassabis, el CEO de Google DeepMind, la empresa que ganó cuatro de cinco juegos al campeón mundial de GO, un juego millones de veces más complejo que el ajedrez y que ha producido un software para mapear en tres dimensiones todas las proteínas que existen, algo que nunca se había logrado; Geoffrey Hinton, considerado el padrino de la IA; y cientos de altos ejecutivos de empresas de renombre mundial, como Microsoft, y profesores de IA en muchas de las universidades de más prestigio en el campo.
El manifiesto parece haber sido escrito por el Aprendiz de Brujo en la poesía de Goethe, o por Pandora después de haber abierto una caja que le habían dicho que no abriera y se encuentra que salen de ella miles de cosas malas que destruyen el paraíso en el que ella vivía sin que ella pueda meterlas de regreso en la caja.
Estos científicos no son los primeros que dicen esto pero sí son los que han hablado más radicalmente. Se unen a otros de gran calibre que han hecho las mismas advertencias, mencionando muchos riesgos que ya se han discutido con mucha frecuencia, como la posibilidad de que quiten empleos a muchas gentes. La opinión generalizada había sido que las computadoras podrían quitar trabajos a gente que hiciera labores muy repetitivas y rutinarias, o que no trabajaran manejando las nuevas tecnologías. Pero con la llegada de la IA esto se está probando falso. Muchas personas en labores complejas, como los radiólogos y otros médicos pueden perder sus empleos. Igual, personas que trabajan en el manejo de computadoras, como los que escriben software, pueden verse desplazados por la IA, que es muy eficiente para escribirlo. También los troles se van a ver afectados porque la IA puede producir y distribuir material de propaganda en favor o en contra de algún producto o persona en volúmenes equivalentes a miles de troles y a un costo ridículamente bajo. Con esto los publicistas que confían en su capacidad de manejar mensajes a través de miles de troles se encontrarán con que éstos no le darán ninguna ventaja porque cualquiera podrá producir material en contra suficiente para anularlos por unos cuantos dólares. Esto, en muchos casos, va a ser positivo porque va a nivelar en campo político.
Pero hay amenazas más sutiles, como la posibilidad de producir fake news en grandes cantidades, con mayor credibilidad aparente y mucho menor costo que hasta ahora. Esto puede convertir al mundo en una torre de babel que lleve al caos y así prepare el camino para que potenciales tiranos lo utilicen para escalar el poder. Pero eso no justifica calificar los riesgos como de extinción de la raza humana. Es difícil adumbrar en qué están pensando estos científicos cuando dicen “Aun así, puede ser difícil expresar su preocupación por algunos de los riesgos más graves de la IA avanzada” como si hay cosas que no pueden decir en público. También es posible pensar que se dejaron llevar por un pánico irracional, aunque es difícil pensarlo de un grupo que incluye eminencias científicas que ganarían mucho más dinero en un mercado no regulado que en uno regulado.
El volumen de capital físico y humano que se volverá obsoleto y la capacidad de promover mentiras e inyectar odio en las masas aumentarán exponencialmente. En todo caso, no parece prudente ignorar las advertencias de las personas que han inventado la misma AI. ¿Qué se puede hacer para evitar caer en la Torre de Babel? Recordar que, al menos en esas dimensiones, los que controlan los robots no pueden hacer nada si nosotros no estamos dispuestos a creer todo lo que se dice en la internet. Los chatbox pueden destruir a la humanidad sólo si nosotros nos dejamos. No se deje manipular.
Manuel Hinds es Fellow del The Institute for Applied Economics, Global Health, and the Study of Business Enterprise de Johns Hopkins University.