La autoridad epistémica de la billetera

Motivado por una reciente publicación de una de mis más queridas amigas y profesoras (Lía), es que volví a leer Asimov con el mismo interés que hace más años de los que voy reconocer, pero ahora poniendo atención en algunos pasajes que quisiera traer a colación.

Y es que menos conocida que la saga de La Fundación, es la saga de los Robots, pero de contenido mucho más sustancioso para los tiempos que corren. Los acontecimientos allí relatados son cronológicamente muy anteriores a los de la Fundación, de cuando La Tierra era un planeta sometido al yugo de los 50 mundos de los Espaciales. Esta raza de humanos modificados genéticamente había logrado colonizar estos 50 mundos gracias a que eran expertos diseñadores y programadores de robots. 

Mientras en la Tierra los robots habían sido abolidos, los Espaciales los usaban para todo tipo de tareas domésticas mientras estos se dedicaban al ocio y la comodidad, a la vez que trataban de resolver los problemas sociales que este modo de vida ocasionaba,  con situaciones de lo más terrenales y telenovelescas que se puedan imaginar.

Los Espaciales delegaban todas las tareas en sus robots. Los Robots sembraban, cosechaban y preparaban los alimentos para sus amos, realizaban el mantenimiento de las casas y jardines, se encargaban de las reparaciones, de la educación y del entretenimiento. Tenían a su cargo la salud de los habitantes en todos los aspectos, lo que dió a los Espaciales vidas que duraban en promedio varios siglos terrestres. Y así y todo, se cuenta que en Solaria se había llegado al extremo en el que un Espacial podría vivir toda su vida sin necesidad de entrar en contacto físico con otro Espacial. ¡Y estaban orgullosos de eso!

Tal era la dependencia de los Espaciales, que habían aprendido con el tiempo a comandar a sus robots con una eficacia remarcable. Cuentan algunos pasajes de “Robots del Amanecer”, “Bóvedas de acero” y de “El sol desnudo”, que algunos Espaciales eran particularmente buenos en dar órdenes a los robots, de modo tal que sabían qué palabras usar y en qué orden para lograr que estos hagan exactamente lo que deseaban. 

Qué quieren que les diga, esto apesta a prompt engineering ¯\_(ツ)_/¯ pero Asimov lo describe en 1983. Chapeau. 

Fue esta misma dependencia en sus robots lo que llevó eventualmente a los Espaciales a su extinción y a la emancipación de los terrícolas y posterior colonización de la galaxia por parte de estos últimos. Pero la extinción de los Espaciales no fue producto de que los robots se revelaran contra sus creadores. Las leyes de la robótica establecían límites infranqueables a lo que podían hacer los robots. Por el contrario, fueron los propios Espaciales los responsables de su propia extinción. Se quedaron cómodos en sus mundos, en los que no les faltaba nada más. El individualismo, puesto de manifiesto en el que el objetivo de la sociedad Espacial era bienestar personal, y la falta de necesidades fue lo que llevó eventualmente a esta civilización a la ruina. Dejaron de pensar por sí mismos.Ya no lo necesitaban.

Y es esta incapacidad de pensar la que hoy me preocupa. No por que no queramos hacerlo sino porque quién puede ponerse a pensar en otras cosas cuando debe sopesar la decisión de aumentar el saldo de la tarjeta de crédito para pagar las próximas comidas.

Somos unos cuantos privilegiados en este país los que podemos sentarnos a desayunar todas las mañanas, pensando en las cosas que dicen o dejan de decir quienes controlan el mundo y salen en los diarios. Si estás leyendo esto ahora mismo, tal vez seas uno de esos privilegiados.

Es sobre estas “no noticias” sobre las que quiero llamar a la reflexión. Una que se ha repetido durante ya algunas semanas pero que viene desde hace tiempo. Esto de que hay alguna probabilidad de que la Inteligencia Artificial destruya a la Humanidad. 

Muchos autores, algunos muy inteligentes han abordado el tema, empezando por Nick Bostrom y llegando hasta Stephen Hawking. Más de un periodista cita a Yoshua Bengio y a Geoffrey Hinton como fuentes acreditadas en estos temas, como si haber diseñado un motor los convirtiera inmediatamente en choferes excepcionales de fórmula 1. Otros autores y CEOs de grandes compañías dedicadas a lucrar con investigaciones en IA, han llegado a dar cifras de la probabilidad de que tal o cual evento pase en un futuro cercano. La última de estas cifras, de la que también se hace eco mi amiga, habla de un 10% de probabilidades de que la IA se cargue a la Humanidad. 

Si yo saliera a gritar esta u otra cifra a la calle, por los diarios, en mi canal de youtube o entre cervezas, cualquier persona sensata incluyendo a Lía me preguntaría “¿Cómo estás tan seguro?”. Y es que si, tendría que, de alguna manera, explicar cómo llegué a la conclusión de que existe tal probabilidad. Y si hablamos de probabilidades, no se llega de otra manera que haciendo cuentas. Es decir, que para convencer a mi amiga o a cualquier persona sensata, tendría que mostrarle las cuentas. Sin éstas, mi aseveración no pasa más que por una creencia, una intuición en el mejor de los casos, pero nada riguroso como “una probabilidad del 10% de que la humanidad sea destruida por la IA”. Y poniéndonos rigurosos, también podríamos preguntar ¿Cuál es el tamaño de las barras de error de tal número? ¿Qué es lo que realmente quiere decir esta aseveración? ¿Que una de cada diez veces que la IA tenga oportunidad de destruirnos, lo va a hacer? ¿Cómo se hace un experimento que verifique que tal probabilidad es concreta? ¿Le damos 100 oportunidades a la IA para que destruya a la Humanidad y nos fijamos cuántas de esas veces la IA efectivamente nos destruye?

Resulta que decir así livianamente “hay un 10% de que la humanidad sea exterminada por la IA” es un enunciado que no se puede falsear. Pero que además está escrito como si fuera cierto, de una manera particularmente asertiva. Algo a lo que las últimas aplicaciones basadas en grandes modelos de lenguajes nos tiene acostumbrados. Suceden así dos cosas. Una, como no se puede falsear, las discusiones alrededor resultan infructuosas y los pedidos de explicaciones (si fueran posibles, porque andá a pedirle a Altman que explique de dónde sacó tal o cual cifra) no terminan de convencer. Y dos, la manera en la que está expresada da la sensación de que es un hecho. No se pone en duda, no se indica la posibilidad de error. Y con esto no digo que no exista la posibilidad de que la IA nos lleve puestos. Digo que decir 10% o 90% da igual si no se explica cómo se obtuvo esa cifra, que es una creencia, un número dibujado, una corazonada o una intuición. Y dejo afuera “una estimación”, porque justamente una estimación tiene un método, un modelo para llegar a tal o cual cifra. La diferencia entre que lo diga yo o lo diga Elon Musk es el tamaño de la billetera que hay detrás. Claramente pareciera que Elon Musk tiene suficiente dinero para hacer posible cualquier cosa que diga. Pero esto es tener demasiada fe en la economía, para mi gusto. Qué decir, es un mal de nuestra época tener fe en las cosas equivocadas.

Pero es que una persona suspicaz no solo pondría en duda mi aseveración. También sometería a juicio mis intereses al expresarme así. ¿Cuál es el objetivo de entablar dicha discusión? ¿Tengo algún interés o preferencia política? ¿Estoy a favor o en contra de la regulación de la IA? ¿Qué pienso sobre la instalación de grandes centros de datos en territorio nacional? Es que 10% es un número muy bajo. ¿O es muy alto?¹

Todas estas dudas son genuinas, pero me parece que desvían el foco de nuestro escaso tiempo de reflexión hacía tópicos que las grandes billeteras quieren que discutamos, pero como decía, no llevan a ningún lado. Pareciera que estos temas se instauran en la opinión pública (aunque no se instauran solos y los periodistas hacen su parte agarrando alguna de estas sartenes por el mango) como si fueran los temas más importantes y urgentes a resolver. Y de nuevo, no me malinterpreten. No digo que estos temas no sean importantes. Digo que hay otros que lo son más.

Estas empresas y estas billeteras también tienen sus intereses y haríamos bien en preguntarnos cuáles son. ¿Estamos seguros de que nuestro amigo Amodei permitió a sus ingenieros aplicar marcas de agua en la salida de sus modelos de lenguajes para ayudar a identificar más fácilmente las noticias falsas que sus modelos generan?¿ o será más bien para poder identificar estos textos en el mar abierto de internet y así poder excluirlos de los datasets para entrenar sus futuros modelos?

¿Qué pasaría si en lugar de discutir si regular una tecnología como la IA, que hipotéticamente puede representar un riesgo para la Humanidad, usáramos nuestro escaso tiempo para la reflexión para encontrar mecanismos que nos permitan regular las tecnologías que ya, hoy mismo, son un peligro para la humanidad? ¿Es más probable que la IA destruya la Humanidad o que la instalación de un nuevo mega datacenter deje sin agua a varias ciudades a la redonda? ¿Por qué permitimos que empresas como Palantir puedan recolectar y traficar información (es ilegal bajo mucha de la legislación de varios países que se llaman serios, así que traficar es una palabra que describe bien el acto) con organizaciones militares de varias potencias como Estados Unidos o Israel, por fuera de cualquier legislación y más allá de cualquier escrutinio ético o moral? ¿Por qué permitimos que se hagan campañas políticas usando deep fakes sin que los partidos a quienes beneficia sufran absolutamente ninguna consecuencia? ¿Por qué dejamos que empresas como Flock operen sin regulación cuando ya hubo casos de violaciones a la intimidad que no fueron perseguidos o sancionados?

Hoy en día, que yo diga que hay un 10% de probabilidades de que corramos el mismo destino que los Espaciales tiene la misma validez que cualquiera de las probabilidades que los grandes magnates puedan asignarle a que la IA nos destruya. El tamaño de la billetera del enunciante (por más poder económico o político que esto otorgue) no debería pesar más a la hora de creer menos o más en una cosa o en la otra, por que justamente son creencias. Elige tu propia aventura.

Ahora, mientras discutimos lo segundo, estaremos discutiendo lo que estas billeteras quieren. Que no nos pase como a los Espaciales y nos extingamos por dejar de pensar por nosotros mismos. Nuestro tiempo para la reflexión es un bien escaso. Elegir sabiamente los problemas a encarar es importante para no malgastarlo en discusiones superfluas.