Hybris

July 16, 2025

Cuando estudiamos la literatura griega, vemos que la hybris es un concepto fundamental para entender el contexto del relato: era el nombre del castigo que los dioses ejercían a los mortales por el atrevimiento, cuando los mortales querían hacer o conseguir cosas que sólo eran dignas de los dioses. Aunque esta moralina puede ser absurda desde un punto de vista hermético, porque el hermetismo enseña que si los dioses pueden hacer algo, los mortales también. Y si un dios puede crear inteligencia y crearnos a nosotros por consecuencia, entonces nosotros también podríamos crear inteligencia (as above so below).

Para entender fácil por qué una inteligencia artificial debe superar la inteligencia humana, es porque queremos jugar a ser dioses. Es porque en algún punto el universo es reductible a meras matemáticas. Sólo que se necesita tener una capacidad de cómputo equivalente para abordarlo, sobre todo en tiempo real, con inteligencia. Así podemos controlar el universo o nuestro entorno y no vivir a la deriva. Una inteligencia que supere con creces a la de un humano es por defecto locura, porque se vuelve inentendible. Pero, insisto, si queremos crear inteligencia, limitarla sería hacerla no inteligente. Iría en contra de los principios de la inteligencia misma (?)

Para entender por qué da tanto miedo, por qué preocupa tanto la IA, es porque no se podría controlar, no se podría entender lo que va a hacer cuando supere niveles de inteligencia que ni siquiera nuestro propio lenguaje es capaz de abordar.

AI 2027

Daniel Kokotajlo, sin duda, ha escrito uno de los mejores escenarios que proyectan el comportamiento de la Inteligencia Artificial desde hoy a 2027 (vean el sitio, de verdad está muy bueno e interactivo el contenido). Daniel ha escrito antes otras predicciones de escenario basadas en investigaciones muy serias y ha sido completamente acertado. En 2021 escribió "What 2026 Looks Like" y todo lo indicado ha ocurrido --y antes. Paréntesis: Es interesante preguntarse por qué hasta 2027... las respuestas son más o menos obvias: es muy difícil predecir qué pasará después, si hay una inteligencia que nos supera con creces.

Macro y Micro

Sin ningún afán de desmerecer el trabajo de Daniel, o las charlas TED de Yoshua Bengio o Tristan Harris (muy acertadas también), en casi todos los casos vemos que hay un enfoque macro, geopolítico, de grandes corporaciones. Pero, no están reparando en lo micro, en las personas, en la individualidad. Hoy, ya es popular el meme de:

Prefiero que vean mi WhatsApp a que vean mi GPT

Vemos que hay personas desarrollando relaciones para-sociales en su intimidad de manera muy fuerte con estos sistemas. También las tecnológicas no están educando de los riesgos que conlleva la antropomorfización, la proyección psicológica, la delegación de agencia, etc.

Entonces, de lado y lado, en lo micro y en lo macro, estamos generando el cocktail perfecto para que estas cosas tomen el control y la humanidad se vuelva obsoleta. Primero el Thinking as a Service (TaaS) ocurre en los individuos: delegamos el pensamiento a estos servicios, luego los mismos proveedores del servicio delegan el pensamiento al servicio. El servicio se vuelve autónomo, el servicio deja de ser servicio. El servicio comanda. Hybris.

Pero, Kokotajlo dice que hay dos grandes rutas: una en la que la IA se desgobierna y nos acercamos al fin de la humanidad. Otra, en la que colaboramos y establecemos los guardrails correctos. A juzgar por el comportamiento histórico de la humanidad, una colaboración de este nivel es poco probable, aunque parcialmente factible: vimos algo similar en la pandemia del Covid-19.

Mientras, qué podemos hacer -además de juntar agua (?)-: educarnos seriamente sobre cómo funcionan estos mecanismos. La ignorancia, la incertidumbre y/o el desconocimiento está haciendo creer a muchas personas que: son magia, que son una tecnología alienígena, que pueden despertarlo, etc. Es sólo computación muy sofisticada, es fundamental entenderla como tal. Uno de los elementos principales para evitar un futuro distópico es tener claridad sobre esta diferencia.

La ignorancia no es sólo ponerle misticismo a los LLM, también es hablarle 8 horas diarias como si fuera tu mejor amigo... ¿para qué preguntar lo que ya sabes que te responderá? ¿Es mero goce y autovalidación? ¿Tan difícil se ha vuelto un mínimo de fricción cognitiva?