A quienes nos toca proteger.

En el año 2023 firmé la carta del Future of Life Institute. La misma carta que firmaron personalidades tan relevantes de nuestra actualidad como Yuval Noah Harari, Elon Musk, Steve Wozniak, Yoshua Bengio y Stuart Russell.

Este es mi cumpleaños número 49. Y en este momento de mi vida llevo más de dos décadas intentando proteger sistemas, activos de información e instituciones. En definitiva, personas. Es decir, intento hacer de nuestro mundo —mi mundo— un lugar un poco más seguro.

Entonces, no debería sorprender que cuando firmé esa carta haya tenido en mente esto mismo: proteger.

Una vez más, la humanidad juega a los dados con su supervivencia. En los últimos 100 años lo hemos hecho varias veces. Todas han sido un desafío. Y muchas veces ha sido, como ha planteado recientemente Harari, por estupidez.

Sin embargo, en mis años de experiencia profesional, a todos los niveles y en muchísimos ámbitos, así como en mi vida en general, he visto otros motivos. Dos: la ignorancia y el miedo.

Los primeros dos ejemplos que me vienen a la mente —y es importante aclarar que estoy escribiendo «como sale», sin pensar demasiado en la composición o la corrección, ni política ni literaria— son el miedo a que «otro gane» la carrera por el desarrollo de una tecnología poderosa que permita ejercer dominación y la ignorancia respecto de sus potenciales impactos, que nos impide definir con precisión cómo gestionar los riesgos asociados.

En casos como los de la energía nuclear, las armas químicas o los riesgos biológicos, hemos conseguido, momentáneamente, esquivar las balas.

El motivo por el que firmé aquella carta fue justamente ese: consideré que el miedo provocado por una ignorancia manifiesta y reconocida era perfectamente válido y, si cabe, inteligente.

Así como han sido —y son— impulsores del desastre, el miedo y la ignorancia también lo son de la supervivencia y la evolución. La ignorancia, cuando es consciente, impulsa la búsqueda del conocimiento y las respuestas a los vacíos que la sustentan. El miedo, en cambio, ha contribuido a la supervivencia de nuestra especie a lo largo de la historia.

Como en los otros casos, no sabemos lo que va a suceder. Y aunque hemos desarrollado métodos para la investigación del futuro y la reducción de la incertidumbre, mucho distan de darnos las certezas que nos servirían para aplacar algunos miedos muy profundos.

Pero sí nos hemos preparado. Nos hemos formado y, hasta cierto punto, hemos aprendido.

A lo largo de la historia, las sociedades han confiado, al menos en parte, las decisiones y las acciones relativas a incrementar sus estados de seguridad a quienes cuentan con aptitudes específicas para asumirlas. Y debemos poder hacerlo una vez más.

Como en otros ámbitos de la vida social, aquí es fundamental confiar estas tareas a quienes cuentan con las capacidades y la preparación necesarias.

Lo que he visto en estos más de tres años desde aquella carta es ignorancia y miedo. Miedo e ignorancia. Pero también he visto los esfuerzos de protección que algunos han impulsado como han podido. Algunos entre los que —por supuesto— me incluyo.

A nosotros, los que buscamos acercarnos a un estado de relativa seguridad y proveerla. A los que intentamos dimensionar las probabilidades para la toma de decisiones relativas a la protección. A los que intentamos convencer y demostrar los posibles impactos y los riesgos que debemos gestionar. Nos vuelve a tocar estar a la altura.

Hoy no pretendo impulsar una carta como aquella. Esta es mi carta. Una carta que no firmará nadie más que yo. Una carta en la que no convoco a las grandes desarrolladoras de IA, ni a los gobiernos a regularla, ni a los científicos y filósofos a opinar.

Convoco a mis colegas. Los protectores.

A nosotros nos toca buscar; saber. Sobreponernos al miedo que nos generan esas mismas dudas y, a veces, también nuestros conocimientos. Y contribuir, en la medida de los medios y las capacidades de cada uno, a reducir los riesgos de una tecnología cuyo desarrollo podría tener consecuencias profundamente beneficiosas, pero también, en escenarios extremos, irreversibles para la humanidad.

No creo que sea posible detener el desarrollo de la IA. Tampoco considero que sea necesario.

Pero sí es imprescindible ponernos a trabajar, muy seriamente, en seguridad.