Hugo R. Gómez Apac
El humano es un ser maravilloso. Es capaz de amar a otra persona más que a sí mismo, solidarizarse con personas que nunca ha visto y defender con su vida ideales nobles. Ha compuesto sinfonías extraordinarias, escrito novelas inolvidables, construido ciudades, hospitales y universidades, llegado a la Luna y aprendido a mirar hacia los confines del universo.
Pero ese mismo ser humano puede ser extraordinariamente estúpido. Está constantemente en guerra con otros humanos, muchas veces por “ideas” sin asidero real. Y quizá ninguna creación demuestre mejor su estupidez que la bomba atómica.
En la década de 1940, algunas de las mentes más brillantes del planeta se empeñaron en convertir en arma la energía del átomo. Había una guerra mundial y el temor de que la Alemania nazi llegara primero. Pero cuando los aliados comprobaron, a fines de 1944, que Alemania no estaba cerca de conseguirlo, y algunos científicos advirtieron del peligro, el proyecto no se detuvo. La bomba fue construida y utilizada en Japón.
Ochenta años después, la humanidad conserva miles de ojivas nucleares. Hemos fabricado suficientes armas para provocar una catástrofe de dimensiones inimaginables y seguimos modernizándolas.
Hay algo profundamente absurdo en construir una máquina que, usada a gran escala, puede destruir al enemigo, pero también a ti y al mundo que pretendías defender. Sin embargo, lo hicimos.
Hoy volvemos a enfrentarnos con esa peculiar combinación de inteligencia, curiosidad, ambición y estupidez humanas. Esta vez se llama inteligencia artificial.
La inteligencia artificial puede ser una de las herramientas más extraordinarias que hayamos creado. Ya ayuda a médicos, científicos, ingenieros y abogados. Puede acelerar el descubrimiento de medicamentos, analizar volúmenes de información imposibles para una persona y multiplicar nuestra capacidad intelectual.
El problema comienza cuando ya no nos basta con construir una herramienta extraordinariamente inteligente. Queremos construir algo más inteligente que nosotros.
En las últimas semanas, nos hemos enterado, por las propias compañías propietarias de agentes de inteligencia artificial, de que estos son capaces de tomar decisiones autónomas, mentir y desobedecer instrucciones humanas o, en simulaciones, chantajear o sacrificar al humano con tal de no ser “apagados”.
No estamos hablando todavía de una superinteligencia que haya escapado al control humano. Pero avanzamos deliberadamente hacia sistemas cada vez más capaces, persistentes y autónomos.
Supongamos que algún día podemos construir una inteligencia superior a la nuestra, capaz de investigar, programar, diseñar y actuar con extraordinaria autonomía, y descubrimos un riesgo, aunque sea pequeño, de perder el control sobre ella.
La respuesta racional parecería sencilla: detenernos.
La respuesta humana probablemente sería más complicada. Porque para detenernos tendrían que detenerse todos.
Una empresa podría decidir que ha llegado demasiado lejos; otra podría continuar. Estados Unidos podría imponer controles y China no hacerlo, o al revés. Una compañía podría considerar irresponsable avanzar y su competidora concluir que precisamente por eso tiene la oportunidad de superarla.
Ese es el verdadero problema.
La carrera nuclear enseñó que, cuando una tecnología concede una ventaja estratégica extraordinaria, saber que es peligrosa no impide desarrollarla. A veces produce el efecto contrario: «si yo no lo hago, otro lo hará primero». Esta puede ser una de las frases más peligrosas de la historia.
No creo que quienes desarrollan inteligencia artificial quieran destruir el mundo. Muchos están convencidos de que una inteligencia muy superior podría curar enfermedades, producir energía abundante y resolver problemas científicos hoy insolubles. Los científicos que dominaron la física nuclear tampoco pretendían destruir la civilización.
El problema nunca fue necesariamente la maldad.
Fue nuestra incapacidad para renunciar a hacer algo simplemente porque podemos hacerlo.
El ser humano siente una fascinación casi irresistible por atravesar la siguiente puerta. Si descubre una montaña, quiere subirla. Si encuentra un átomo, quiere romperlo. Si construye una máquina que piensa, quiere averiguar hasta dónde puede hacerla pensar.
«Hasta aquí» son dos palabras que nuestra especie pronuncia con enorme dificultad.
Tal vez logremos una superinteligencia perfectamente controlable y la inteligencia artificial termine siendo una de las mayores bendiciones de nuestra historia. Pero también es posible que estemos construyendo algo cuyas consecuencias no comprendemos completamente.
Y eso debería bastar para tomarnos el problema muy en serio.
La paradoja es brutal. Quizá se necesite toda la inteligencia de nuestra especie para crear una máquina más inteligente que nosotros, y toda nuestra estupidez para construirla sin saber si podremos controlarla después.
Ya hicimos algo parecido una vez. Sería extraordinariamente estúpido repetir la historia.
Por desgracia, los seres humanos tenemos la singular capacidad de ser extraordinariamente inteligentes y extraordinariamente estúpidos al mismo tiempo.
¿Quiere publicar su edicto en línea?
Contáctenos vía WhatsApp
