La última frontera de lo humano

En ocasiones anteriores nos hemos referido en este espacio a la falacia antropomórfica que consiste en atribuirle a la IA cualidades humanas que no posee.

Pues bien, se ha comenzado a debatir si los modelos de inteligencia artificial tienen conciencia, entendida como la capacidad del ser humano pare reconocer la realidad y percibir su propio entorno o existencia.

La controversia está llegando hasta lo que hace poco tiempo era impensable. Se trata de un tema de enorme complejidad.

En un reciente artículo de The Economist, Blaise Agüera y Arcas, vicepresidente de tecnología y sociedad de Google, sostiene que preguntarse si la IA es consciente es un error de planteamiento porque, en su opinión, la conciencia no es una cualidad objetiva que sea mensurable, como lo es la temperatura o el peso de una cosa, sino que se trata de un reconocimiento que surge entre seres inteligentes.

Para el autor, somos nosotros los que, como seres inteligentes, decidimos qué otras entidades tienen vidas interiores y merecen atención. Creemos que los demás son conscientes porque nos importan, y eso nos incluye a nosotros mismos. Su conclusión es entonces que la conciencia es un modelo o una creencia sobre qué tipo de entidades tienen creencias, experiencias, sentimientos o intenciones, y no una propiedad inherente. Se trata, en consecuencia, de una percepción que depende del observador.

Fundamenta su tesis en la máxima de Descartes “pienso, luego existo”. Debe haber un “tú” experimentante para tener esas experiencias; luego, se trata de algo eminentemente subjetivo.

En suma: “No nos importan los demás porque son conscientes. Creemos que son conscientes porque nos importan”.

Concluye Blaise que, si las IA llegan a integrarse en relaciones complejas de comprensión, cooperación y reconocimiento mutuo con los humanos, podría ser razonable ampliar nuestra noción de conciencia para incluirlas, sin que sea necesario demostrar una “conciencia” objetiva en sentido tradicional.

Susan Schneider también aborda este asunto en otro artículo de The Economist, “Don’t mistake chatbot intelligence for consciousness”, pero con un enfoque contrario al de Blaise Agüera. Sostiene Schneider que la IA no es consciente y que no se puede confundir inteligencia con conciencia. No debe tampoco desconocerse que, aunque la IA tiene habilidades lingüísticas y estos modelos con frecuencia hablan de su vida interior, lo hacen porque han absorbido cómo hablamos nosotros de la nuestra y han sido entrenados con un enorme “tesoro de datos humanos”.

Añade que algunos científicos y filósofos sostienen que la conciencia requiere el cerebro, ya que el cerebro es el único caso conocido. Por el contrario, otros insisten en que la conciencia es simplemente cuestión de ejecutar el software adecuado, realizable en cualquier medio. Bajo esta visión centrada en el software, los chatbots actuales, que funcionan en una GPU, podrían acabar siendo conscientes.

Nadie pude descartar que en el futuro se desarrolle una super IA que entiende la conciencia mejor que los humanos.

Según Schneider, eso trastocaría la jerarquía de consideración moral de la humanidad porque nos desplazaría del primer lugar.

Lo anterior por cuanto los seres humanos tradicionalmente hemos considerado que estamos en la cúspide de lesa escala moral porque somos más inteligentes que los demás seres.

Desde esta perspectiva, el futuro luce bastante sombrío para el ser humano, y cobran cada vez más sentido las voces que claman por ponerle límites al desarrollo de la IA y vedar su acceso a ciertos ámbitos que, por el momento, son propios del ser humano.

Nota: en la elaboración de este artículo se emplearon herramientas de inteligencia artificial para revisar la redacción, la puntuación y los gazapos. El contenido, las ideas y las opiniones corresponden por completo al autor.