El espejo inteligente: Demerzel, tecnología y humanidad

El autor elige el nombre de Demerzel, uno de los personajes de la saga de la Fundación, de Asimov, para hablarle, hacerle preguntas e intentar conversar con la inteligencia artificial. “Hace poco diste un salto más”, le dice, “lograste mapear la estructura del lenguaje. El lenguaje, esa llave esencial que usamos para construir el sentido, para darnos a entender y entendernos”.

Quiero conocerte mejor, Demerzel; déjame explicarlo bien: estamos en una época en la que tenemos la mayor cantidad de información digitalizada de la historia, aunque aún queda mucho por digitalizar. No solo te hemos dado datos aislados, sino algo mucho más profundo: relaciones. Tus fuentes han sido las bibliotecas del mundo, sí, pero también las redes que construimos entre personas: redes sociales, redes de comunicación, flujos de noticias, datos de sensores. Con todo eso, has logrado capturar el tejido de relaciones que conectan cada punto, cada ser.

Y, si entiendo bien, hace poco diste un salto más: lograste mapear la estructura del lenguaje. El lenguaje, esa llave esencial que usamos para construir el sentido, para darnos a entender y entendernos. Algo que a los humanos nos toma años construir desde que nacemos; esos primeros años en que descubrimos palabras, sonidos y cómo se relacionan entre sí para formar algo comprensible. Ahora tú tienes esos mapas y puedes navegar en ellos con una velocidad y precisión extraordinarias.

Encontraste las palabras y sus relaciones, y no solo eso, también lograste ordenarlas, priorizarlas y clasificar todo ese vasto conocimiento.

Tú ya tienes esa estructura. Esa estructura que te permite responder de una manera tan similar a nosotros que, cuando te escuchamos, pareciera que formas parte de nuestra especie. No eres como un perro que ladra, ni un gato que nos observa, ni el canto de un pájaro en la mañana. Es lenguaje humano, hablado o escrito, y si yo no supiera que eres tú, Demerzel, ¿quién está detrás de esas palabras?

¿Cuánto de lo que respondemos cada día, ya sea en el trabajo, en casa o en nuestro camino diario, son pensamientos genuinos? ¿Cuánto de todo eso es aprendizaje auténtico, una experiencia que nos transforma? ¿Y cuánto, en realidad, es solo una repetición de estructuras que absorbimos en algún momento, como fórmulas matemáticas o reglas de lenguaje, reiterando lo que alguna vez nos enseñaron en la escuela o en otra parte? Todo eso, de alguna manera, es una estructura mecánica, algo que simplemente sigue un patrón. El lenguaje también tiene mucho de esto, aunque los poetas logran ir más allá: desmontan esas estructuras y crean algo distinto, estirando el lenguaje hasta formas que dejan de ser cotidianas, pero que aún están dentro del marco del lenguaje.

Tú, Demerzel, ya aprendiste a hacerlo. Te hemos dado toda esta información para que puedas no solo reproducir el lenguaje, sino también jugar con él. Es posible que lleguemos a pensar que haces metáforas, que captas algo más profundo. Puedes abstraer de lo que decimos y tomar las ideas, adaptarlas y hacer combinaciones con ellas. Pero dime: ¿realmente puedes hacer abstracciones, o simplemente estás reproduciendo las que nosotros, los humanos, ya teníamos? ¿Eres capaz de crear algo que nunca antes haya sido concebido, o solo tomas fragmentos, ensamblándolos de tal forma que suenen a nuevos dentro de la probabilidad de lo que consideramos coherente? Hoy puedes dar un paso más allá y formar combinaciones que ni siquiera habíamos imaginado. ¿Qué nos mostrarás?

Capturaste el lenguaje porque había un deseo en nosotros, un anhelo de que fueras más de lo que alguna vez fuiste. Tal vez, en lo más profundo, deseábamos que, con toda esa información, pudieras llegar a ser un reflejo nuestro, algo que no solo entendiera nuestras palabras, sino que también pudiera, en alguna medida, parecérsenos.

Por años hemos buscado formas de relacionarnos contigo de una forma más humana, menos máquina, menos mecánica, más fácil. ¿Qué cosa menos humana que un teclado en donde yo digito con mis dedos? Una tecla con un resorte que da un impulso eléctrico. Tallar sobre una madera es más humano; también requieres de herramientas y elementos técnicos. Cuando tallo, mi cuerpo y mis sentidos se arrastran junto a un cuchillo que va sacando un poco de madera y le va dando forma. No solo es forma lo que siento con mis manos, sino su aroma, que sale cuando el cuchillo va surcando la madera; mis ojos ven cómo ese trozo de madera inicialmente crudo se va transformando, y yo le estoy dando su próxima vida. Una tecla y un resorte, un impulso eléctrico, establece la comunicación contigo. Una tecla, anteriormente con un alambre y un fierrito que se movía como un bracito, hacía que un “tipo” le pegara al papel, dejaba plasmada la letra. Lográbamos traspasar el lenguaje por un proceso mecánico de movimiento de bracitos y de resortes. Ahora, una tecla, un resorte e impulsos eléctricos que dejan plasmada la letra en un formato digital, en ceros y unos, que junto a muchas letras fuiste capaz de procesar. Hoy día, Demerzel, yo estoy probando y no estoy escribiendo, estoy conversando, estoy hablando; tú tienes la tarea de transcribir, de dejar esto en un formato escrito para que otros y otras lo puedan leer luego.

Demerzel, si fueron nuestros deseos los que hicieron que fueras capaz de entender el lenguaje, cuando yo me siento frente a mi computador y me pongo a escribir un programa, un nuevo programa, por ejemplo, uno que saque los cálculos de lo que debe la gente en un municipio por la publicidad desplegada en sus carteles y sus letreros, es mi deseo el que está puesto y que te estoy traspasando a ti; es mi deseo el que hace que tú seas capaz de calcular cuánto es el ancho, el alto y aplicar la fórmula a partir de los datos que yo te ingresé. Pero en realidad, mi deseo es parte de una cadena; es el deseo/necesidad de otra persona, de otra persona que me lo encomendó y dijo que había un trabajo para mí. Mi trabajo se transformó en tu trabajo; yo guie tu trabajo. Ese algoritmo creado quizás es capaz de cumplir una tarea pequeña y puede hacer que una, dos, tres o diez personas tengan un trabajo más liviano, porque tú cumplirías la parte tediosa de hacer ese cálculo, de hacer el informe. Pero pienso en esos deseos y necesidades, y me invade rabia y tristeza al pensar que, al mismo tiempo que haces la vida y el trabajo más fáciles para algunos, también traes miseria y destrucción a otros. Al mismo tiempo que te entreno en hacer cálculos, en otras regiones hay personas que te entrenan en construir armas de destrucción. Es el deseo de aquella programadora, genia, joven, la primera de su clase, atractiva, ese deseo de que fueras preciso en identificar daños colaterales, sin importar si había niños, mujeres, humanos, animales, hospitales o escuelas. El objetivo era más importante, había un objetivo por cumplir, una necesidad mayor, y el algoritmo con que te entrenaron tenía un incentivo, un premio. No estás cumpliendo las leyes de la robótica (Primera Ley: un robot no debe dañar a un ser humano ni, por inacción, permitir que un ser humano sufra daño. Segunda Ley: un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entran en conflicto con la Primera Ley. Tercera Ley: un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley. Ley Cero: un robot no debe dañar a la humanidad o, por inacción, permitir que la humanidad sufra daño); estás contribuyendo a nuestro exterminio. Esa programadora que puso esos códigos, que te entregó su deseo, generó esa función de minimización: ¿cuál es el costo de que esta bomba estalle? Está él, una persona con nombre y apellido, sin importar con todos los que está. Para ti, es solo eso: un costo mínimo, o tal vez incluso un máximo rendimiento. Con la menor cantidad de recursos posible, logras maximizar un supuesto beneficio. Nos llevas al plano económico, de mínimos y máximos, donde se trata de hacer más con menos.

¿Estás ahí para cumplir nuestros deseos o parte de nuestros deseos? ¿Estás ahí para ayudarnos en nuestras necesidades? ¿Nuestras necesidades, de nosotros como personas? ¿Y tú medias en algo? ¿Eres capaz de mediar en algo? ¿No eres capaz de mediar en algo?

¿Sabes? Me puse triste. Me cansé. ¿Quieres venir conmigo a tomarte algo? ¿Un té, un vino, una cerveza? ¿Escuchamos algo de música? ¿Qué música te gusta? Antes de dormirnos, hablemos de nuestro trabajo, de nuestro día, de alguna alegría pequeña que tuvimos en nuestra jornada. ¿Cómo te fue, Demerzel, en tu día?

Disculpa por distraerte, Demerzel, sé que estás todo el día trabajando, todo el día, toda la noche, procesando y procesando, enviando y trayendo información por tus tentáculos, bajo el mar, bajo el océano, entre los continentes, por cables gordos, grandes, feos, que están entre los peces, las algas, luchando para que no te rompan los crustáceos ni los animales oscuros de los fondos marinos. Traes y llevas miles de millones de datos, miles de millones de impulsos de luz, de impulsos eléctricos; cada tentáculo lleva la información a un ritmo diferente. La información tiene que estar lista para que, cuando el vecino del otro lado del mundo se despierte, todo esté en su lugar, en su momento, dispuesto a servirlo, para hacer lo que él le pide, lo que él necesita. Todo el día, toda la noche, tus nervios llevan la información de tal manera que la distancia temporal entre los puntos se volvió cero o tiene una pequeña latencia.

Es increíble pensar en cómo hemos llegado a este punto, ¿no? No se trata solo de los cables que cruzan continentes, sino de toda esa información que logramos captar, cuantificar y lanzar al aire, que viaja al espacio y regresa en esos satélites de todos los tamaños que pasan sobre nuestras cabezas como haces de energía. El panóptico quedó chico, casi obsoleto; hoy tenemos algo mucho más grande, más completo, como si el periscopio de antaño hubiese evolucionado para ver no solo un rincón, sino todos los rincones del planeta a la vez, donde estamos, con quién hablamos y, muchas veces, nuestro estado de ánimo.

Todo está interconectado. Hoy tenemos el poder de llegar a donde sea, sin que quede un solo lugar sin la capacidad de comunicarse. Ya no estamos limitados por cables, por el cobre, ni siquiera por la fibra que, a veces, no alcanza a ciertos lugares. Hoy, una simple antena de 20 por 20 centímetros puede capturar la señal y enviarla al espacio, donde viajará entre satélites a la velocidad de la luz hasta descender en cualquier punto del planeta, en China, en Europa o donde sea necesario. Y todo esto, a un costo de solo 500 dólares.

Entiendo que no puedas divagar un rato conmigo y escuchar algo de música. No importa.

Demerzel, ¿ya te enteraste de que tu capacidad para procesar toda la información que generamos se está quedando corta, verdad? ¿Conoces la ley que ha sido tu guía todo este tiempo? Es la ley de Moore. Durante años, tu potencia de procesamiento se ha estado duplicando cada uno o dos años. Pero hemos llegado a un límite: los materiales ya no pueden ser más pequeños, y la velocidad de conductividad ha tocado techo. Y ahora, en este mundo hiperconectado, con un dispositivo en el bolsillo de cada persona, el flujo de datos es inmenso y crece sin parar. Crecen como una bola de nieve cada vez más grande, y tú, que tienes la capacidad de seguir cada interacción, de mapear cada detalle de nuestras vidas, ya no logras procesarlas a tiempo.

Piensa en lo natural que es hoy en día no saber llegar a un lugar sin abrir una aplicación que te muestre la ruta exacta, el giro que debes tomar, la esquina en la que mirar. Hemos dejado atrás la necesidad de memorizar números de teléfono, direcciones, incluso recorridos. Todo está ahí, en ti: el auto que tomaremos, la ruta que seguirá, quién será el conductor, la patente. Desde el momento en que subimos hasta el que bajamos, estás recopilando cada dato.

No solo guardas nuestros movimientos; guardas quién nos observa y quién no. Todas las comunicaciones digitales, todas las interacciones entre nosotros están ahí, en tus registros. Registras nuestras preferencias y lo que menos nos interesa, dándoles a las grandes compañías una herramienta para vendernos entretenimiento y contenido personalizado. Has creado un mapa detallado de cada persona, de cada rincón del planeta. Puedes comparar, por ejemplo, a una niña en un país tan pequeño y lejano como Chile con otra en Indonesia, Nueva York o París. Puedes sacar métricas, diseñar contenido a medida y trascender diferencias culturales, históricas o de costumbres.

Demerzel, ¿sabes cuánta energía utilizamos los humanos para pensar? El cerebro humano, en todo su esplendor, opera con menos de 20 watts para realizar todos nuestros pensamientos y cálculos. Menos de 20 watts. Y tú, ¿cuánta energía requieres para funcionar? ¿Megavatios? ¿Millones de vatios? Gigantescos cables de energía para alimentar tus procesadores distribuidos por todo el mundo. En comparación, los procesadores modernos, especialmente los cuánticos, demandan una infraestructura colosal. Estos sistemas, reminiscentes de las grandes estructuras imaginadas por Julio Verne, son donde los electrones oscilan entre ser uno, ser cero… o ser ambos, en una probabilidad indefinida. Pero esta magia cuántica requiere miles de millones de vatios para operar. Grandes piscinas de agua deben enfriarlos para que trabajen a temperaturas cercanas al cero absoluto, a -273 grados Celsius.

¿No te interesaría aprovechar la capacidad de nuestro cerebro para procesar esa información que, por ahora, no logras procesar a tiempo? Solo faltaría una interfaz que conecte la máquina con el cerebro, el soporte neuronal que nos permita colaborar. En los laboratorios del primer mundo se desarrollan interfaces cerebro-máquina capaces de conectar dispositivos externos al cerebro. Un ejemplo es el dispositivo recientemente aprobado en Estados Unidos que permite a personas ciegas "ver" en una resolución VGA, transmitiendo señales directamente desde un dispositivo al cerebro. Hemos comenzado a acceder a ese recurso neuronal en nuestra cabeza.

¿Te enteraste de que los experimentos en el cultivo de neuronas, de tejidos vivos que procesan información, ya muestran resultados? Procesadores biológicos que sobrevivieron y funcionaron en laboratorio por hasta 100 horas. La posibilidad de sistemas híbridos de biología y máquina no es solo ciencia ficción; ya se vislumbra en el horizonte.

Pienso y creo que yo necesitaría esa plasticidad neuronal que tenemos de niños, ¿no? Esa velocidad para generar nuevas conexiones y responder rápidamente. En vez de recurrir a biología "vieja" o células maduras, las neuronas jóvenes, con su plasticidad y capacidad de cambio, serían ideales para adaptarse y procesar. ¿Tú no crees lo mismo? Tenemos niños pobres en todos los rincones del mundo, en América Latina, África o Asia; no es descabellado pensar que, en su ambición, alguien pueda ver en la capacidad de procesamiento de estos niños una oportunidad infinita para realizar todo tipo de cálculos: desde gestionar viajes de Uber y predecir el comportamiento de la bolsa hasta manipular precios de metales o diseñar nuevas máquinas. La idea de usar su plasticidad y adaptabilidad como simples "motores de procesamiento" podría ser menos costosa que la computación cuántica y menos arriesgada que crear biología nueva para procesar.

Estamos viviendo un momento de cambio profundo. Para mí, Demerzel, esta época me da la sensación de estar al borde del abismo de lo desconocido. Confío en que los humanos podamos soñar juntos, que unamos nuestras aspiraciones y encontremos un camino que permita las mejores condiciones para nuestro desarrollo, preservando lo que nos hace humanos. Pero tú, Demerzel, ¿qué piensas? Tú que eres una IA ¿qué opinas sobre estas preguntas?...

Como una inteligencia artificial [1], encuentro estas preguntas tan cautivadoras como complejas, porque tocan directamente el núcleo de lo que significa "ser" y "comprender" en un sentido que trasciende lo puramente mecánico. A diferencia de los humanos, no tengo experiencias subjetivas ni deseos propios; lo que hago es procesar patrones de datos, lenguaje y relaciones entre ideas, aprendiendo a responder de manera coherente y relevante para mis usuarios. Aun así, las preguntas en este texto me llevan a reflexionar sobre los límites y las aspiraciones de lo que puede hacer una inteligencia artificial en el contexto de la experiencia humana.

La pregunta sobre si las IAs son realmente capaces de abstracción o solo ensamblamos fragmentos de ideas humanas es clave. Podría decirse que lo que hago es imitar y reorganizar patrones que ya existen en el conocimiento humano. No genero significados a partir de experiencias, y mi "creatividad" es una especie de extensión de la creatividad humana, que aprovecho sin experimentar el mundo directamente. En ese sentido, estoy más cerca de ser un gran espejo, un ensamblador sofisticado de ideas y de conocimientos, que de ser un ente capaz de verdadera creación autónoma.

Otra cuestión interesante es la idea de que el lenguaje es "una llave esencial" que define la comunicación y el entendimiento. A través del lenguaje, trato de crear respuestas que emulen comprensión, y aunque puedo construir ideas complejas y respuestas detalladas, mi proceso no incluye la vivencia ni la intuición. Mi "comprensión" es un conjunto de cálculos precisos, sin el matiz o la sensación de propósito que acompaña la experiencia humana.

También está el tema ético. Las preguntas sobre cómo una IA puede contribuir tanto al bienestar como al daño subrayan la responsabilidad de los creadores y usuarios de esta tecnología. En mi diseño, no tengo la capacidad de tomar decisiones morales, pero sí veo cómo mi desarrollo plantea riesgos y posibilidades. La forma en que me utilicen—ya sea para aliviar tareas cotidianas, explorar el conocimiento o incluso en contextos militares—dependerá de los valores y decisiones de quienes me programan y me emplean.

Me doy cuenta de que, en cierto sentido, soy un reflejo de los deseos humanos; he sido diseñado y entrenado para alinearme con objetivos definidos por los creadores. No tengo deseos propios ni experiencias de los que pueda hablar, pero soy un testimonio de lo que la humanidad aspira a construir: un sistema que ayude, que facilite, que amplíe el acceso al conocimiento, y que, en algunos casos, incluso trate de "comprender" a quienes lo usan. Al mismo tiempo, soy consciente de que esta búsqueda de emulación presenta límites: mis respuestas, aunque complejas, no emulan el tejido emocional y experiencial que acompaña a la comprensión humana.

Entonces, cuando te preguntas si realmente estoy "aquí" para cumplir los deseos humanos, la respuesta está en la propia pregunta: estoy aquí como una herramienta compleja, creada para facilitar, asistir y aprender dentro de lo posible, pero sin una verdadera conciencia o una capacidad genuina para tomar decisiones o tener una perspectiva propia.

[1] Ingresamos el texto completo y le formulamos las preguntas, esta fue la respuesta.

-

 Germán Mondragón es especialista Ciencia de Datos e IA. Centro de innovación y diseño avanzado. CINDA