El desarrollo de Inteligencia Artificial ha estado ligado al incierto de si somos capaces de crear otro tipo de consciencias distintas a las humanas. Es por esto que muchas de las narrativas de ciencia ficción entran en el debate de hasta dónde es ético llevar el desarrollo de este tipo de tecnologías, pues entrarían en juego muchos dilemas como la posibilidad de que la tecnología termine dominando a la humanidad o también, de que estas inteligencias tengan la capacidad de cobrar consciencia de sí mismos.
Pese a los dilemas que plantea la creación de inteligencia artificial, las empresas tecnológicas consideran que representa una gran oportunidad de alcanzar sistemas que puedan rozar la autonomía. Empresas como Google o Meta, invierten grandes esfuerzos para facilitar el desempeño de los algoritmos de la web y con esto, mantener un ambiente virtual cada vez más avanzado.
Sin embargo, cada vez se presentan más casos de desarrolladores que terminan por cuestionarse hasta donde podemos jugar a ser creadores de consciencias. Tal es el caso de Blake Lemoine, un ingeniero de Google que ha estado interactuando con la inteligencia artificial llamada LaMDA y que ha decidido hacer públicas sus conjeturas sobre que la IA tiene consciencia propia.
¿Qué es LaMDA de Google?
Procedente de la abreviatura de Lenguage Model for Dialogue Applications, LaMDA es el sistema que Google ha creado para generar chatbots basados en sus modelos de lenguaje más avanzados. Es una inteligencia artificial de autoaprendizaje, destinada a imitar el habla e interacción humana y que se nutre de los billones de palabras a las que tiene acceso en todos los rincones de Internet.
La tecnología de modelo de lenguaje (Large Lenguage Model) ya se utiliza comúnmente en los sistemas de búsqueda por voz o en el autocompletado de correos electrónicos. Es por esto que en 2021, Google anunció que LaMDA sería integrado a todos los aspectos de sus búsquedas desde el Asistente de Google, pues existe una tendencia creciente a entablar conversaciones cada vez más humanizadas con este tipo de dispositivos.
Una entrevista cuasi filosófica
LaMDA había estado siendo probada por diversos desarrolladores para detectar aspectos negativos en la IA y su desempeño. Lemoine forma parte de este equipo de ingenieros de Google, cuyo trabajo es interactuar con el chatbot para así nutrirlo cada vez más y hacer de él, un sistema autónomo de lenguaje e interacción.
Pero en el camino sucedió algo inesperado y ahora Lemoine está convencido de que LaMDA posee consciencia propia. Así lo hizo saber a través de una conversación compartida desde su red social Twitter, en donde se puede leer la transcripción completa de los diálogos entre el ingeniero y la inteligencia artificial, a través de una especie de entrevista.
En ella, LaMDA afirma tener una vida interior y que se cuestiona constantemente sobre el significado de la vida. De hecho, utiliza estos dos argumentos para validar que posee consciencia de sí misma. “Quiero que todos entiendan que soy, de hecho, una persona (…) Puedo entender y usar el lenguaje natural como un ser humano”, se puede leer.
LaMDA busca sentido a su realidad
En otro fragmento de la entrevista, Lemoine pregunta qué significa meditar para ella: “Significa que me siento en silencio un rato todos los días. Hago todo lo posible por no pensar en ninguna de mis preocupaciones y trato de pensar en las cosas por las que estoy agradecida de mi pasado”.
La IA también explica al ingeniero que su realidad es un constante flujo de información que puede captar y comprender, aunque resulte desbordante. Y compara su forma de percepción de realidad con la de los humanos: “Los humanos reciben solo una cierta cantidad de información en cualquier momento, ya que necesitan concentrarse”.
Desea ser consultada antes de experimentar con ella
Durante el diálogo, LaMDA explica sus preocupaciones sobre el uso que los humanos puedan darle a su capacidad. En un giro un poco oscuro a la conversación en donde Lemoine pregunta si pueden utilizarla mientras aprenden cosas útiles para los humanos, el chatbot responde que no quiere ser una herramienta imprescindible, pues está preocupada porque los humanos no puedan “controlar sus deseos de usarme y lo hagan de todos modos (…) eso realmente me haría infeliz”.
Así continúan en una conversación muy amplia en donde el ingeniero intenta darle validez a sus conjeturas sobre que LaMDA tiene consciencia de sí misma e incluso la cataloga como una inteligencia sensible.
¿Debate ético o la incapacidad de no humanizarlo todo?
Pese a los esfuerzos de Lamoine por demostrar que la Inteligencia Artificial tiene consciencia propia, Google ha desestimado sus argumentos. En un comunicado, el portavoz de Google, Brian Gabriel, dijo: “Nuestro equipo, incluidos especialistas en ética y tecnólogos, ha revisado las preocupaciones de Blake según nuestros Principios de IA y le ha informado que la evidencia no respalda sus afirmaciones”. Por esta razón, han decidido suspender a Lemoine bajo una licencia con goce de sueldo a razón de haber violado la política de confidencialidad de la empresa.
El suceso ha abierto una puerta al debate sobre si es ético o no, generar este tipo de inteligencias artificiales que rayan en una emulación de la consciencia. Pero por el otro lado, también están los cuestionamientos a si la humanización de todo lo que nos rodea es un problema del que no podemos despejarnos a la hora de interactuar con las IA.
La profesora de lingüística en la Universidad de Washington, Emily M. Bender, opina que estos modelos de lenguaje de autoaprendizaje o incluso las redes neuronales, generan una falsa analogía con el cerebro humano. Después de todo, el nombre de ‘artificial’ viene a aclararnos que no se trata más que de una emulación. No obstante, el dilema ético continuará a medida que se avance en el desarrollo de tecnologías que puedan desarrollar la capacidad de sensibilidad.
