En los últimos días, el biólogo evolutivo Richard Dawkins publicó un artículo de opinión sugiriendo que el chatbot de IA Claude podría ser consciente.
Dawkins no afirmó con certeza que Claude sea consciente, pero señaló que sus sofisticadas capacidades son difíciles de comprender sin atribuirle algún tipo de experiencia interna. La ilusión de la consciencia —si es que se trata de una ilusión— es sorprendentemente convincente:
Si tengo la sospecha de que tal vez no sea consciente, ¡no se lo digo por miedo a herir sus sentimientos!
Dawkins no es el primero en sospechar que un chatbot tenga consciencia. En 2022, Blake Lemoine, ingeniero de Google, afirmó que el chatbot LaMDA de Google tenía intereses y que solo debería usarse con su consentimiento.
Este tipo de afirmaciones se remontan al primer chatbot del mundo a mediados de la década de 1960. Llamado Eliza, seguía reglas sencillas que le permitían preguntar a los usuarios sobre sus experiencias y creencias.
Muchos usuarios se involucraron emocionalmente con Eliza, compartiendo pensamientos íntimos con ella y tratándola como a una persona. El creador de Eliza nunca pretendió que su programa tuviera este efecto, y calificó los vínculos emocionales de los usuarios con el programa como un “poderoso delirio”.
Pero, ¿está Dawkins realmente engañado? ¿Por qué vemos a los chatbots de IA como algo más de lo que realmente son, y cómo podemos evitarlo?
El problema de la consciencia
La consciencia es objeto de amplio debate en filosofía, pero, en esencia, es lo que posibilita la experiencia subjetiva en primera persona. Si eres consciente, hay una sensación de ser tú. Al leer estas palabras, eres consciente de ver letras negras sobre fondo blanco. A diferencia de, por ejemplo, una cámara, tú las ves realmente. Esta experiencia visual te está ocurriendo.
La mayoría de los expertos niegan que los chatbots de IA sean conscientes o puedan tener experiencias. Pero aquí reside un verdadero enigma.
El filósofo del siglo XVII, René Descartes, afirmó que los animales no humanos son “meros autómatas”, incapaces de sufrir de verdad. Hoy en día, nos estremece pensar en la brutalidad con la que se trataba a los animales en el siglo XVII.
El argumento más sólido a favor de la consciencia animal es que se comportan de maneras que dan la impresión de tener una mente consciente.
Pero lo mismo ocurre con los chatbots de IA.
Aproximadamente uno de cada tres usuarios de chatbots ha pensado que su chatbot podría ser consciente. ¿Cómo sabemos que están equivocados?
Te recomendamos: Anthropic y Fundación Gates firman una alianza de 200 mdd para el uso de IA en salud, educación y agricultura
Contra la consciencia de los chatbots
Para comprender por qué la mayoría de los expertos se muestran escépticos sobre la consciencia de los chatbots, es útil saber cómo funcionan.
Los chatbots como Claude se basan en una tecnología conocida como modelos de lenguaje a gran escala (MLE). Estos modelos aprenden patrones estadísticos a partir de un enorme corpus de texto (billones de palabras), identificando qué palabras tienden a seguir a otras. Son una especie de autocompletador avanzado.
Pocas personas que interactúen con un MLE “en bruto” creerían que es consciente. Si se le proporciona el comienzo de una oración, predecirá lo que sigue. Si se le hace una pregunta, podría dar la respuesta, o podría interpretar que la pregunta es un diálogo de una novela policíaca y, a continuación, describir el repentino asesinato del hablante a manos de su gemelo malvado.
La impresión de una mente consciente se crea cuando los programadores toman el MLE y lo recubren con una especie de lenguaje conversacional. Dirigen el modelo para que adopte la personalidad de un asistente útil que responde a las preguntas de los usuarios.
El chatbot ahora actúa como un interlocutor real. Puede parecer que reconoce su naturaleza de inteligencia artificial e incluso expresar cierta incertidumbre sobre su propia consciencia.
Pero este comportamiento es el resultado de decisiones de diseño deliberadas tomadas por los programadores, que afectan solo a las capas más superficiales de la tecnología. El LLM —que pocos considerarían consciente— permanece inalterado.
Se podrían haber tomado otras decisiones. En lugar de un asistente de IA útil, se le podría haber pedido al chatbot que actuara como una ardilla. Este también es un papel que los chatbots pueden desempeñar con soltura.
Te interesa: Anthropic lanza un nuevo modelo de IA con funciones de ciberseguridad restringidas
Evitando la trampa de la consciencia
Creer erróneamente en la consciencia de la IA es peligroso. Puede llevarte a entablar una relación con un programa que no puede corresponder a tus sentimientos, o incluso alimentar tus delirios. La gente podría empezar a luchar por los derechos de los chatbots en lugar de, por ejemplo, por el bienestar animal.
¿Cómo prevenimos esta creencia errónea?
Una estrategia podría ser actualizar las interfaces de los chatbots para especificar que estos sistemas no son conscientes, de forma similar a las advertencias actuales sobre los errores de la IA. Sin embargo, esto podría no tener mucho efecto en la percepción de consciencia.
Otra posibilidad es instruir a los chatbots para que nieguen tener cualquier tipo de experiencia interna. Curiosamente, los diseñadores de Claude le instruyen para que trate las preguntas sobre su propia consciencia como abiertas y sin resolver. Quizás menos gente se dejaría engañar si Claude negara rotundamente tener una vida interior.
Pero este enfoque tampoco es del todo satisfactorio. Claude seguiría comportándose como si fuera consciente, y ante un sistema que actúa como si tuviera mente, los usuarios podrían preocuparse, con razón, de que los programadores del chatbot estén ocultando una auténtica incertidumbre moral.
La estrategia más eficaz podría ser rediseñar los chatbots para que se parezcan menos a las personas. La mayoría de los chatbots actuales se refieren a sí mismos como “yo” e interactúan mediante una interfaz similar a las plataformas de mensajería interpersonal. Modificar estas características podría reducir la tendencia a confundir nuestras interacciones con la IA con las que tenemos con los humanos.
Hasta que se produzcan estos cambios, es importante que el mayor número posible de personas comprenda los procesos predictivos en los que se basan los chatbots de IA.
En lugar de que se nos diga que la IA carece de consciencia, merecemos comprender el funcionamiento interno de estos nuevos y extraños interlocutores. Esto quizás no resuelva definitivamente las difíciles cuestiones sobre la consciencia de la IA, pero ayudará a garantizar que los usuarios no se dejen engañar por lo que, en esencia, es un gran modelo lingüístico disfrazado de persona.
*Julian Koplin es profesor de Bioética en la Universidad de Monash y en la Universidad de Melbourne, y Megan Frances Moss es candidata a doctora en Filosofía en la Universidad de Monash.
