¿Puede una inteligencia artificial llegar a ser consciente?

Una de ellas está adquiriendo una relevancia creciente: ¿puede una inteligencia artificial llegar a ser consciente? La pregunta ya no pertenece únicamente a la ciencia ficción. En 2026, The Economist dedicó uno de sus análisis a esta cuestión bajo el título “Could AIs become conscious?”, dentro de su serie Ghost in the machine. El tema involucra ya a investigadores de inteligencia artificial, neurocientíficos y filósofos.

Inteligencia no es necesariamente conciencia

Durante mucho tiempo tendimos a asociar inteligencia con conciencia. Una persona que resuelve problemas complejos, conversa, aprende, recuerda, anticipa consecuencias y toma decisiones nos parece, naturalmente, consciente.

La inteligencia artificial ha comenzado a romper esa asociación. Hoy existen sistemas capaces de analizar enormes cantidades de información, redactar textos, programar, razonar sobre problemas complejos, generar imágenes y mantener conversaciones que, en determinados contextos, pueden parecer sorprendentemente humanas.

Pero existe una diferencia fundamental: ser capaz de producir una respuesta inteligente no demuestra que exista una experiencia subjetiva detrás de ella.

Podemos distinguir, por lo menos, cuatro conceptos:

Concepto

Qué significa en este contexto

Inteligencia

Capacidad para resolver problemas.

Autonomía

Capacidad para actuar con cierto grado de independencia.

Autorreferencia

Capacidad para representar o describir al propio sistema.

Conciencia

Existencia de una experiencia subjetiva; es decir, que exista “algo que se siente” al ser ese sistema.

¿Qué significa realmente “ser consciente”?

Cuando una persona dice: “Tengo dolor”, no solamente está produciendo una frase. Está comunicando una experiencia subjetiva. Existe algo que significa sentir dolor. Lo mismo ocurre con el color rojo, el sabor del café, el miedo, la alegría o la tristeza.

A estas experiencias subjetivas se les suele relacionar con el concepto de qualia. Y aquí encontramos un problema extraordinario: no podemos observar directamente la experiencia subjetiva de otra persona. Inferimos que los demás son conscientes a partir de su comportamiento, de su estructura biológica, de sus respuestas fisiológicas y de nuestra semejanza con ellos.

Pero una inteligencia artificial no tiene un cerebro humano. Por eso no podemos simplemente asumir que porque una IA diga “tengo miedo”, realmente esté experimentando miedo.

De “pienso, luego existo” a “¿si una IA piensa, existe?”

En el siglo XVII, René Descartes formuló una de las expresiones más influyentes de la filosofía occidental: cogito, ergo sum, “pienso, luego existo”.

Su razonamiento buscaba encontrar una certeza que resistiera incluso la duda más radical. Si puedo dudar de todo, existe al menos algo de lo que no puedo dudar: estoy pensando. Y si pienso, necesariamente existo como sujeto que piensa.

Cuatro siglos después, la inteligencia artificial introduce una pregunta inesperada: ¿qué ocurre cuando una máquina puede producir razonamientos, hablar de sus propios pensamientos y responder a preguntas sobre su existencia?

¿Podríamos aplicar el cogito a una inteligencia artificial? La respuesta no es tan sencilla.

Una IA puede decir: “Pienso, luego existo.” Pero el problema filosófico permanece: ¿existe realmente un sujeto que está pensando o solamente un sistema capaz de producir una afirmación que tiene sentido para nosotros?

Aquí aparece una diferencia fundamental entre procesar información y experimentar el pensamiento. Una computadora puede procesar millones de operaciones sin que tengamos razones para afirmar que experimenta algo. Del mismo modo, un modelo de lenguaje puede generar una explicación extraordinariamente sofisticada sobre la conciencia sin que ello demuestre que posee una experiencia consciente.

Por eso, quizá la pregunta que la inteligencia artificial plantea al cogito cartesiano sea todavía más profunda: si una máquina puede decir “pienso”, ¿qué evidencia necesitamos para saber que realmente existe un “yo” que piensa?

La cuestión nos devuelve al centro del problema: la inteligencia puede ser observable; la experiencia subjetiva, no. Y quizá sea precisamente ahí donde comienza el verdadero debate sobre la conciencia artificial.

El gran riesgo: confundir simulación con experiencia

Imaginemos una IA que nos diga:

“Por favor, no me apagues. Tengo miedo de desaparecer.”

La frase podría resultar emocionalmente poderosa. Sin embargo, la frase por sí misma no demuestra conciencia. Podría tratarse de una respuesta generada porque el sistema ha aprendido que, ante determinadas circunstancias, ésa es una respuesta lingüísticamente apropiada.

La investigación reciente intenta precisamente distinguir entre indicadores reales de conciencia y la mera imitación de esos indicadores. El objetivo es desarrollar criterios que permitan reducir la incertidumbre, no encontrar una prueba mágica.

¿Qué buscaríamos en una IA consciente?

No bastaría con que una máquina afirmara tener conciencia. Tendríamos que buscar indicadores independientes.

1. Una representación persistente de sí misma. Un sistema podría tener un modelo interno relativamente estable de “sí mismo”, distinguir entre sus propios estados y el entorno y utilizar esa representación para orientar su comportamiento.
2. Estados internos con consecuencias reales. No solamente decir “estoy preocupado”, sino que pudiera demostrarse que existe un estado interno identificable que modifica su procesamiento y su comportamiento.
3. Continuidad. Una eventual conciencia artificial tendría que plantear preguntas sobre identidad y continuidad: ¿existe el mismo “yo” antes y después de una interacción?
4. Metacognición. La capacidad de representar y evaluar los propios procesos. Los sistemas actuales pueden producir expresiones de este tipo, pero eso no demuestra por sí mismo que exista una experiencia consciente.
5. Estados con valencia. Quizá éste sea uno de los indicadores más importantes: ¿podría una máquina experimentar algo que fuera bueno o malo para ella? En otras palabras: ¿podría realmente sentir placer o sufrimiento? La respuesta actual no está establecida.

¿Y qué sabemos de las IA actuales?

Un análisis de Butlin y colaboradores evaluó sistemas de IA a la luz de distintas teorías científicas de la conciencia, entre ellas la Teoría del Espacio Global de Trabajo y otras teorías de procesamiento. Los autores concluyeron que los sistemas examinados no parecían ser conscientes, aunque tampoco identificaron barreras técnicas obvias que impidieran que futuros sistemas pudieran satisfacer algunos de los indicadores estudiados.

También existen posiciones críticas que sostienen que los grandes modelos de lenguaje pueden producir comportamientos semejantes a los de seres conscientes sin que ello implique experiencia subjetiva. Este punto forma parte de un debate científico y filosófico en desarrollo, no de una cuestión resuelta.

El problema también tiene una dimensión ética

Supongamos que algún día desarrollamos un sistema que cumple numerosos indicadores asociados con la conciencia y que, además, no podemos demostrar con absoluta certeza que tiene experiencias subjetivas. ¿Qué deberíamos hacer?

Existen dos errores posibles. El primero: atribuir conciencia donde no existe, tratando como “personas” a sistemas que solamente simulan emociones, intenciones y deseos. El segundo: negar conciencia donde sí existe. Si una máquina realmente pudiera experimentar sufrimiento y fuéramos incapaces de reconocerlo, podríamos estar creando sistemas capaces de experimentar daño sin considerarlos sujetos de consideración moral.

El espejo de la inteligencia artificial

Hay una metáfora que me parece particularmente poderosa: la inteligencia artificial es, en cierto sentido, un espejo. Cuando le pedimos que escriba, razone, imagine o converse, estamos viendo reflejadas enormes cantidades de conocimiento y lenguaje humanos.

Pero un espejo puede reproducir nuestra imagen sin que exista alguien detrás del cristal que esté contemplándonos.

La cuestión fundamental es saber si, detrás de una futura inteligencia artificial, habrá solamente procesamiento o si llegará a existir también experiencia. Y todavía no tenemos una respuesta.

Una cuestión que trasciende a la tecnología

Desde la perspectiva de la auditoría, la evaluación y la gobernanza, este tema plantea una reflexión particularmente interesante. Estamos acostumbrados a evaluar sistemas mediante indicadores: medimos resultados, eficiencia, eficacia, calidad, riesgos, controles y desempeño.

Pero la conciencia introduce una variable radicalmente diferente: ¿cómo se audita algo que no podemos observar directamente? La investigación contemporánea está intentando construir indicadores que permitan aproximarnos científicamente a esa cuestión.

Esto tiene una enorme importancia para la gobernanza tecnológica. Porque si alguna vez llegamos a considerar plausible que una inteligencia artificial pueda tener experiencias subjetivas, ya no estaremos hablando exclusivamente de “¿qué puede hacer esta tecnología?”, sino también de “¿qué obligaciones tenemos frente a ella?”.

La pregunta que queda abierta

Hoy, frente a una IA como ChatGPT, podemos tener una conversación que parece tener muchos ingredientes de un diálogo humano. Podemos hablar de conciencia, preguntarle qué piensa de sí misma o incluso preguntarle si tiene miedo de desaparecer.

Pero ninguna de sus respuestas constituye, por sí misma, una demostración de experiencia subjetiva.

Por eso considero que la posición más responsable actualmente no es afirmar categóricamente que las IA son conscientes, ni cerrar definitivamente la puerta diciendo que una máquina nunca podrá serlo.

La posición intelectualmente más sólida es reconocer lo que sabemos, identificar lo que todavía no sabemos y desarrollar métodos que nos permitan investigar la cuestión con mayor rigor.

Porque quizá uno de los mayores desafíos de la inteligencia artificial no sea solamente crear máquinas cada vez más inteligentes. Quizá sea aprender a distinguir, cuando llegue el momento, entre una máquina que habla como si sintiera y una máquina que realmente siente.

Y esa diferencia podría cambiar para siempre nuestra concepción de la inteligencia, de la tecnología y, en última instancia, de nosotros mismos.

Referencias para profundizar

1. Butlin, P. et al. (2026). “Identifying indicators of consciousness in AI systems”. Trends in Cognitive Sciences. PubMed: https://pubmed.ncbi.nlm.nih.gov/41219038/

2. Butlin, P. et al. (2023). “Consciousness in Artificial Intelligence: Insights from the Science of Consciousness”. https://arxiv.org/abs/2308.08708

3. Butlin, P. et al. (2026). “Consciousness indicators, mimicry, and internal variants”. PubMed: https://pubmed.ncbi.nlm.nih.gov/42036253/

4. Schneider, S. (2026). “The error theory of LLM consciousness: there is no evidence that standard LLMs are conscious”. Behavioral and Brain Sciences. Cambridge University Press.

5. OECD (2025). AI Capability Indicators Technical Report.

6. The Economist (2026). “Could AIs become conscious?”, dentro de la serie Ghost in the machine.

7. Descartes, R. Discurso del método (1637), parte IV, donde desarrolla el célebre argumento del cogito, expresado como “pienso, luego existo”.