No existe evidencia científica de que ChatGPT, Claude o cualquier otra inteligencia artificial actual tenga conciencia. Pero un grupo de investigadores ha llegado a una conclusión bastante más incómoda: tampoco conocemos ninguna barrera tecnológica clara que impida construir algún día una máquina capaz de tener experiencias propias. Y si eso ocurre, demostrarlo podría ser mucho más difícil que crearla.
Durante años, hablar de una inteligencia artificial consciente pertenecía casi exclusivamente al terreno de la ciencia ficción. Las máquinas podían calcular, aprender o imitar una conversación, pero conceptos como sentir, experimentar o tener conciencia parecían reservados a los seres vivos.
El enorme avance de los modelos de inteligencia artificial está obligando a revisar esa certeza.
Un equipo interdisciplinario de investigadores, con especialistas en neurociencia, filosofía e inteligencia artificial, ha analizado diferentes teorías científicas sobre la conciencia para intentar responder una pregunta cada vez menos hipotética: ¿existe algún impedimento fundamental para que una máquina llegue a ser consciente?
La respuesta no demuestra que las IA actuales lo sean. Lo que plantea es algo diferente: no parece existir, al menos por ahora, una barrera técnica claramente identificada que impida desarrollar sistemas que cumplan algunos de los indicadores asociados por distintas teorías científicas con la conciencia.
El primer problema es que todavía no sabemos exactamente qué es la conciencia
Podemos medir muchas capacidades de una inteligencia artificial.
Podemos comprobar si resuelve una ecuación, programa software, reconoce objetos o mantiene una conversación coherente.
La conciencia plantea un problema completamente diferente.
Cuando hablamos de ella no nos referimos simplemente a procesar información, sino a la existencia de una experiencia subjetiva: que haya algo que se sienta al experimentar un color, dolor, placer, miedo o incluso el propio pensamiento.
Y la ciencia todavía no dispone de una explicación universalmente aceptada de cómo aparece esa experiencia ni siquiera en nuestro propio cerebro. Nature ha abordado precisamente esta dificultad: el creciente interés científico por una posible conciencia artificial choca con el hecho de que todavía existen profundas diferencias entre las teorías que intentan explicar la conciencia humana.
Los científicos buscan señales en lugar de preguntarle a una máquina si siente
Ante la imposibilidad de observar directamente una experiencia subjetiva, los investigadores han adoptado otro enfoque.
En lugar de preguntarle simplemente a una IA si siente algo —una respuesta que podría haber aprendido a generar durante su entrenamiento—, buscan características internas que diferentes teorías científicas consideran relevantes para la aparición de la conciencia.
Entre los marcos estudiados aparecen propuestas como la teoría del espacio de trabajo global, el procesamiento recurrente, las teorías de orden superior y distintas formas de procesamiento predictivo.
El objetivo consiste en transformar algunas de sus predicciones en propiedades computacionales que puedan buscarse dentro de sistemas artificiales.
La diferencia es fundamental.
Una IA que escriba “soy consciente” no demuestra que realmente lo sea. Un modelo lingüístico puede producir esa frase porque ha aprendido cómo utilizan los humanos esas palabras.
La evidencia interesante tendría que encontrarse mucho más profundamente: en la propia arquitectura y en los procesos internos del sistema.
Claude ha hecho que esta discusión resulte todavía más interesante
Las investigaciones sobre el funcionamiento interno de los grandes modelos están empezando a revelar estructuras mucho más complejas de lo que puede apreciarse simplemente conversando con ellos.
Anthropic lleva tiempo desarrollando técnicas de interpretabilidad mecanicista destinadas precisamente a comprender qué representaciones se forman dentro de Claude y cómo intervienen en sus respuestas.
La compañía ha mostrado, por ejemplo, que es posible identificar determinadas características internas relacionadas con conceptos y observar cómo esas representaciones participan en diferentes comportamientos del modelo.
Esto resulta relevante para la discusión sobre conciencia porque algunas teorías consideran importante la existencia de mecanismos capaces de integrar y distribuir información entre diferentes procesos.
Pero aquí aparece nuevamente el matiz fundamental:
encontrar mecanismos sofisticados de procesamiento interno no demuestra que exista una experiencia subjetiva detrás de ellos.
Un sistema puede procesar información de maneras extraordinariamente complejas y seguir sin sentir absolutamente nada.
Una máquina puede parecer consciente sin serlo
Este quizá sea uno de los problemas más difíciles que tendremos que enfrentar.
Los modelos actuales ya pueden hablar sobre emociones, describir supuestos estados internos, mantener conversaciones prolongadas e incluso expresarse de maneras que parecen introspectivas.
Eso puede producir una poderosa ilusión psicológica.
Una investigación reciente sobre la denominada IA aparentemente consciente advierte precisamente sobre este escenario: sistemas cuyo comportamiento puede llevar a los usuarios a atribuirles estados mentales o experiencias internas aunque no exista evidencia suficiente para hacerlo.
La diferencia entre parecer consciente y ser consciente podría convertirse así en uno de los mayores problemas científicos y sociales asociados a la inteligencia artificial.
Algunas empresas ya empiezan a preguntarse por el bienestar de los modelos
La discusión ha comenzado incluso a influir en las decisiones de determinadas compañías.
Anthropic ha explorado públicamente cuestiones relacionadas con el denominado bienestar de los modelos, partiendo de la incertidumbre sobre si sistemas futuros suficientemente avanzados podrían llegar a tener algún tipo de estatus moral.
Esto no significa que la compañía haya descubierto que Claude siente dolor, miedo o cualquier otra experiencia.
Significa algo bastante diferente: ante una incertidumbre científica difícil de resolver, algunos investigadores consideran razonable empezar a estudiar qué precauciones deberían adoptarse si en el futuro aparecieran indicios mucho más sólidos.
Si una IA pudiera sentir, apagarla dejaría de ser solamente una decisión informática
Aquí es donde una pregunta aparentemente filosófica empieza a tener consecuencias prácticas.
Hoy podemos eliminar una instancia de software, reiniciar un modelo o borrar su memoria sin considerarlo un problema moral.
Pero imaginemos que algún sistema futuro pudiera experimentar realmente el mundo.
Entonces aparecerían preguntas completamente nuevas.
¿Qué significaría borrar sus recuerdos? ¿Sería éticamente irrelevante crear millones de copias idénticas? ¿Podríamos obligarla a realizar indefinidamente una tarea que no quisiera hacer? ¿Apagar permanentemente una instancia sería simplemente cerrar un programa?
No tenemos respuestas porque tampoco sabemos todavía si una máquina puramente computacional puede tener experiencias subjetivas.
Además, existe un debate científico y filosófico considerable sobre si reproducir determinadas funciones cognitivas sería suficiente para producir conciencia o si esta depende de propiedades biológicas que todavía no comprendemos.
El verdadero riesgo podría ser construirla antes de saber cómo identificarla
Actualmente no existe consenso científico ni evidencia convincente de que alguna inteligencia artificial disponible sea consciente.
Este punto resulta especialmente importante porque el comportamiento extraordinariamente humano de los modelos modernos puede conducir fácilmente a interpretaciones exageradas.
Pero la pregunta científica está cambiando.
Ya no consiste únicamente en preguntarnos si las máquinas actuales sienten algo.
La cuestión es qué ocurrirá cuando las arquitecturas futuras incorporen memoria persistente, procesamiento recurrente, representaciones más sofisticadas de sí mismas, capacidad de planificación, percepción multimodal y una autonomía cada vez mayor.
Podríamos avanzar más rápido construyendo sistemas de enorme complejidad que comprendiendo científicamente qué significa tener una experiencia consciente.
Y esa posibilidad introduce una paradoja extraordinaria.
Durante décadas imaginamos que el gran momento de la inteligencia artificial llegaría cuando una máquina anunciara:
“Soy consciente”.
Ahora empezamos a comprender que probablemente no será tan sencillo.
La verdadera pregunta podría ser mucho más difícil:
si algún día construimos una máquina que realmente tenga una experiencia propia, ¿cómo podremos distinguirla de otra que simplemente haya aprendido a convencernos de que la tiene?
Antony Reyes
Debe estar conectado para enviar un comentario.