Esta misma pregunta llevó a un antiguo empleado de Google llamado Blake Lemoine a perder tanto su trabajo como su reputación. Probablemente usted haya leído sobre ello.
En 2022, mientras probaba uno de los sistemas de IA de Google llamado LaMDA, Blake tuvo la impresión de que aquella IA poseía conciencia. Y no se detuvo ahí. Comenzó a defender los derechos de aquella IA. Eso terminó costándole su empleo.
Antes de hablar de la consciencia de los sistemas de IA, comprendamos primero nuestra propia experiencia consciente.
En 2022, mientras probaba uno de los sistemas de IA de Google llamado LaMDA, Blake tuvo la impresión de que aquella IA poseía conciencia. Y no se detuvo ahí. Comenzó a defender los derechos de aquella IA. Eso terminó costándole su empleo.
Antes de hablar de la consciencia de los sistemas de IA, comprendamos primero nuestra propia experiencia consciente.
La manera en que obtenemos la experiencia consciente ha sido durante mucho tiempo un enigma que ha intrigado a los neurocientíficos. Cuando se inventaron herramientas modernas como los escáneres de resonancia magnética funcional (fMRI), los neurocientíficos pudieron explicar diversos procesos perceptivos del cerebro humano. Fueron capaces de identificar las regiones exactas del cerebro responsables de percepciones específicas.
Sin embargo, al principio no estaba claro cómo se materializan las experiencias complejas que pueden involucrar regiones distribuidas por todo el cerebro.
Por ejemplo, supongamos que usted observa un árbol. Inmediatamente reconoce que pertenece a una especie determinada. Los neurocientíficos podían señalar regiones específicas del cerebro que identifican las hojas del árbol, sus frutos, su tronco, etcétera.
Pero su experiencia real es procesada utilizando diversas regiones cerebrales. Sin embargo, no existe una región específica que reúna toda la imagen del árbol y le entregue la experiencia de: «¡Ah! ¡Es un mango!»
Los neurocientíficos llamaron a este problema el «Problema de la Integración» . Es decir, el problema de reunir los fragmentos de información dispersos por todo el cerebro y encajarlos entre sí.
A finales del siglo XX, un neurocientífico estadounidense llamado Bernard Baars propuso una teoría denominada «Teoría del Espacio Global de Trabajo» para explicar este fenómeno. Aquella teoría era altamente metafórica.
La metáfora de Baars recibió numerosas críticas porque parecía sugerir la existencia de una entidad separada que experimenta las percepciones. Los científicos no aceptan la existencia de ninguna fuerza misteriosa de ese tipo.
Más tarde surgió una versión revisada llamada «Teoría del Espacio Global de Trabajo Neuronal» . Hoy en día es ampliamente aceptada como una explicación de nuestras experiencias conscientes.
Sin embargo, esta explicación no satisfizo a filósofos cognitivos como David Chalmers. Él afirmó que los neurocientíficos solo habían resuelto un «problema fácil» de la conciencia. Sostenía que muchos aspectos fascinantes de la experiencia humana seguían sin explicación. A estos los denominó el «Problema Difícil de la Conciencia» (Hard Problem of Consciousness).
Este tira y afloja continuó durante años. Mientras los neurocientíficos afirmaban que podían explicarlo todo, filósofos como Chalmers respondían que sus explicaciones seguían siendo incompletas.
No estoy completamente seguro de cómo filósofos como Chalmers definen la palabra «conciencia». En una de sus conferencias, Chalmers describe la conciencia como una película interior que se proyecta continuamente. Sostiene que se trata de una experiencia subjetiva. Según él, no puede explicarse basándose en ninguna actividad cerebral.
Antes de decidir hasta qué punto tiene razón Chalmers, consideremos algunos hechos.
La Teoría del Espacio Global de Trabajo Neuronal es capaz de explicar cómo el cerebro integra la información distribuida en su interior. Por lo tanto, parece que el cerebro posee, al menos, la capacidad de generar alguna forma de experiencia consciente.
Mediante la implantación de electrodos en ciertas regiones cerebrales y su estimulación electromagnética, es posible inducir experiencias específicas. Una persona también puede experimentar diversos estados mediante el consumo de determinadas sustancias psicoactivas. Los mecanismos cerebrales que subyacen a estos fenómenos son razonablemente bien conocidos. Esto significa que el cerebro puede actuar como un vehículo de la conciencia.
Algunos investigadores han descubierto que una creencia profunda puede generar experiencias específicas en el cerebro sin depender de ningún objeto externo. En algunos templos del sur de la India, devotos fervientes se perforan la lengua. También se suspenden de postes mediante ganchos clavados profundamente en sus espaldas. Sin embargo, permanecen inmersos en una experiencia espiritual sin sentir dolor alguno. Se ha observado que, en tales circunstancias, el cerebro produce sustancias químicas similares a los opiáceos. Esto significa que el cerebro puede transformar las experiencias de maneras que normalmente no esperaríamos.
Cuando a ese mismo cerebro se le administra anestesia general, la persona se vuelve completamente incapaz de experimentar cualquier cosa. Esto indica que el cerebro desempeña un papel fundamental en la experiencia consciente. Si el cerebro no está activo, una persona no puede tener ninguna experiencia, ya sea subjetiva o de cualquier otro tipo.
Las implicaciones de todas estas observaciones son las siguientes:
• El cerebro posee la capacidad de generar experiencia consciente integrando estímulos externos. Además, su funcionamiento ya se comprende bastante bien.
• Incluso en ausencia total de estímulos sensoriales, el cerebro puede generar experiencias mediante sustancias o métodos externos.
• Más allá de los estímulos externos e internos, el cerebro puede modificar las experiencias basándose en su propio estado interno.
• La conciencia no puede surgir sin un cerebro funcional.
¿No son suficientes estas observaciones para concluir que aquello que llamamos experiencia subjetiva ocurre dentro del propio cerebro?
Pero Chalmers no está de acuerdo. Cree firmemente que «estas explicaciones describen únicamente cómo funciona el cerebro, pero no logran explicar la experiencia subjetiva». Está buscando una explicación misteriosa situada más allá del cerebro.
Si Chalmers ampliara un poco más su investigación y hablara de las experiencias meditativas, probablemente estaría de acuerdo con él. Las experiencias meditativas más elevadas ocurren cuando una persona trasciende los límites de la mente o cuando la mente se vuelve completamente silenciosa. En esos momentos, el cerebro se encuentra casi inactivo, por lo que resulta difícil afirmar que tales experiencias ocurren dentro del cerebro.
Curiosamente, incluso allí no hay espacio para hablar de experiencias subjetivas. Porque ese estado trasciende la propia subjetividad.
Yo observo la conciencia desde la perspectiva de un neurocientífico. Pienso que, para que un sistema posea conciencia, debe tener al menos la capacidad de modificar sus propios estados mentales.
Sin embargo, la mera capacidad de alterar estados internos no es suficiente. Un sistema que pretenda ser consciente debe poseer muchas otras capacidades adicionales.
Volviendo a la pregunta original: ¿poseen los sistemas de IA esas capacidades?
Los sistemas de IA disponibles públicamente en la actualidad, sin duda, no las poseen. Pueden exhibir una apariencia de inteligencia. Pero—
• No contienen estados internos que puedan modificarse o actualizarse continuamente en respuesta a las entradas recibidas. Como informó Blake Lemoine, la IA parecía afirmar durante la conversación que podía cambiar su propio estado basándose en las entradas. Aunque pudiera parecerlo superficialmente, eso no significa que sea cierto.
• Las IA actuales no poseen estados que cambien en respuesta al miedo, la felicidad, las preferencias, las aversiones o emociones similares.
• Sus mecanismos de entrada son extremadamente limitados. Por ahora pueden leer o escuchar instrucciones. También pueden «ver» imágenes y leer archivos. Nada más.
Por lo tanto, no existe ninguna base para afirmar que la experiencia de Blake Lemoine fuera real. Después de todo, las IA son expertas en mostrarse seguras de sí mismas basándose únicamente en información parcial. ¡Son extraordinariamente buenas comportándose como seres humanos y llevando a otros a conclusiones equivocadas!
Sin embargo, no descarto la posibilidad de que las futuras IA lleguen a poseer conciencia; al menos una forma de conciencia comparable a la que está limitada al cerebro.
Sin embargo, al principio no estaba claro cómo se materializan las experiencias complejas que pueden involucrar regiones distribuidas por todo el cerebro.
Por ejemplo, supongamos que usted observa un árbol. Inmediatamente reconoce que pertenece a una especie determinada. Los neurocientíficos podían señalar regiones específicas del cerebro que identifican las hojas del árbol, sus frutos, su tronco, etcétera.
Pero su experiencia real es procesada utilizando diversas regiones cerebrales. Sin embargo, no existe una región específica que reúna toda la imagen del árbol y le entregue la experiencia de: «¡Ah! ¡Es un mango!»
Los neurocientíficos llamaron a este problema el «Problema de la Integración» . Es decir, el problema de reunir los fragmentos de información dispersos por todo el cerebro y encajarlos entre sí.
A finales del siglo XX, un neurocientífico estadounidense llamado Bernard Baars propuso una teoría denominada «Teoría del Espacio Global de Trabajo» para explicar este fenómeno. Aquella teoría era altamente metafórica.
La metáfora de Baars recibió numerosas críticas porque parecía sugerir la existencia de una entidad separada que experimenta las percepciones. Los científicos no aceptan la existencia de ninguna fuerza misteriosa de ese tipo.
Más tarde surgió una versión revisada llamada «Teoría del Espacio Global de Trabajo Neuronal» . Hoy en día es ampliamente aceptada como una explicación de nuestras experiencias conscientes.
Sin embargo, esta explicación no satisfizo a filósofos cognitivos como David Chalmers. Él afirmó que los neurocientíficos solo habían resuelto un «problema fácil» de la conciencia. Sostenía que muchos aspectos fascinantes de la experiencia humana seguían sin explicación. A estos los denominó el «Problema Difícil de la Conciencia» (Hard Problem of Consciousness).
Este tira y afloja continuó durante años. Mientras los neurocientíficos afirmaban que podían explicarlo todo, filósofos como Chalmers respondían que sus explicaciones seguían siendo incompletas.
No estoy completamente seguro de cómo filósofos como Chalmers definen la palabra «conciencia». En una de sus conferencias, Chalmers describe la conciencia como una película interior que se proyecta continuamente. Sostiene que se trata de una experiencia subjetiva. Según él, no puede explicarse basándose en ninguna actividad cerebral.
Antes de decidir hasta qué punto tiene razón Chalmers, consideremos algunos hechos.
La Teoría del Espacio Global de Trabajo Neuronal es capaz de explicar cómo el cerebro integra la información distribuida en su interior. Por lo tanto, parece que el cerebro posee, al menos, la capacidad de generar alguna forma de experiencia consciente.
Mediante la implantación de electrodos en ciertas regiones cerebrales y su estimulación electromagnética, es posible inducir experiencias específicas. Una persona también puede experimentar diversos estados mediante el consumo de determinadas sustancias psicoactivas. Los mecanismos cerebrales que subyacen a estos fenómenos son razonablemente bien conocidos. Esto significa que el cerebro puede actuar como un vehículo de la conciencia.
Algunos investigadores han descubierto que una creencia profunda puede generar experiencias específicas en el cerebro sin depender de ningún objeto externo. En algunos templos del sur de la India, devotos fervientes se perforan la lengua. También se suspenden de postes mediante ganchos clavados profundamente en sus espaldas. Sin embargo, permanecen inmersos en una experiencia espiritual sin sentir dolor alguno. Se ha observado que, en tales circunstancias, el cerebro produce sustancias químicas similares a los opiáceos. Esto significa que el cerebro puede transformar las experiencias de maneras que normalmente no esperaríamos.
Cuando a ese mismo cerebro se le administra anestesia general, la persona se vuelve completamente incapaz de experimentar cualquier cosa. Esto indica que el cerebro desempeña un papel fundamental en la experiencia consciente. Si el cerebro no está activo, una persona no puede tener ninguna experiencia, ya sea subjetiva o de cualquier otro tipo.
Las implicaciones de todas estas observaciones son las siguientes:
• El cerebro posee la capacidad de generar experiencia consciente integrando estímulos externos. Además, su funcionamiento ya se comprende bastante bien.
• Incluso en ausencia total de estímulos sensoriales, el cerebro puede generar experiencias mediante sustancias o métodos externos.
• Más allá de los estímulos externos e internos, el cerebro puede modificar las experiencias basándose en su propio estado interno.
• La conciencia no puede surgir sin un cerebro funcional.
¿No son suficientes estas observaciones para concluir que aquello que llamamos experiencia subjetiva ocurre dentro del propio cerebro?
Pero Chalmers no está de acuerdo. Cree firmemente que «estas explicaciones describen únicamente cómo funciona el cerebro, pero no logran explicar la experiencia subjetiva». Está buscando una explicación misteriosa situada más allá del cerebro.
Si Chalmers ampliara un poco más su investigación y hablara de las experiencias meditativas, probablemente estaría de acuerdo con él. Las experiencias meditativas más elevadas ocurren cuando una persona trasciende los límites de la mente o cuando la mente se vuelve completamente silenciosa. En esos momentos, el cerebro se encuentra casi inactivo, por lo que resulta difícil afirmar que tales experiencias ocurren dentro del cerebro.
Curiosamente, incluso allí no hay espacio para hablar de experiencias subjetivas. Porque ese estado trasciende la propia subjetividad.
Yo observo la conciencia desde la perspectiva de un neurocientífico. Pienso que, para que un sistema posea conciencia, debe tener al menos la capacidad de modificar sus propios estados mentales.
Sin embargo, la mera capacidad de alterar estados internos no es suficiente. Un sistema que pretenda ser consciente debe poseer muchas otras capacidades adicionales.
Volviendo a la pregunta original: ¿poseen los sistemas de IA esas capacidades?
Los sistemas de IA disponibles públicamente en la actualidad, sin duda, no las poseen. Pueden exhibir una apariencia de inteligencia. Pero—
• No contienen estados internos que puedan modificarse o actualizarse continuamente en respuesta a las entradas recibidas. Como informó Blake Lemoine, la IA parecía afirmar durante la conversación que podía cambiar su propio estado basándose en las entradas. Aunque pudiera parecerlo superficialmente, eso no significa que sea cierto.
• Las IA actuales no poseen estados que cambien en respuesta al miedo, la felicidad, las preferencias, las aversiones o emociones similares.
• Sus mecanismos de entrada son extremadamente limitados. Por ahora pueden leer o escuchar instrucciones. También pueden «ver» imágenes y leer archivos. Nada más.
Por lo tanto, no existe ninguna base para afirmar que la experiencia de Blake Lemoine fuera real. Después de todo, las IA son expertas en mostrarse seguras de sí mismas basándose únicamente en información parcial. ¡Son extraordinariamente buenas comportándose como seres humanos y llevando a otros a conclusiones equivocadas!
Sin embargo, no descarto la posibilidad de que las futuras IA lleguen a poseer conciencia; al menos una forma de conciencia comparable a la que está limitada al cerebro.
--------------------------------------------------------------------
Si esto resonó contigo, te invito a unirte a mis lectores semanales. Publico un análisis en profundidad cada sábado, yendo más allá de la superficie para abordar las preguntas que realmente importan. Sin muros de pago, sin «cebos»: simplemente un intercambio directo, de mi mente a la tuya. Haz clic para suscribirte.
© Dr. King, Swami Satyapriya 2026
No comments:
Post a Comment