Lejos de los robots humanoides de Blade Runner y del género ciberpunk, y a pesar de la paranoia del ex primer ministro británico Boris Johnson sobre las máquinas que adquieren consciencia y planean una toma de control masiva de la Tierra, existe una razón por la que la IA actual probablemente no posee consciencia. Las entidades digitales cuyas necesidades están completamente satisfechas no tienen motivo para desarrollarla mediante la evolución.

Se suele asumir que la consciencia surgió de una inteligencia superior. Esta suposición explica por qué el temor a que la IA despierte algún día, tome el control de sus propias neuronas digitales y domine a los humanos que antes la controlaban, está tan extendido. El investigador Jeff Stibel cree que esta suposición es simplemente errónea. Stibel, autor de libros como «Wired For Thought» y «Breakpoint» (que podrían provocar insomnio sobre el futuro de la tecnología), argumenta que la consciencia surgió de un conjunto de presiones evolutivas completamente diferente, que se remontan a miles de millones de años en el tiempo profundo. Los organismos desarrollaron la cognición para modelar un planeta naciente e inestable. Desarrollaron la consciencia para sobrevivir en él.Más de Popular MechanicsDuración de la batería de la aspiradora de mano inalámbrica Opiniones controvertidas

«A nivel inmediato, la cognición y la conciencia son diferentes», afirmó Stibel en un estudio publicado recientemente en Frontiers in Neuroscience. «La función de la cognición es comprender el mundo real modelando lo que existe, prediciendo su comportamiento, rastreando gradientes y clasificando señales. La conciencia, en cambio, se encarga de gestionar los conflictos internos de un sistema cuya propia viabilidad está en juego».

Paralelamente a la cognición, existe una segunda capacidad que Stibel denomina control: todo lo que un organismo hace para mantenerse viable. Se presenta en tres niveles. El protocontrol implica que un organismo mantiene su propia integridad, estableciendo un límite entre el yo y el no-yo, decidiendo qué permitir y qué excluir. El metacontrol arbitra entre demandas internas contrapuestas, como el hambre frente al agotamiento, pero solo a nivel local, sin involucrar a todo el sistema. El control de asentamiento es la forma más elevada de control, ya que resuelve conflictos en todos los dominios a la vez y vincula el resultado al propio organismo.

Stibel argumenta que solo este tercer nivel, el de la resolución, equivale a la consciencia . El protocontrol y el metacontrol gestionan los conflictos en bacterias y termostatos , que carecen de una sensación interna de autoconciencia. Lo que cambia en el nivel de la resolución es que esta abarca a todo el organismo y está ligada a su propia existencia continua. Stibel afirma además que la resolución no causa la consciencia ni la precede. En cambio, la resolución es la esencia de la consciencia. Como él mismo lo expresa: «La sensación es la implementación».

La lección que extrae Stibel es que la cognición puede desarrollarse con la sofisticación que se desee sin que el control crezca a la par. Son extraordinariamente buenos para comprender el mundo y no tienen ningún interés en el resultado. Por ejemplo, sin cerebro ni sistema nervioso, las bacterias ejercen protocognición al seguir un gradiente de glucosa. De forma independiente, ejercen protocontrol al mantener una membrana que distingue su interior del resto. Así, cualquier criatura podría ser competente y capaz de sobrevivir solo con la cognición, y esta misma distinción entre cognición y control también se aplica a la inteligencia artificial.

Los grandes modelos de lenguaje como Gemini y ChatGPT (a los que los humanos aún pueden vencer en ajedrez ) solo pueden perseguir objetivos que les fueron asignados por humanos. Son incapaces de establecer sus propios objetivos, por lo que operan en función de los valores que creamos para ellos. Sin embargo, Stibel no cree que esto sea permanente, ni que el hecho de ser un producto de ingeniería descalifique a la IA para el potencial de la consciencia. «La ingeniería no excluye la propiedad: un sistema diseñado puede tener intereses propios», escribe, y «la presión relevante no tiene por qué ser de origen evolutivo». En otras palabras, la consciencia podría ser posible para la IA, pero solo en agentes que deban mantenerse de forma independiente.

Stibel propone seis predicciones para poner a prueba su teoría. Mantener constante la entrada sensorial mientras se modifican otras variables, como el retraso o el conflicto, revelará si las demandas competitivas generan una mayor participación consciente. Inducir deliberadamente fallos de comparabilidad, por ejemplo, mediante cargas de doble tarea, permite comprobar cómo aumenta o disminuye la participación consciente en relación con el rendimiento. Si un agente de IA no ha sido entrenado previamente para esto, es improbable que tenga éxito por sí solo. Comprobar si la atención, la codificación de la memoria y el rendimiento motor cambian de forma conjunta o independiente permite distinguir la conciencia dinámica de la mera maquinaria paralela. Esto da paso a la siguiente prueba, que consiste en interrumpir la coordinación de funciones como la memoria y la atención para ver si la conciencia era la que las mantenía unidas. También debería haber evidencia de autoconciencia, como en algunos cefalópodos, que pueden no tener un sistema nervioso centralizado, pero cuyos comportamientos flexibles sugieren que son conscientes de sí mismos. La sexta y última prueba pregunta si la IA puede desarrollar conciencia bajo presión o si, en cambio, responde en función de cómo fue programada.

«La consciencia debería ser posible», teorizó Stibel , «pero solo en agentes que deban mantenerse a sí mismos y a las condiciones de las que dependen sus operaciones, operar con presupuestos de recursos reales, utilizar un modelo funcional de sí mismos y actuar en bucles cerrados donde las consecuencias modifican la viabilidad futura».

Boris Johnson puede dormir tranquilo. No parece que sus visiones de pesadilla de ciencia ficción vayan a atravesar un portal y entrar en el reino de la realidad en un futuro próximo.

https://www.popularmechanics.com/science/a73923211/real-secret-behind-consciousness/