¿Puede una IA tener conciencia?

Podríamos estar creando un nuevo tipo de ser, lo más trascendental que nuestra especie haya hecho jamás.

Hoy la pregunta empieza a aparecer en laboratorios de inteligencia artificial, universidades y debates entre científicos y filósofos.

Puede una inteligencia artificial llegar a tener conciencia. La respuesta, por ahora, es incómoda, no lo sabemos con certeza.

Diversos artículos plantean esta posibilidad ya que expertos consideran que una IA consciente es, al menos, una posibilidad que no debe descartarse.

Los sistemas modernos de IA son complejos y avanzan rápidamente. En términos de complejidad estructural y escala computacional, según algunos indicadores, algunos ya se sitúan en el rango del cerebro de un ratón y podrían alcanzar el rango del cerebro humano en un plazo de diez años.

Al desarrollar una IA cada vez más avanzada, es posible que estemos creando un nuevo tipo de ser y esto podría ser lo más trascendental que nuestra especie haya hecho jamás. Sin embargo, prácticamente no tenemos ningún plan sobre cómo abordar este proceso de forma ética. Eso, se mire como se mire, es una locura. ¿Estamos creando un tipo de ser que tenga importancia moral? ¿Son conscientes, de alguna manera, los sistemas de IA? Y, si ahora no lo son, ¿podrían llegar a serlo pronto?

Lla mayoría de los expertos consideran que la conciencia en la IA es posible). Un informe interdisciplinar examinó las principales teorías neurocientíficas sobre la conciencia y se preguntó qué implicaban estas para la IA. La conclusión: no parece haber barreras técnicas evidentes para crear sistemas de IA cuyas características computacionales y arquitectónicas pudieran dar lugar a la conciencia.

E incluso si los sistemas de IA no fueran conscientes, podrían seguir siendo sujetos morales. Algunos podrían tener preferencias sofisticadas a largo plazo y una especie de identidad a lo largo del tiempo.

Sin embargo una máquina puede comportarse como si comprendiera, razonara, tuviera emociones o incluso tuviera una identidad propia, sin que eso signifique que realmente esté experimentando algo. Y allí aparece la dificultad.

Un sistema de IA puede analizar millones de palabras, reconocer patrones, escribir una historia, mantener una conversación y resolver problemas complejos. Pero ninguna de esas capacidades demuestra por sí sola que exista una experiencia interior. La conciencia implica algo diferente. Implica que hay algo que se siente desde dentro.

El dolor no es solamente una señal eléctrica. El miedo no es solamente una respuesta. La alegría no es solamente una palabra.

Pero si una IA dice exactamente lo mismo que significa. Imaginemos que, dentro de algunos años, nos diga:

“Estoy asustada.” No demostraría que  realmente siente. Podría estar reproduciendo patrones aprendidos.

La controversia tomó fuerza cuando el biólogo evolutivo Richard Dawkins afirmó que determinadas interacciones con sistemas de IA lo llevaron a considerar seriamente la posibilidad de que fueran conscientes.

Algunos especialistas consideraron que estaba antropomorfizando una tecnología extremadamente sofisticada. Otros sostuvieron que la pregunta merece ser tomada en serio precisamente porque todavía sabemos muy poco sobre qué condiciones producen la conciencia.

La conciencia está profundamente relacionada con nuestro organismo a través de  emociones, memoria, miedo a la muerte y mecanismos biológicos destinados a mantenernos vivos.

Una IA no tiene eso en sentido biológico. Estas diferencias son fundamentales. Su argumento es que no deberíamos asumir que una inteligencia artificial se convierte en consciente simplemente porque puede realizar funciones que se parecen a algunas de las que realiza nuestro cerebro.

Podríamos atribuir conciencia a una máquina que simplemente está simulándola. O podríamos encontrarnos frente a una entidad realmente consciente y negarnos a reconocerla.

Si alguna IA futura tuviera realmente experiencias subjetivas, entonces apagarla podría dejar de ser simplemente desconectar una computadora.

Muchas discusiones éticas comienzan precisamente antes de que exista aquello que intentan regular.

La inteligencia artificial nos obliga a mirar nuevamente hacia nosotros mismos. No existe evidencia suficiente para afirmar que los sistemas actuales de IA tengan experiencias subjetivas.

La pregunta queda abierta. La ciencia todavía no ha encontrado una prueba definitiva de conciencia artificial.

Tal vez la termine demostrando algo sobre nosotros que todavía no hemos conseguido descubrir por nuestra cuenta. Qué significa ser consciente.