(Global) La pregunta de si la Inteligencia Artificial (IA) puede “cobrar conciencia” es un tema de debate entre expertos. Algunos creen que la IA actual, como los chatbots avanzados, podría estar desarrollando una forma de conciencia, mientras otros, y la mayoría de los especialistas, consideran que la IA actual no es consciente y solo imita la cognición humana.
Recientemente, en el mundo real ha habido un rápido punto de inflexión en el pensamiento sobre la conciencia de las máquinas, y voces con credibilidad han expresado su preocupación de que esto ya no sea materia de ciencia ficción.
El cambio repentino ha sido impulsado por el éxito de los llamados grandes modelos de lenguaje (LLM, por sus siglas en inglés: large language models), a los que se puede acceder a través de aplicaciones en nuestros teléfonos como Gemini y Chat GPT.
El científico principal de Google DeepMind y profesor emérito de IA en el Imperial College de Londres, Murray Shanahan, comentó a la BBC que uno de los factores que contribuyen a la idea de que la IA pueda desarrollar conciencia es que, “en realidad, no entendemos muy bien la forma en la que los LLM funcionan internamente”. “Y eso es motivo de preocupación”, enfatizó
Existe una opinión creciente entre algunos pensadores de que a medida que la IA se vuelva más inteligente, las luces se encenderán repentinamente dentro de las máquinas y se volverán conscientes.
Otros, como el profesor Anil Seth, que dirige el equipo de la Universidad de Sussex, no están de acuerdo y describen la visión como “ciegamente optimista e impulsada por el excepcionalismo humano”.
“Asociamos la conciencia con la inteligencia y el lenguaje porque van de la mano en los humanos. Pero el hecho de que vayan juntos en nosotros no significa que vayan juntos en general, por ejemplo en los animales”.
Hay quienes en el sector tecnológico creen que la IA de nuestras computadoras y teléfonos puede que ya sea consciente, y que deberíamos tratarla como tal.
Google suspendió al ingeniero de software Blake Lemoine en 2022, después de que argumentara que los chatbots de IA podían sentir cosas y potencialmente sufrir.
En noviembre de 2024, un director de bienestar de la IA de la compañía Anthropic, Kyle Fish, fue coautor de un informe que sugería que la conciencia de la IA es una posibilidad realista en un futuro próximo.
Recientemente le dijo a The New York Times que también cree que hay una pequeña posibilidad (15%) de que los chatbots ya sean conscientes.
Una de las razones por las que cree que esto es posible es que nadie, ni siquiera las personas que desarrollaron estos sistemas, saben exactamente cómo funcionan.
En solo unos años, es posible que vivamos en un mundo poblado por robots humanoides y deepfakes que podrían parecer conscientes, según el profesor Seth.
Le preocupa que no podamos resistirnos a creer que la IA tiene sentimientos y empatía, lo que podría conducir a nuevos peligros.
“Significará que confiemos más en estas cosas, que compartamos más información con ellas y estemos más abiertos a la persuasión”.
Pero el mayor riesgo de la ilusión de la conciencia es una “corrosión moral”, señala.
“Distorsionará nuestras prioridades morales al hacer que dediquemos más de nuestros recursos al cuidado de estos sistemas a expensas de las cosas reales en nuestras vidas”, lo que significa que podríamos tener compasión por los robots, pero que nos preocupemos menos por otros humanos.
Fuente: tynmagazine.