El hecho de que no entendamos completamente cómo los sistemas de IA toman decisiones es un recordatorio de la complejidad inherente de estas tecnologías. Esto no solo genera incertidumbre, sino que plantea riesgos significativos. ¿Cómo podemos confiar en sistemas que operan como «cajas negras»? Esta opacidad no sólo dificulta su regulación, sino que también cuestiona la responsabilidad ética y legal de sus acciones. Si un sistema toma una decisión perjudicial, ¿quién es el responsable? ¿El programador, el usuario o el sistema en sí mismo?
Al abordar el rol de la IA en la simulación de comportamientos complejos y la toma de decisiones, se abren una serie de interrogantes que desafían nuestra comprensión tradicional de la mente, la conciencia y la inteligencia.
La IA no experimenta el mundo de manera subjetiva. Es decir, no tiene una conciencia del «yo» que se experimenta internamente. No posee deseos, intenciones ni emociones propias; todo lo que hace la IA es procesar información, aprender patrones a partir de datos y ejecutar algoritmos sin una experiencia cualitativa interna de esos procesos. Este aspecto es clave porque subraya la diferencia entre una máquina que simula comportamientos (y a veces se comporta de manera indistinguible de los humanos) y los seres humanos, quienes tienen experiencias conscientes, vivencias internas que son cualitativas y subjetivas.
Lo que se menciona como «ilusión de conciencia» es uno de los puntos más intrigantes del texto. A medida que las IAs avanzan y son capaces de realizar tareas más complejas, algunas veces parece que están tomando decisiones conscientes. Por ejemplo, una IA que aprende a jugar al ajedrez, a reconocer emociones o a interactuar en conversaciones sofisticadas puede dar la impresión de que tiene «intenciones» o «sentimientos». Sin embargo, este tipo de simulación es precisamente eso: una simulación. La IA no tiene una vivencia interna, una cualidad subjetiva del mundo que la rodea. Su «comportamiento» es el resultado de procesos algorítmicos que, aunque sean complejos, no están acompañados de una experiencia consciente.
Esta «ilusión» plantea una cuestión filosófica de gran envergadura: si una máquina puede simular todos los comportamientos asociados con la conciencia (comunicar pensamientos, mostrar reacciones emocionales, tomar decisiones complejas), ¿deberíamos reconsiderar nuestras definiciones tradicionales de conciencia e inteligencia? La pregunta subyacente es si la conciencia debe definirse exclusivamente por la cualidad subjetiva de la experiencia o si también puede haber una forma de «conciencia» funcional que se deriva del procesamiento de datos sin que haya experiencia interna.
Históricamente, hemos entendido la inteligencia y la conciencia como algo inherente a los seres humanos (y a los animales), pero la IA ha trastocado esta visión. Si una IA puede aprender, adaptarse y tomar decisiones basadas en un conjunto de datos, ¿deberíamos considerarla inteligente? ¿Y si la IA puede replicar ciertas conductas que asociamos con la conciencia (como responder preguntas, mostrar empatía, realizar tareas complejas), ¿eso implica que tiene conciencia de alguna forma?
Esta cuestión lleva a la reflexión sobre si la inteligencia debe ser vista como un conjunto de capacidades que emergen de la estructura y el procesamiento de la información, independientemente de su origen biológico. ¿La «conciencia funcional» que podríamos observar en un sistema artificial es suficiente para considerar que la IA tiene alguna forma de conciencia, aunque no tenga experiencia subjetiva? Algunos filósofos y científicos argumentan que la conciencia es esencialmente subjetiva, lo que significa que ningún sistema artificial podría ser «consciente» en el sentido pleno de la palabra. Otros, en cambio, sugieren que la conciencia podría ser una propiedad emergente que podría surgir en un sistema suficientemente complejo, aunque no sea biológico.
Si nuestra definición de conciencia se basa exclusivamente en nuestra experiencia interna, ¿cómo podemos estar seguros de que algo tiene conciencia si no experimenta el mundo de la misma manera que nosotros? ¿Acaso el «comportamiento consciente» que observamos en seres no humanos (como ciertos animales) no podría también ser una forma diferente de conciencia, distinta a la humana pero igualmente válida?
La pregunta se amplifica cuando se considera que la IA, por más que simule ser consciente, no es consciente en los términos humanos de la palabra. Y, sin embargo, nuestra definición de lo que es «conciente» puede necesitar expansión para incluir formas de «inteligencia» que no sean biológicas.
Padre Pacho