“No le temas a HAL”:Por qué las computadoras no dominarán el mundo.- Charles Edward White

En 1968, la película 2001: Odisea del espacio de Stanley Kubrick jugaba con la temible idea de que las computadoras pronto se volverían conscientes, independientes y peligrosas para la humanidad. En el guion del film, la computadora llamada HAL, controla una nave espacial con una tripulación humana. Cuando dos tripulantes deciden anular a HAL y retomar el control de la nave, HAL asesina a uno de ellos e intenta matar a los demás. James Hoskins informó que ese miedo a las computadoras no es solo una pesadilla de ciencia ficción, sino que también lo comparten Stephen Hawking, Elon Musk y Bill Gates.¹

No se preocupen.

Si bien Kubrick, Hawking, Musk, Gates y el resto de nosotros deberíamos tener miedo de lo que algunas personas armadas con supercomputadoras e inteligencia artificial pueden hacernos, no tenemos por qué temer lo que las computadoras mismas puedan hacer. Un descubrimiento matemático innovador en 1930 y sus implicaciones para la informática nos dejará más tranquilos.

La historia de este asombroso descubrimiento comienza en el siglo XVIII, cuando David Hume desafió la idea de Galileo de que las matemáticas son el lenguaje en el que Dios escribe las leyes de la naturaleza. Como respuesta a esa idea, Kant propuso que incluso si no podemos estar seguros de que las matemáticas funcionan en el mundo externo, podemos saber que funcionan dentro de nuestras mentes por las leyes de la razón. Esta idea planteó a los matemáticos la tarea de reforzar los fundamentos, de probar que todas las matemáticas están firmemente fundadas en la razón. Comenzando por establecer que uno más uno es igual a dos, Gottlob Frege pensó que había demostrado que la aritmética y el álgebra eran razonables y lógicamente consistentes. Se preparaba para publicar su obra magna, Fundamentos de la aritmética, cuando recibió una carta de Bertrand Russell. Russell le mostró que la teoría de conjuntos en la que Frege había basado todo su trabajo era lógicamente inconsistente. “La aritmética se tambalea”, dijo Frege, estremecido.²

Preguntándose qué otras ramas de las matemáticas estaban tambaleándose, muchos matemáticos del siglo XIX comenzaron a buscar agujeros en sus argumentos que antes no habían reconocido. Su búsqueda llegó a su fin en 1930 cuando Kurt Gödel anunció su trascendental “teorema de incompletitud”. Esta idea es uno de los hitos intelectuales del siglo XX: los pensadores la ubican junto a los descubrimientos de Newton, Einstein y Heisenberg. Gödel demostró que ningún sistema de matemáticas podrá probarse a sí mismo por completo. Todo sistema estará “incompleto” porque siempre habrá enunciados matemáticos verdaderos dentro del sistema que el sistema mismo no puede probar. La forma en que Gödel probó este sorprendente resultado está más allá del alcance de este artículo, pero se reconoce universalmente que es cierto.³

Un ejemplo trivial del teorema de incompletitud involucra un sistema matemático llamado S1, que consta de números pares e impares y la operación de suma. Dentro de ese sistema, es imposible probar que no hay tres números impares que sumen veinte. Sin embargo, al salir de S1, es fácil demostrar que tres números impares nunca pueden sumar veinte:

1. Siendo X, Y y Z números enteros cualquiera.

2. Entonces (2X + 1), (2Y + 1) y (2Z + 1) son números impares.

3. Suponiendo que (2X + 1) + (2Y + 1) + (2Z + 1) = 20

4. Entonces 2(X + Y + Z) + 3 = 20

5. Entonces 2(X + Y + Z) = 17

6. Entonces (X + Y + Z) = 8.5

7. Pero según la teoría de números, el conjunto de números enteros se cierra bajo la suma (nunca se pueden obtener fracciones sumando números enteros), por lo que la afirmación 6 es falsa.

8. Por lo tanto, el enunciado 3 debe ser falso y no hay tres números impares que sumen veinte.

Un escéptico podría sugerir que modifiquemos el sistema agregando teoría de números, fracciones y multiplicación, creando el sistema S2. Así que ahora el sistema S2 puede mostrar que tres números impares no pueden combinarse para hacer veinte. Pero todavía hay al menos una declaración verdadera que no es demostrable por ese sistema. S2 no puede decirnos la suma de la serie 1-1/3+1/5-1/7+1/9-…. (La respuesta elegante es /4). Ahora, si actualizamos S2 a S3 agregando, por ejemplo, números trascendentales, aún habrá al menos una afirmación verdadera que no se puede probar en S3. Lo que Gödel probó “indiscutiblemente” es que este proceso puede durar para siempre.⁴

Otra forma de entender el descubrimiento de Gödel es con la paradoja del barbero. Consisten en lo siguiente: En el pueblo de Sevilla sólo hay un barbero, Fígaro, y este hombre afeita a todo el que no se afeita. ¿Fígaro tiene barba? Es imposible saberlo simplemente escuchando la historia. Si tiene barba, entonces no se afeita. Pero si no se afeita, entonces el barbero lo afeita; pero como él mismo es el barbero, se afeita a sí mismo, por lo tanto, no tiene barba. La única forma de saberlo es ir a Sevilla y ver a Fígaro, que tiene barba o no tiene barba. Este “sistema Sevilla” tiene dos enunciados, pero solo a partir del mismo es imposible determinar si es verdad la conclusión: “Fígaro tiene barba”. De este modo, el “sistema Sevilla” está incompleto. Lo que demostró Gödel es que todo sistema matemático es un “sistema Sevilla”.

Aproximadamente diez años después del descubrimiento de Gödel, Alan Turing, el padre de la inteligencia artificial, aplicó este pensamiento a las computadoras. Se dio cuenta de que lo que hace una computadora es precisamente operar con un sistema matemático. Por lo tanto, si todos los sistemas matemáticos están incompletos, entonces las máquinas que usan esos sistemas también deben estar incompletas. Demostró que incluso una “Máquina de Turing”, una computadora imaginaria de velocidad y capacidad infinitas, que funciona por siempre, nunca podría probar que tres números impares no suman veinte, si estuviera programada para usar solo números pares e impares y sumas (S1). Dado que hay una cantidad infinita de números pares e impares, tanto positivos como negativos, la computadora nunca se quedaría sin tripletes enteros para evaluar. Encontraría que ninguno es igual a veinte, pero nunca podría agotar el número infinito de combinaciones.⁵

Un ejemplo de la vida real de los hallazgos de Turing proviene del mundo del ajedrez informático. (Ver Figura 01)

Es la jugada de las blancas. ¿El peón debe capturar a la torre? Las blancas no deben tomar la torre. Las negras tienen una fuerte ventaja material, pero a menos que las blancas traspasen la pared de peones, las negras no tienen forma de mover ninguna de las piezas a una posición que amenace al rey de las blancas. Las blancas deberían llevar al rey detrás de esta defensa inexpugnable hasta que se produzcan tablas en cincuenta jugadas. Esta solución es obvia para cualquiera, excepto para un jugador humano novato, pero se le escapó a Deep Thought, la mejor computadora para jugar al ajedrez de su época. A pesar de ser capaz de vencer a varios grandes maestros, la computadora tomó la torre y sufrió la pérdida inevitable. La razón por la que un humano conquista las tablas y la computadora pierde es que la computadora nunca “ve” la barrera de peones.⁶

La adaptación de Turing del hallazgo de Gödel llevó al filósofo de Oxford John Lucas a darse cuenta de que si las computadoras nunca podrían resolver algunos problemas cuyas soluciones son obvias para los humanos, entonces debe haber una diferencia esencial entre las mentes humanas y las máquinas. Lucas escribió: “Me parece que el teorema de Gödel demuestra que el mecanicismo es falso, es decir, que las mentes no pueden explicarse como máquinas”.⁷ La diferencia entre una mente humana y una computadora no es solo cuantitativa sino cualitativa. No es simplemente una cuestión de grado sino de tipo. Por lo tanto, las mentes y las computadoras deben ser diferentes en su ontología, no solo en su capacidad. Lo que Lucas quiere decir con “mecanicismo” también se llama “fisicalismo”: energía, materia, tiempo y espacio es todo lo que hay. El fisicalismo viene en dos sabores: reduccionista y no reduccionista. La diferencia es que el fisicalismo reduccionista cree que el fenómeno de la conciencia humana es una ilusión, mientras que el fisicalismo no reduccionista piensa que la conciencia es una característica real de la actividad física del cerebro.⁸ Lucas entiende que el teorema de incompletitud de Gödel excluye ambos tipos de fisicalismo.

Otro pensador de Oxford, el físico matemático Roger Penrose, se basa en el pensamiento de Gödel, Turing y Lucas para argumentar no solo que las mentes y las máquinas son fundamentalmente diferentes, sino también que las computadoras nunca podrán competir con ciertos aspectos del pensamiento humano. Las computadoras realizan “cálculos” y las mentes se dedican al “pensamiento consciente”. Una forma de saber si hay una diferencia es realizar un “test de Turing”. Una persona a través de un teclado se comunica con una computadora o con otra persona que está oculta de la vista. Si la persona puede averiguar quién es el interlocutor, entonces existe una diferencia entre el cálculo y el pensamiento consciente. Si la persona no puede decir si el interlocutor es una persona real o una computadora, entonces el pensamiento consciente debe ser reducible a la computación, y alguna forma de fisicalismo debe ser correcta.⁹ De cualquier manera, la computadora gana.

Algunas personas creen que el test de Turing ha resuelto el problema. Varias veces las computadoras han podido convencer a sus socios humanos de que ellas también eran humanas. Dado que las personas no pueden saber si su interlocutor es humano o mecánico, las computadoras deben poder “pensar” tan bien como las personas. Una victoria para la computadora sucedió cuando una fue programada para agregar algunos errores tipográficos en sus respuestas. La gente, asumiendo que solo una persona real cometería errores, fue engañada. Sin embargo, este tipo de subterfugio simplemente subraya cuán diferentes son las personas y las computadoras. La única razón por la que la computadora pudo engañar a los humanos fue que otros programadores humanos, sabiendo cómo piensa la gente, pudieron generar “errores” engañosos en las respuestas de la computadora. Esta ingeniosa estrategia fue imaginada por personas, no ideada por las propias computadoras.¹⁰

La creación de nuevas ideas o pensamientos “fuera de la caja” es exactamente el tipo de pensamiento previsto por el trabajo de Gödel. Las computadoras están diseñadas para el pensamiento sistemático, y Gödel demostró que tal pensamiento sistemático nunca puede producir resultados completos. El teorema de incompletitud muestra que la respuesta a la pregunta “¿Existe algún método general para resolver todos los problemas matemáticos?”, es “No”. Debido a que ningún sistema matemático puede probar todas sus verdades, y todas las computadoras dependen de sistemas matemáticos, la respuesta a la pregunta: “¿Puede una computadora pensar exactamente como una persona?”, también es “No”. De este modo, Constance Reid concluye su libro sobre matemáticas avanzadas diciendo: “Ahora está establecido, con toda la certeza de la prueba lógica, que las máquinas nunca, ni siquiera en teoría, reemplazarán a los matemáticos”.¹¹ La razón por la que las computadoras nunca reemplazarán a los matemáticos, o incluso a la gente común, es que la gente piensa de una manera que las computadoras nunca podrán igualar.

Además de liberarnos del miedo de que las computadoras como HAL de alguna manera tomen conciencia y se apoderen del mundo, las verdades descubiertas por Gödel, Turing, Lucas y Penrose también tienen implicaciones apologéticas. Si las mentes humanas no pueden reducirse a computadoras hechas de silicio y acero, tampoco pueden reducirse a computadoras hechas de protoplasma y proteína. Nuestras mentes son más que nuestros cerebros físicos. Dado que hay más en la mente humana que el material del cerebro físico, algo inmaterial debe existir en el universo. La existencia de lo inmaterial, lo metafísico, abre las puertas a la realidad espiritual. Una vez que queda claro que existe algo más que el mundo físico, ¿puede Dios estar muy lejos?

Charles Edward White, Doctor (Historia de la iglesia, Universidad de Boston), es profesor de Pensamiento e Historia Cristiana en la Universidad Spring Arbor.

Charles Edward White

Charles Edward White, Doctor (Historia de la iglesia, Universidad de Boston), es profesor de Pensamiento e Historia Cristiana en la Universidad Spring Arbor.