PENROSE Y LA INTELIGENCIA ARTIFICIAL1

Carlos Blank

¿Qué sucede a cada uno de nuestros flujos de conscienciadespués de morir?, ¿dónde estaba antes de que nacieracada uno?, ¿podríamos convertirnos en, o haber sido,algún otro?, ¿por qué percibimos en absoluto?, ¿por quéestamos aquí?, ¿por qué hay un universo en el quepodamos estar? Roger Penrose

A la memoria de Eduardo Piacenza, cuya mente sobrevive en un hermoso cielo platónico fuera del tiempo natural.

Resumen

Podemos señalar el año de 1950, cuando Alan Turing publicó en larevista Mind su artículo, “Maquinaria computacional eInteligencia”, como el punto de partida de la Inteligenciaartificial o IA. Desde entonces, las ideas desarrolladas en esteartículo han sido objeto de las más variadas discusiones, a vecesen contra y otras a su favor. En 1979 fue publicado el libro deDouglas Hofstadter, Gödel, Escher, Bach, libro que habría deconvertirse en un gran éxito editorial, así como en una de lasmejores defensas jamás escritas de la IA. Diez años más tarde,apareció el libro de Roger Penrose, La nueva mente del emperador, unlibro que también habría de convertirse en un gran éxito editorialasí como en uno de los ataques mejor escritos contra la IA hastael momento. Nuestro artículo se centra en las ideas desarrolladaspor Penrose en contra de la IA, ideas que pueden ser consideradas,en buena parte, como una versión de las ideas que ya antes habíansido planteadas por el importante filósofo norteamericano, JohnSearle.

Palabras claves: Filosofía de la mente, inteligencia artificial, máquina computacional, algoritmos y conciencia.

INTRODUCCIÓN: Técnica y civilización.

La capacidad que tiene el hombre de crear herramientas se remontaa los albores de la civilización y, aun más allá, al propioproceso de la evolución humana. En gran medida estas herramientasson las responsables de esta evolución más que su resultado,aunque también es cierto que entre el hombre y sus herramientas seproduce una interacción permanente. El hombre crea un mundo humanoen la misma medida en que crea un mundo técnico, así como un mundode normas y ritos. Cocinar los alimentos, enterrar los muertos,prohibir el incesto, utilizar herramientas son, como el lenguaje,costumbres o instituciones que delatan la presencia de laconciencia humana y permiten crear un espacio propiamente humanofrente a lo puramente natural.

A menudo se considera a la ciencia y a la técnica como lasresponsables de la alienación y deshumanización del hombre.2 Sepiensa que una visión mecanicista de la naturaleza y del hombreconstituye la fuente de todos los males y que ha despojado alhombre de su verdadera naturaleza humana racional. Nada másalejado de la verdad, pues ha sido precisamente el conocimiento delos mecanismos subyacentes en la naturaleza lo que ha permitido unmayor dominio del hombre sobre ella, así como también el que hayapodido irse liberando, hasta cierto punto, de las fuerzas ciegasque gobiernan el mundo de la naturaleza, haciendo posible lacreación de una segunda naturaleza para así liberarse de tareaspesadas y repetitivas que antes él solía hacer. Como señalabaBertrand Russell en una oportunidad, los inventos de la eramoderna han hecho más por la liberación de la mujer que cualquiermovimiento feminista.

Somos más humanos a medida en que es posible liberarnos de lasbarreras naturales. No podemos volar, pero entonces inventamosaparatos con los cuales podemos hacerlo. No podemos respirar bajoel agua como los peces, pero también inventamos dispositivos quenos permiten realizar tal hazaña. Y así sucesivamente. El mundotécnico constituye una compleja red de “palancas” y “poleas” quemultiplican las limitadas fuerzas naturales del hombre, incluyendola de los animales. Como en el viejo mito prometeico, ha sido ladebilidad natural del hombre la que le ha permitido justamenteganarle terreno a la naturaleza, hacer de la necesidad virtud, dela debilidad su fuerza.

Pero el hombre no sólo ha creado máquinas que pueden a impulsar sufuerza más allá de sus fronteras naturales o aprovechar laspropias fuerzas de la naturaleza, sino que ha creado tambiénherramientas y medios que economizan y potencian considerablementesu fuerza mental o psíquica. Desde la escritura cuneiforme,pasando por la imprenta, hasta llegar a los modernos chips ydiscos láser, el hombre se ha visto en la necesidad de ingeniarmedios para el almacenamiento, transmisión y conservación deinformación.3 Asimismo ha inventado reglas de cálculo, así como lasherramientas que les faciliten la realización de tales cálculos.Dentro de esta evolución podemos mencionar la propia utilizaciónde piedras -de donde deriva el cálculo su nombre-, la invencióndel 0, los ábacos, calculadoras rudimentarias, hasta llegar a lasmodernas computadoras y el lenguaje binario que las alimenta. Silas primeras máquinas multiplican y ahorran energía física, lassegundas hacen lo propio con la energía mental.

Como en todo proceso de cambio importante, se generan al comienzoresistencias. La introducción de máquinas en el proceso productivogeneró bastantes recelos, pues se pensaba que estas máquinas, aldesplazar la fuerza de trabajo humano, restaban oportunidades alos que trabajaban con los medios artesanales tradicionales.4 Loque entonces no podía verse era el potencial de nuevasoportunidades que la introducción de la máquina generaba. Algosimilar ha ocurrido con la introducción de las modernascomputadoras. A lo que hay que añadir un elemento adicional. Si elhombre no se siente disminuido o minusvalorado por la presencia demáquinas que potencian su fuerza física, que son capaces derealizar tareas que el hombre es incapaz de realizar físicamente,la competencia en el plano mental es otra cosa. La razón de elloes que suponemos que este plano mental es una prerrogativatípicamente humana, lo que eleva al hombre por encima de lanaturaleza y lo hace específicamente humano.

Hace tiempo que nos hemos acostumbrado a la maquinaria que nos superaampliamente en las tareas físicas. Esto no nos causa desasosiego. Antesbien nos complace tener aparatos que nos llevan por tierra normalmentea grandes velocidades –más de cinco veces más rápido que el más velozatleta humano- o que puedan cavar hoyos o demoler estructuras que nosestorban a velocidades que dejarían en ridículo a equipos compuestospor docenas de hombres. Aún estamos más encantados de tener máquinasque nos permiten hacer físicamente cosas que nunca antes habíamospodido hacer; pueden llevarnos a los cielos y depositarnos al otro ladodel océano en cuestión de horas. Tales logros de su parte no hieren

nuestro orgullo. Pero el poder pensar, eso sí que ha sido siempre unaprerrogativa humana. Después de todo, ha sido esa capacidad física laque, al traducirse en términos físicos, nos ha permitido trascendernuestras limitaciones físicas y la que parecía ponernos encima denuestras criaturas hermanas. Si las máquinas pudieran llegar asuperarnos algún día en esa cualidad importante en la que nos habíamoscreído superiores, ¿no tendríamos entonces que ceder esa superioridad anuestras creaciones?5

El texto de Penrose que acabamos de citar resume brillantementetodo lo anterior. Como él señala, la posibilidad de que lasmáquinas puedan pensar no es algo totalmente nuevo, sólo que lamoderna tecnología le ha dado a esta cuestión un nuevo impulso. Laidea de que existan máquinas que puedan realizar tareas que hastaahora creíamos exclusivamente humanas, nos hace vernos menosexclusivos de lo que nos creíamos. Todo aquello que nos haceexclusivos no es tan exclusivo desde el momento en que una máquinaes capaz también de realizarlo. De eso se trata precisamentecuando hablamos de Inteligencia Artificial o IA a secas6, de sabersi es posible que una máquina realice todas las tareasintelectuales que antes creíamos prerrogativa exclusivamentehumana. Uno de los pioneros de la IA y de la ingeniería de lascomputadoras, el matemático inglés Alan Turing, denominaba laposición ya descrita como la objeción “del avestruz” (“the ‘headsin the sand’ objection”), pues se trata más de una objeción, o deun prejuicio, que de un argumento, como otros que él enumeraba.Para él esta objeción se reduce a que “nos gusta creer que elhombre es de alguna manera sutil, superior al resto de lacreación. Aún es mejor si puede demostrarse que ha de sernecesariamente superior, porque entonces no hay peligro de quepierda su posición de autoridad.”7

Como se desprende de todo lo dicho hasta ahora, la polémica entorno a la IA tiene connotaciones muy particulares para el serhumano, toca fibras bastantes profundas de nuestro ser, por lo queincluso resulta difícil verla como una cuestión de mero diseñotecnológico posible, como algo en torno a lo cual podemos serindiferentes. Quizás la cuestión de fondo resida en la necesidadde definir lo que nos hace verdaderamente humanos. Desde estepunto de vista, el mayor aporte de esta discusión consistirá endar un nuevo paso en la tarea, posiblemente infinita, deconocernos a nosotros mismos.

A continuación analizaremos algunas de las implicaciones de estetema y finalmente desarrollaremos la posición asumida por RogerPenrose sobre el particular.

PLANTEAMIENTO GENERAL: ¿Pueden pensar las máquinas?

La pregunta de si pueden pensar las máquinas nos conduceinevitablemente a que aclaremos primero lo que entendemos porpensar. Aunque ello pudiera parecernos obvio, no lo es, ni muchomenos. De lo que entendamos por pensar dependerá la respuesta quepodamos dar a esta pregunta. La actividad genérica de pensarincluye una gran variedad de tareas específicas, muchas de ellasdiferentes entre sí, aunque podamos agruparlas a todas ellas bajoesta denominación.

Tomemos, por ejemplo, la definición que dio de “pensar” Descartes,quien hizo de esta actividad, ni más ni menos, el punto de partidade todo su sistema y método. Para él una cosa que piensa significa“una cosa que duda, que concibe, que afirma, que niega, quequiere, que no quiere, que también imagina, y que siente.”8 Paraser la definición de un gran matemático, lo menos que podemosdecir es que se trata de una definición bastante vaga. Si latomásemos como definición operacional de la inteligencia humana,diría, al mismo tiempo, muy poco o demasiado. Es evidente que lafacultad de pensar no es para Descartes lo mismo que inteligencia.O si lo es, debe incluir en ella aspectos como la capacidad depercibir e imaginar, enriqueciendo nuestra concepción deinteligencia.9 Lo curioso es que Descartes negaba estos atributos alos animales, considerándolos meras máquinas10. Aunque puedaparecer una visión muy cruel de los animales, resulta una visiónbastante real de lo que debe ser una máquina. En realidad, no esdescabellado afirmar que en estos aspectos un animal puede serbastante superior a cualquier máquina inteligente. Para poner sóloun ejemplo, la capacidad espontánea que tiene un perro dereconocer el rostro o el tono de voz de su amo –no digamosolfatearlo- es algo que excede la capacidad de cualquiercomputador digital de última generación. Por lo demás, elatribuirle cierto grado de inteligencia a un animal no es nadadescabellado, tomando en cuenta que son nuestros parienteslejanos, si hemos de hacerle caso a Darwin. La posición deDescartes puede estar totalmente descarriada en relación con losanimales, pero no en lo que debe ser una máquina. Si a alguna

máquina le pudiésemos atribuir algún grado de conciencia o, másaún, de autoconciencia, dejaría de ser una máquina.

Uno de los argumentos que se esgrimen con mayor frecuencia encontra de las pretensiones de la IA es que ninguna de lasoperaciones que es capaz de realizar un computador está acompañadade conciencia. Como señalaba acertadamente Turing, gran parte delos argumentos en contra del supuesto carácter pensante de lascomputadoras puede ser considerado como una variante de esteargumento básico. Por esta misma razón debemos revisarlodetenidamente, más aun tomando en cuenta que será uno de losargumentos básicos que Penrose va a utilizar en contra de la IA.

Como en todo argumento, lo importante no es tanto el contenidocomo la forma de que está revestido. A menudo suele considerarse ala conciencia como algo específica y exclusivamente humano, de talmodo que cualquier cosa que no sea humana carece de conciencia.Seguramente así pensaba Descartes cuando consideraba a losanimales iguales a máquinas, así como nuestro cuerpo. Pero esteargumento resulta viciado desde su origen. La aparentecontundencia de este argumento reside en su total circularidad. Esevidente que si definimos a una máquina como algo propiamente nohumano y consideramos a la conciencia como un rasgo exclusivamentehumano, entonces es inevitable concluir que las máquinas sonincapaces de tener conciencia. Por otro lado, si encontrásemos unamáquina capaz de ser consciente, a partir de ese momento dejaríade ser tal, sería también humana. Más que una imposibilidad real,estaríamos en presencia de una imposibilidad lógica, de unacontradicción, de la negación de una tautología. Estamossimplemente en presencia de una definición: Toda máquina es, porprincipio, incapaz de ser consciente. Como en el ejemplo clásico:“Todos los cuervos son negros” se reduce a afirmar que: “Todos loscuervos negros son negros”. Este argumento es irrefutable, perocarece por eso mismo de contenido alguno. Si el problema queestamos analizando no es algo puramente formal, sino algo tambiénmaterial, que debemos decidir de forma empírica, ateniéndonos alveredicto final de la experiencia, el argumento anterior resultatotalmente insuficiente, al menos tal y como lo hemos planteadohasta ahora. Debemos, entonces, revisar nuestra premisa y dejarabierta la posibilidad de que existan cosas conscientes no-humanas, que exista la posibilidad de encontrar “cuervos nonegros”, de encontrar “máquinas conscientes”. Debemos mantener

esta actitud abierta, pues de lo contrario nuestro argumento puedeser simplemente el reflejo de un prejuicio, traduce un orgullo ouna vanidad inmerecida: solamente nosotros podemos ser realmenteconscientes, nada –o nadie- más. Admitir, en fin, que una máquinaes consciente, nos conduciría reconocer que no es la conciencia loque nos hace humanos, como pensaba Descartes.

Un argumento bastante socorrido contra la IA, formalmente similaral anterior, consiste en excluir de la esfera del pensar todo1 Este trabajo fue publicado originalmente en EPISTEME NS, Vol. 20, No. 1, 2000,pp. 29-49. Hemos hecho algunas mejoras y añadidos. Por otro lado, hemos queridodedicar este trabajo a la memoria de Eduardo Piacenza, pues seguramente estetrabajo hubiese sido blanco de sus críticas o “reparos” -como solía decireufemísticamente-, de haber tenido la oportunidad de hacerlo. Como alguien quehizo de la argumentación un “modo de vida”, hubiésemos sido objeto de agudoscomentarios que redundarían en mejorar lo escrito. Lamentablemente ello no es yaposible, aunque espero que este breve ensayo sea valorado más en este caso comoun humilde homenaje a alguien que siempre fue un desafiante interlocutor, sinperder nunca por eso la compostura ni dejar de transmitir su gran calidezhumana y su fino sentido del humor. Por lo pronto nos conformaremos simplementecon arrancar una mueca de alegría en su rostro barbado, donde quiera que seencuentre. 2 En esto nos reconocemos más cercanos al espíritu de un García Bacca que de un Heidegger. 3 La nanotecnología permite desarrollar aparatos cada vez más pequeños y almismo tiempo más veloces y con mayor capacidad de almacenamiento o memoria. 4 Los ludistas fueron la más extrema expresión de esta idea. Con ello nopretendemos, por otro lado, desconocer la situación de “paro estructural” queocurre en países avanzados, en la medida en que labores tradicionales sonpaulatinamente sustituidas por máquinas. Parece que la utopia tecnológicaimaginada por algunos optimistas ha devenido parte de la pesadilla imaginada porlos más pesimistas. Y tal parece que un uso más racional de la tecnología esindispensable si hemos de sobrevivir en este diminuto planeta. 5 Penrose, R.: La nueva mente del emperador, Barcelona, Grijalbo-Mondadori, 1995,pp.23s. En este libro se ocupa de estos temas fundamentalmente en el primero yúltimo capítulo. Penrose es un reconocido matemático y físico y ha hecho aportesimportantes a ambos campos. Tal vez su contribución más importante ha sido en elcampo de la relatividad generalizada y la cosmología, junto con su amigo StephenHawking. Su libro El camino de la realidad, México, Mondadori, 2007, es la obra másacabada de sus ideas cosmológicas y físicas. También tiene otros libros en loscuales se ocupa del tema de la mente humana.6 En lo sucesivo nos referiremos al tema con las siglas en español, pues en ingles se utiliza AI. 7 Turing, A.: “¿Piensan las máquinas?”, en Newman J.R., El mundo de las matemáticas,Barcelona, Grijalbo, 1983, p.46. Más adelante abordamos con más detalle laposición del genial pionero de la IA.8 Descartes, R.: Meditaciones acerca de la Filosofía Primera. Seguidas de las objeciones yrespuestas, Bogotá, Universidad Nacional de Colombia, 2009, p. 255 y p. 89. Setrata de una hermosa edición bilingüe, latín-español y francés-español, cuya

aquello que hasta ahora es capaz de hacer un computador yconsiderar como pensamiento solamente aquellas cosas que no hasido capaz de realizar. Lo que caracterizaría propiamente elpensamiento humano sería el conjunto de actividades que no ha sidoo no es capaz de ejecutar. Es evidente que siempre podemosconsiderar cosas que una computadora nunca ha realizado aún o que,tal vez, nunca podrá realizar: como enamorarse, disfrutar de unapetitoso bocado o sentir un orgasmo.11 Pero no es esto el objetivode la IA, sus pretensiones se reducen al modelaje de lasactividades intelectuales de la mente humana –aunque en lasactividades antes mencionadas es posible que exista un ingrediente

traducción estuvo a cargo de nuestro estimado profesor Jorge Aurelio Díaz.Obviamente nos llevaría muy lejos hacer un análisis exhaustivo de Descartes,como nos invita esta labor de traducción.9 Puede encontrarse una interesante crítica de la tesis dualista de Descartes enDamasio, A. R.: El error de Descartes, Barcelona, Crítica, 2001. Véase también LlinásR.: El cerebro y el mito del yo, Bogotá, Norma, 2003 ywww.revistanumero.com/39cere.htm . Estos estudios se ubican dentro de una nuevadisciplina: la neurofilosofía. Nuestra opinión es que los avances en lacomprensión de la química cerebral y la explicación científica de la concienciano la eliminan ni la convierten en una mera ilusión filosófica. Sin defender undualismo como el de Descartes, lo cierto es que el carácter subjetivo de laexperiencia consciente o autoconsciente no puede ser suprimida y tiene unacualidad no reducible a lo físico o bioquímico, a lo puramente material. El yono es una mera ficción gramatical: las experiencias de primera persona no puedenser reducidas a experiencias de tercera persona. En otras palabras, si bienDescartes no estaba completamente en lo cierto, pues el yo no es una substanciacompletamente separada de la materia, tampoco estaba completamente descarriadoal atribuirle a la mente humana una realidad no material, vale decir,espiritual. Claro que algunos defensores de la IA, como Ray Kurzweil, ya hablande la existencia de “máquinas espirituales”. Por cierto que Descartes anticipómucho de los argumentos en contra de la IA ante la posibilidad de diseñarautómatas carentes de mente. Véase también Lukomski, A.: El problema Mente-Cuerpo,Bogotá, Universidad del Bosque, Colección “Filosofía y Ciencia”, Vol. 4, 2001. 10 Véase “El dolor de María” de José Luis Díaz, en este mismo blog, en el cualel gato de María, se llama, y no por casualidad, Descartes. Como muy bien lorelata este autor, se pueden conocer todos los mecanismos fisiológicos que estánen la raíz del sentimiento de dolor, pero si se carece de la experiencia deldolor es difícil, por no decir imposible, comprender o saber de que se trataverdaderamente. Algo similar podríamos decir de los actos conscientes engeneral. 11 Véase Turing, op. cit. pp.48ss. Podemos, por ejemplo, diseñar una máquina yun programa que gane al mejor ajedrecista del mundo, como ocurrió con Deep Bluede IBM en 1997, pero, como dijo Gari Kaspárov en esa oportunidad, la máquina nopuede disfrutar de su triunfo, - aunque sí, desde luego, y bastante, aquellosque la diseñaron. Por cierto que esa victoria de la máquina vs. el hombre, legeneró bastantes ganancias a IBM y bastantes antipatías del público contra susingenieros.

intelectual. Como indicaba Turing, la debilidad de este argumentoes la de todo argumento inductivo: se cree que una computadora escapaz de realizar solamente lo que ha hecho hasta ahora. Cuandoapenas se empezaban a desarrollar las primeras computadoras habíauna gran cantidad de cosas que se pensaba que eran imposibles derealizar por ellas y que hoy son algo absolutamente rutinario12.Podríamos contra-argumentar, también inductivamente, que como granparte de lo que antes estaba fuera del alcance de las computadorasya no lo está, entonces nada impide que aquellas cosas que hastaahora no ha podido realizar estén bajo su alcance en el futuro.Aunque tampoco es un argumento concluyente, pues ningún argumentoinductivo lo es, lo cierto es que la IA surge “when mechanicaldevices took over any tasks previously performable only by humanminds.”13 A juzgar por todos los avances de los últimos años, losavances en redes neuronales y sistemas de procesamiento enparalelo por ejemplo, el desafío de la IA, de que toda actividadmental humana es realizable también, en principio, por unamáquina, no debe ser considerado descabellado ni ser tomado a laligera.

Otro argumento que también aparece con frecuencia contra la IA,consiste en señalar la imposibilidad de que algo puramentematerial pueda dar origen a algo inmaterial como la conciencia.Dejando a un lado las posibles complicaciones a las que nosconduciría el clasificar a algo como material o inmaterial, esteargumento tampoco resiste un análisis serio. La conciencia, aligual que la vida, tiene su origen en la organización de lamateria inorgánica, por lo que no es imposible, en principio,reproducir las condiciones iniciales que dieron origen a ambas.Por improbable que ello haya sido, es innegable que han sidoprocesos materiales y físicos los que han dado origen a la vidaprimero y luego a la conciencia. Por más emergentes y novedosasque sean la vida y la conciencia, ellas son el resultado decomplejos procesos físicos y químicos que apenas comenzamos a

12 Puede encontrarse una lista bastante completa de estas actividades enHofstadter, D.: Gödel, Escher, Bach: An Eternal Golden Braid, (o por las siglas GEB:EGB),New York, Vintage Books, 1980, pp. 601ss. Hofstadter denomina este argumentocomo el “teorema de Tesler”, el cual formula así: “once some mental function isprogrammed, people cease to consider it as an essential ingredient of ‘realthinking’. The ineluctable core of intelligence is always in that next thingwhich hasn’t yet been programmed” o, más brevemente, “AI is whatever hasn’t beendone yet”, Ibid. p. 601. Hay diversos links con relación a este libro. 13 Idem

comprender. El reciente descubrimiento del genoma humano es unejemplo, así como toda la investigación que se lleva a cabo sobrela neurofisiología del cerebro humano. Y si nos ponemos acomparar, la posibilidad de crear inteligencia por mediosartificiales ha resultado algo mucho más sencillo que crear vidade manera totalmente artificial. El que la conciencia tenga unabase material no dice nada a favor o en contra de la IA. Y, comoveremos más adelante, tampoco el hecho de que el cerebro sea, comosostiene Searle, un “wetware” y no un “hardware”.

De nuevo, todo el asunto nos remite a dilucidar qué entendemos porpensar. Si definiésemos la actividad de pensar solamente como laactividad de resolver problemas, independientemente de que en esteproceso interviniese o no lo que llamamos conciencia, resultadifícil negarle esa virtud a las computadoras. Como siempre, estonos resuelve un problema pero nos crea otro, pues ahora debemosaclarar nuestro concepto de “resolver problemas”. La resolución deproblemas abarca un dominio bastante amplio de operacionesposibles. Existe una parcela de problemas que pueden resolverse demanera mecánica mediante la aplicación de una determinada regla decálculo, conformada por una serie de pasos finitos previamentedefinidos. De hecho, las modernas computadoras surgen, en parte,del diseño de máquinas, como la máquina de sumar y restar dePascal o la de multiplicar y dividir de Leibniz, que realizabanoperaciones relativamente complejas en un tiempo bastante menor alque le llevaría a un ser humano promedio. Si definiésemos a lascomputadoras como meros dispositivos de cálculo, tendríamos queadmitir no solamente que son inteligentes, sino que son mucho másinteligentes que cualquiera de nosotros o que cualquier geniohumano en esa área. (Hay personas que muestran una gran eficienciaen esta área, aunque en otras pueden ser considerados bastanteatrasadas. Los franceses han acuñado el término de “idiot savant”para referirse a estos casos. La película de Barry Levinson, “RainMan”, de 1988, en la que Dustin Hoffman encarna un caso particularde autismo, también ejemplifica lo anterior, al ser capaz derealizar cálculos complejos rápidamente, pero al ser incapaz decomprender razonamientos que subyacen en operaciones simples).

Si pusiéramos a competir al más eficiente de los calculistashumanos con una computadora moderna el resultado sería evidente.En gran parte la eficiencia de una máquina reside precisamente enque solamente es eso: una máquina, en que está diseñada para

realizar procesos puramente mecánicos y mecanizables, en loscuales no interviene para nada la conciencia. La rapidez con queuna máquina realiza cálculos complejos no deja ninguna duda de quese trata de eso: una máquina. No sería difícil distinguir, alrespecto, entre las respuestas de una máquina y un ser humano.Pero qué ocurriría si existiese una máquina capaz de responder atodas nuestras preguntas como lo haría un ser humano – lo cualsupone cierta homogeneidad entre las respuestas que daríacualquier ser humano-, si sus respuestas fueran indistinguibles delas que daría un ser humano ante el mismo problema o situación.¿Deberíamos atribuirle pensamiento en ese caso? De contestarafirmativamente a esta cuestión, y sólo en ese caso, el problemase reduciría a: ¿es posible, en principio, construir una máquinade acuerdo a la especificación anterior? Todo ello nos lleva aotra cuestión básica: ¿Podemos considerar a todo proceso mentalcomo el producto de algún proceso mecánico subyacente, de algunaregla algorítmica y computable de procedimiento? Si la respuestaes sí, entonces nada impide que una máquina pueda, en principio,reproducir dicho procedimiento y en esa misma medida atribuírseleuna mente y en consecuencia, pensamiento. Como veremos másadelante, buena parte del argumento de Penrose contra la IAconsiste en la imposibilidad de establecer semejante homología.

Suele señalarse también que una computadora es capaz de realizaractividades propias del ser humano, pero no es capaz de integrartodas estas funciones dentro de un todo unificado, sólo puedetrabajar serialmente y tomando en cuenta cada función a la vez.Este argumento desconoce todo el avance que se ha hecho en elcampo de las redes neuronales y en el intento de modelar elfuncionamiento en paralelo del cerebro. Se trata de un campoabierto de investigación, sobre el cual no se ha establecido laúltima palabra.Una de las objeciones más interesantes ha sido la señalada porfilósofos del lenguaje como John Searle. Para él, elfuncionamiento inteligente de una computadora se mueve en el planode la mera simulación. Sus respuestas pueden ser indistinguiblesde las de un ser humano, pero ello no se traduce en ningún momentoen una comprensión real del mundo. La razón de ello es muy simple:el lenguaje que ellas utilizan se mueve en un ámbito puramentesintáctico, están diseñadas para funcionar con un lenguaje formal,carente de significado.14

Otra de las objeciones que suelen plantearse en contra de la IA –denominada por Turing como “la objeción de Lady Lovelace” dirigidaa la “máquina analítica” de Babbage– consiste en señalar que lasmáquinas sólo hacen lo que le pedimos que hagan, son merasherramientas al servicio del hombre. Incluso en los casos en quees capaz de autoprogramarse o programar a otras, aun así requierede la inteligencia humana que la ha diseñado con tal fin. Esteargumento, si lo podemos considerar como tal, ha sido utilizado,desde hace tiempo, en diversos contextos y responde a la necesidadde encontrar una causa primera, la causa de toda causa o elprincipio de toda la serie de causas y efectos, evitando así unindeseable regreso al infinito.15 En otras palabras, responde a lanecesidad de encontrar un fundamento para la existencia de unaserie causal. Pero este argumento se revierte contra quienes loutilizan, pues también cabe preguntarse por qué hemos dedetenernos en el hombre como el artífice de las máquinas. ¿Nopodemos considerar también a los hombres como máquinas programadasa partir de un código genético que es trasmitido de generación engeneración? ¿No somos los seres humanos producto también de las“programaciones” que recibimos a través de la educación y delmedio que nos rodea? ¿Hasta qué punto nuestras pautas depensamiento son también el producto de “programas” innatos oadquiridos? ¿Nuestros instintos y nuestras conductas inteligentesno son también el reflejo de estas programaciones previas? ¿Noformamos acaso parte del mismo universo y debemos obedecer a lasmismas leyes? ¿Estamos, en realidad, en una situación tandiferente de las máquinas que usamos?

Todo esto nos lleva a plantearnos cómo es la estructura básica deluniverso y las leyes que lo rigen. ¿Vivimos en un mundo gobernadopor una necesidad ciega, en un mundo regido por leyesestrictamente deterministas? Y en ese caso ¿cómo podemos seragentes libres, cómo podemos tomar decisiones de modo voluntario ylibre? Surge entonces la pregunta: ¿qué tan libre somos realmente?¿No estamos permanentemente sometidos a serias restricciones ennuestra forma de pensar y de actuar? ¿Podemos incluso definir lalibertad fuera de este marco restrictivo? ¿No serán, entonces, la14 Véase en este mismo blog nuestro artículo “John Searle y la Inteligenciaartificial”. Más adelante analizaremos la posición de Penrose con relación aalgunos puntos de vista de Searle. 15 En relación con este argumento, y otros que hemos discutido aquí, puedeconsultarse a Marx Wartofsky, Madrid, Alianza Editorial, 1976, tomo II, pp.487ss.

conciencia y la libertad humanas meras ilusiones, que surgen pornuestra ignorancia de los mecanismos subyacentes que los originan?¿Podrá una máquina diseñada de acuerdo a las especificaciones dela física cuántica, una máquina probabilística, borrar lasdiferencias entre el pensar humano y el de una máquina? ¿Estaráahí la clave para el desarrollo de la IA en el futuro?

De este modo, la pregunta inicial, aparentemente simple, sobre silas máquinas pueden pensar, nos ha remitido a toda una serie deproblemas relacionados entre sí, para desembocar en elplanteamiento acerca de nuestro papel dentro del inmenso universodel que formamos parte ¿Somos meros engranajes dentro de unmecanismo majestuoso que apenas comenzamos a entender? ¿Suponenuestra presencia alguna diferencia importante en el marco deluniverso, responde a alguna finalidad específica? En caso de queasí sea: ¿cuál pudiera ser ésta? ¿O somos simplemente el productode un azar sin ningún propósito? A continuación analizaremos lasrespuestas que da Penrose a estos problemas.

LA NUEVA MENTE DEL EMPERADOR

Este es el sugestivo título de la obra de Roger Penrose. Se tratade una obra solamente comparable a la que diez años antesescribiera Hofstadter. Si esta última constituye una de lasmejores defensas de la IA, la primera, como señala Martín Gardneren el prefacio, “es el ataque más poderoso nunca escrito contra laIA”. Aunque cada una de estas obras defiende tesis opuestas, ambasson similares en algunos aspectos. Ambos son libros realizados porespecialistas en matemáticas y en física, aunque van dirigidos aun público mucho más amplio que el del especialista y hanresultado ser todos unos “best sellers”. En la medida de loposible, se trata de evitar un lenguaje demasiado técnico y cuandono hay más remedio que introducirlo, realizan una labor bastantepedagógica de aclaración conceptual. A pesar de la gran variedadde temas que son tocados en ambos libros, podríamos decir que cadauno propone una clave básica para su comprensión. Si el deHofstadter está escrito siguiendo el espíritu lúdico de LewisCarroll, el de Penrose puede ser condensado en el espíritu lúdicode Christian Andersen, del niño que ve lo que ningún adulto quierever y se atreve a decirlo: El emperador está desnudo.

Podría objetársele a Penrose que si la cuestión es tan evidente, ytodo el problema de la IA puede ser respondido sin problemas porun niño, por qué nos ha sometido a un recorrido tan extenso y seocupa de cuestiones abstrusas de lógica, matemática o física. Peroello no hace sino indicar lo complejo que puede ser el llegar auna respuesta simple, lo difícil que puede resultar para un adultoconservar la visión infantil, el asombro metafísico del niño antelos enigmas que nos plantea la realidad, así como la capacidad dever lo obvio que los demás no son capaces de ver. Recobrar esavisión, al mismo tiempo simple y profunda de un niño, constituyepara Penrose la clave para la solución de nuestro problema. Aunquenuestra pregunta inicial pueda parecer simple y pueda requerir unarespuesta simple, encierra, como ya hemos visto, “temas profundosde la filosofía”.

¿Qué significa pensar o sentir? ¿Qué es una mente? ¿Existen realmentelas mentes? Suponiendo que sí existen, ¿en qué medida dependen de lasestructuras físicas a las que están asociadas? ¿Podrían existir mentesindependientemente de tales estructuras? ¿O son simplemente los modosapropiados de funcionar de (ciertos tipos apropiados de) estructurasfísicas? En cualquier caso, ¿es necesario que las estructurasrelevantes sean de naturaleza biológica (cerebros) o podrían tambiénestar asociados con componentes electrónicos? ¿Están sujetas a lasleyes de la física? ¿Cuáles son, de hecho, las leyes de la física?”16

Pero si la clave para la solución de nuestro problema esrelativamente sencilla, debemos desentrañarla siguiendo ciertospasos previos en los cuales surgen estas cuestiones. La mayoría deestas cuestiones ya han sido asomadas en nuestro planteamientogeneral del problema, aunque tendremos que detenernos en ellas conmás detalle con la finalidad de analizar la posición asumida porPenrose al respecto.

PENROSE Y LA IA

Uno de los pioneros de la IA es, sin duda, el matemático inglés,Alan Turing. No sólo sus planteamientos, sino también las posiblesobjeciones a estos planteamientos –como ya tuvimos oportunidad dedestacar-, fueron claramente formulados en un artículo publicadooriginalmente en la revista Mind, en 1950, bajo el título de“Computing Machinery and Intelligence”. Aunque ya antes se habíaocupado de cuestiones de computabilidad, cálculo efectivo o

16 Penrose, op. cit. p.24.

recursividad, es de este ensayo que arranca el planteamientocentral de la IA.

Allí Turing reformula la pregunta, ¿pueden pensar las máquinas?,en términos de un experimento imaginario, de un test o, como él lollama, un “juego de imitación”. Los integrantes de esta prueba soninicialmente: Un hombre (A), una mujer (B), y un interrogador (C),que puede ser hombre o mujer. La prueba consiste en que C puedasaber cuál de los dos es el hombre y cuál la mujer. Para ello debepermanecer en una habitación separada de A y B, desde donde debede plantear una serie de preguntas a ambos que puedan arrojarlepistas de quién es quién. Para que el resultado dependaexclusivamente de las respuestas de ambos y no de otros factorescomo la voz, las respuestas deben ser pasadas por escrito pormedio de un dispositivo apropiado. A esto hay que añadir que si Adebe dar respuestas engañosas o pistas falsas, B en cambio debeayudar al interrogador a encontrar la respuesta correcta. Puesbien, la pregunta acerca de si una máquina puede pensar o no sereduce para Turing a sustituir en el caso anterior A por unamáquina. O dicho de otro modo: si las respuestas de A son igualesa las de B para un tercero C, entonces podemos afirmar que Apiensa. Todo se reduce, así, a la posibilidad de diseñar unprograma y una máquina apropiada que pueda superar con éxito estaprueba. Se dice, entonces, que si una máquina es capaz de superarcon éxito “el test de Turing” ello es una prueba de que piensa.17

Para Penrose este test puede ser considerado “como aproximadamenteválido en su contexto”. Desde un punto de vista puramenteoperacional, tendría validez, pues “el operacionalista diría queel computador piensa con tal de que actúe de manera indistinguiblede cómo lo hace una persona cuando está pensando.”18 El test deTuring es perfectamente compatible con este marco operacional, conun modelo conductista o de caja negra, para el que sonirrelevantes los procesos que se dan internamente; lo importanteson las preguntas de entrada y las respuestas de salida, los

17 Cf. Turing, op. cit. pp. 36-60. Una importante aplicación del test de Turinges el Captcha ( Completely Autometed Public Turing Test to tell Computers and Humans Apart), enel cual se nos solicita transcribir una imagen distorsionada de letras onúmeros, para que el programa pueda diferenciar a una persona de una máquina,inhibiendo así el correo chatarra o spam (marca de la carne que recibían lossoldados de EEUU durante la Segunda Guerra Mundial). Por eso se llama tambiéntest de Turing inverso. 18 Penrose, op. cit. p. 27.

inputs y los outputs. Por cierto que este es el modelo a partirdel cual se construyen las computadoras. En cuanto a considerarlocomo un modelo apropiado para explicar la mente o elcomportamiento humano, existen dudas razonables.

La cuestión de fondo que subyace a este planteamiento es la de quetoda actividad, ya sea la de una máquina o la de un ser humano,traduce la ejecución de una regla mecánica de decisión, esexpresión de algún algoritmo. Es evidente que muchas actividadeshumanas y procesos de pensamiento son altamente mecanizables. Eldiseño de cualquier máquina responde a esta posibilidad yrepresenta una gran utilidad en la medida en que nos libera detareas que son puramente mecánicas y repetitivas. Como ya loseñalaba Whitehead, el avance de la civilización puede medirse porla cantidad de actividades que pueden realizarse de maneramecánica, sin pensar en ellas, dejando disponible el pensamientopara otras tareas. Pero ¿podemos afirmar válidamente que todas lasactividades mentales humanas son mecanizables, pueden convertirseen rutinas ejecutables por una máquina?

Como señala Penrose, existe cierta ironía en el hecho de que seael propio Turing el que nos dé la pista para respondernegativamente a esta pregunta. La razón, sin entrar en complicadascuestiones lógicas, es la siguiente: sabemos que una máquinaejecuta un algoritmo si es capaz de detenerse una vez que obtieneun resultado, pues éste es definido precisamente como un procesode pasos finito que da un resultado determinado correcto19. Pero elmismo Turing llegó a la conclusión de que no es posible diseñaruna máquina universal que determine para toda máquina si va adetenerse o no. Que una máquina se detenga o no es algo que nopuede resolverse o decidirse de forma mecánica. Ni siquiera elcampo de las matemáticas se deja encerrar, todo él, en laejecución de un algoritmo y eso que constituye su mayor fuente yorigen. Como repite de diversas formas Penrose, “la decisión sobrela validez de un algoritmo ¡no es ella misma un procesoalgorítmico!”20 y “la verdad matemática no es algo que averigüemossimplemente utilizando un algoritmo.”21 Para él existe un elementoesencialmente no algorítmico en el pensamiento humano consciente yque, por lo tanto, no puede ser reproducible o modelable por unamáquina, no importa lo compleja que esta pueda ser. El pensamientohumano tiene un ingrediente no algorítmico, que no se deja reducira un proceso mecánico repetible.

La posición de Penrose comparte algunas de las ideas señaladasanteriormente por Searle, aunque difiere en algunos aspectos deél. Para Searle, la posibilidad de que una máquina ejecutesatisfactoriamente un algoritmo no es ninguna prueba de quepiensa. Un computador digital está diseñado para manipular signos,para operar dentro de un nivel exclusivamente sintáctico, pararelacionar un signo con otro, y carece de esa dimensión semántica,más aún pragmática, del lenguaje humano, de la que se surge lacomprensión y la conciencia. Al respecto Penrose dice: “El puntoimportante de Searle – y pienso que tiene bastante fuerza- es quela mera ejecución de un algoritmo correcto no implica en sí mismoque haya tenido ninguna comprensión.”22 Pero aunque se trata de unargumento bastante fuerte, no lo considera concluyente. Enparticular, considera que Searle expresa una confusióngeneralizada sobre el tema, y concede demasiado a la IA, cuandoseñala que el cerebro humano, como, en principio, cualquier cosa,puede ser considerado un computador digital. El libro de él sepropone precisamente “demostrar por qué, y quizá cómo, esto notiene que ser así.”23

19 Aunque la definición formal de algoritmo implica una serie de pasos finitos,una suerte de manual de instrucciones formuladas inequívocamente, de cuyaaplicación obtenemos un resultado también inequívoco, ello también se aplica enlos casos en que podemos hallar un resultado inequívoco, aunque la serie a laque se aplique sea infinita, como la serie de los números naturales, y debamoshallar si un número es par, impar, múltiplo de otro número, primo, etc. La tesisde Turing, también conocida como la tesis Church-Turing, es que siempre que sediseñe un algoritmo abstracto es posible también diseñar una máquina capaz dellevar a cabo dicho algoritmo, pues el lenguaje de una máquina está programadaprecisamente por medio de dichos algoritmos o diagramas de flujo, como se lesllama en programación. La idea de diseñar una máquina universal o un programaque pueda servir para toda máquina está en la base de los sistemas operativos,pues es el programa principal que permite ejecutar todos los demás programas.Sin embargo, el hecho de que el estado de una máquina funcione siempre deacuerdo a un algoritmo no se puede resolver de modo algorítmico, habría queesperar siempre a que se detenga en un punto. El teorema de Church señala algosimilar, la imposibilidad de reducir todo proceso de pensamiento a un procesopuramente mecánico. Algo parecido al teorema de incompletitud de Gödel, el cualdemuestra la imposibilidad de decidir acerca de la verdad o falsedad dedeterminados enunciados en todos los sistemas lógicos y matemáticos, como porejemplo, en la lógica de predicados de segundo orden o en la aritméticaelemental. Este punto, como veremos más adelante, es fundamental para Penrose.20 Ibid., p. 514.21 Ibid. p. 518.22 Ibid. p. 43.23 Ibid., p. 48.

El otro punto en que su posición difiere de la de Searle es el dela importancia que este último le confiere al material del queestán hechos los cerebros humanos, en comparación con el materialcon el cual construimos un computador. Para él, éste no es ningúnaspecto relevante y “en sí mismo esto no me parece señalar elcamino hacia una teoría de la mente científicamente útil.”24

Refiriéndose a posibles argumentos contra la IA, también añade que“el simple hecho de que el computador pudiera estar construido abase de transistores, cables y similares en lugar de neuronas,venas, etc., no es, propiamente dicho, el tipo de cosas queconsideraría evidencia en contra.”25 En este aspecto particular, suposición se aparta de Searle y se aproxima, de modo curioso, a latesis de la IA, contra la cual va dirigido todo su ataque, puescomparte con ella la tesis de la indiferencia con relación a laubicación del algoritmo: en la mente humana, en la máquina o en unmundo platónico de verdades matemáticas, como lo hace Penrose alfinal.26 A pesar de estas diferencias de detalle, está de acuerdo conSearle en lo esencial. No niega la utilidad de una IA débil27, laposibilidad de utilizar el cerebro humano para modelarcomputadoras o de utilizar la computadora como un modelo de lamente humana. La computadora puede ser vista como si fuese uncerebro humano y el cerebro humano como si fuese una computadora.La mente humana puede ser vista como si fuese el programa delcerebro humano. Hasta allí no hay problema. El problema surgecuando se elimina el “como si” fuera y se lleva a cabo unaidentidad o una reducción sin residuo entre ambos términos de larelación, como pretende la IA fuerte. También coinciden ambos enafirmar que la mente es explicable a partir de la evolución físicadel universo y que no hay ningún problema en ello. El “misterio dela mente” puede ser develado por la ciencia, pero ello no eliminala conciencia como algo real, sino que lo hace algo aún másmaravilloso. En este vasto universo lleno de espacio vacío, de24 Idem25 Ibid. p. 32.26 Penrose reconoce con sorpresa esta coincidencia: “No obstante, me siento algodesconcertado al descubrir que existen muchos puntos en común entre el punto devista de la IA fuerte y el mío”, Ibid., p. 533. Aunque Penrose crítica lapropuesta metodológica de Popper, también coincide sorpresivamente con supostulación de un Mundo 3 objetivo, diferente del mundo mental o del material.Véase también nota 29.27 La distinción entre IA débil e IA fuerte fue introducida por Searle. Véase nota 14.

materia inerte, de algo como la vida y, sobre todo, de algo comola consciencia, debe haber un valor selectivo para que haya habidoesta evolución. No se trata solamente de afirmar que si laconciencia ha emergido es porque se han dado las condicionesfísicas de tal evolución, lo que resultaría obvio, sino de laafirmación más importante todavía de que esta conscienciadesempeña un papel importante en esta evolución.28

La consciencia me parece un fenómeno de tal importancia quesencillamente no puedo creer que sea algo que sólo es “accidentalmente”producido por una computación complicada: es el fenómeno en el que sehace conocida la misma existencia del universo. Podemos argumentar queun universo gobernado por leyes que no permitan la consciencia no es ununiverso en absoluto. Diría incluso que todas las descripcionesmatemáticas del universo que se han dado hasta ahora deben incumplireste criterio. ¡Es sólo el fenómeno de la conciencia el que puedeconjurar un presunto universo “teórico” a la existencia real!29

Para nuestro autor, el carácter no-algorítmico de la concienciatiene mucho que ver con la propia creatividad y originalidad delpensamiento humano. Contrariamente a aquellos que ven en elinconsciente la fuente de esta creatividad y originalidad, élconsidera que son los procesos inconscientes los que se realizande modo algorítmico.30 Así señala: “mientras que la accionesinconscientes del cerebro son las que proceden según procesosalgorítmicos, la acción de la conciencia es muy diferente y actúade una forma que no puede describirse mediante ningún algoritmo”.31

La originalidad depende más del rechazo consciente a una idea quede la ocurrencia o propuesta de origen inconsciente. Los procesosconscientes sobre los que se basa el rechazo o no de alguna idea,aparecen en la emergencia de las intuiciones instantáneas,valorizaciones estéticas o de visualizaciones no-verbales, pues laidea de que el pensamiento consciente debe estar acompañado de un

28 Penrose va más allá del principio antrópico: “yo no puedo creer que elprincipio antrópico sea la razón auténtica (o la única razón) para la evolución dela conciencia. Hay evidencia suficiente procedente de otras direcciones paraconvencerme de que la consciencia tiene una poderosa ventaja selectiva, y no creoque se necesite el principio antrópico”, Ibid. p. 538.29 Se haría cierto el principio de todo idealismo: aunque debemos admitir que laconciencia es producto de la evolución del universo material, este universosolamente pasa a ser verdaderamente real gracias a la conciencia, por medio denuestro conocimiento o reconocimiento de la existencia de dicho universo. En esesentido, somos co-creadores de ese universo. Por otro lado, Penrose defiende laexistencia de un universo platónico de ideas, el cual sería autónomo respectodel mundo físico y al de las representaciones mentales.

lenguaje verbal es posiblemente la expresión de un juicio oprejuicio filosófico.32 Sin duda que hay actividades el las que ellenguaje está muy vinculado al pensamiento y son, en ciertosentido, inseparables. En la literatura o en el filosofar, porejemplo, por lo que “¡quizás sea esta la razón del por qué muchosfilósofos parecen ser de la opinión de que el lenguaje es esencialpara el pensamiento inteligente o consciente!”33 En cambio hay otras disciplinas en las que el lenguaje verbaldesempeña un papel completamente secundario, cuando no unobstáculo. Penrose hace referencia a la formación de juiciosestéticos que ocurren en creadores como Poincaré o Mozart, en losque aparece de golpe la verdad de un teorema, aún antes de sudemostración, o la totalidad de una sinfonía, aún antes de sutranscripción.

Son estos juicios lo que considero la impronta del pensamientoconsciente. Mi conjetura es que, incluso para el repentino golpe deintuición, aparentemente producido ya listo por la mente inconsciente,es la consciencia la que es el árbitro, y la idea será rápidamenterechazada y olvidada si no “sonase cierta”.34

Todo esto es relevante en este contexto, pues a Penrose le “parecepoco concebible que la verdadera inteligencia pudiera estarpresente a menos que estuviera acompañada de la consciencia.”35 Élreconoce que este es el tema que realmente le preocupa y leimporta: ¿qué papel desempeña la conciencia en el vasto universo

30 Cf. Ibid. p. 510 y passim. Esta idea resulta interesante, pues a menudo lacreatividad es asociada al inconsciente y no es considerada susceptible decomprensión racional o reproducción. Penrose invierte este punto de vista, alconsiderar que los procesos inconscientes obedecen a procesos algorítmicos y quela verdadera creatividad está en el acto conciente de rechazo a una teoría o unaidea, rechazo que no puede ser sometido a un proceso puramente algorítmico.31 Ibid. 510. Y un poco más adelante señala “que los procesos inconscientespodría ser perfectamente algorítmicos, pero en un nivel muy complicado que seríamonstruosamente difícil de desentrañar en detalle”. 32 Cf. Ibid. pp. 518-27. 33 Ibid. p. 526.34 Ibid. p. 523. Hemos abordado este tema con más profundidad en nuestroartículo: “Modelos y Metáforas. El uso de la analogía en la ciencia”, en estemismo blog. La idea básica es que el rechazo o aceptación de una teoría, elcambio de una teoría, no puede hacerse de forma puramente algorítmica opuramente lógica, pues intervienen en este proceso valoraciones o criterios deotro orden también. Este punto es el que dio origen a la famosa polémica Popper-Kuhn. Véase Imre Lakatos & Alan Musgrave (ed.): Criticism and the Growth of Knowledge,Cambridge, Cambridge University Press, 1981. 35 Ibid. p. 505.

del cual emerge? La conciencia marca una diferencia en este vastouniverso en que vivimos y no puede ser considerada como un meroepifenómeno de él. El universo cobra belleza porque somos capacesde descubrirla o, mejor dicho, la belleza de ese universo existegracias a que podemos componer un poema o una sinfonía.36

Podemos resumir todo este argumento del siguiente modo: Si laverdadera inteligencia debe estar acompañada de consciencia y sila consciencia es irreducible a un proceso de tipo recursivo oalgorítmico, entonces parece inevitable reconocer que la tesis dela IA-fuerte es errada. La idea de que un computador puede modelarla conciencia o, más aún, la autoconciencia humana, a través de unproceso de referencia o autoreferencia, es una idea completamentesuperficial de lo que todo ello representa. Aunque no lo mencioneen este contexto, seguramente está pensando en Hofstadter cuandodice: “Pero un programa de ordenador que contenga dentro de sí(digamos como subrutina) alguna descripción de otro programa deordenador no hace al primer programa consciente del segundo; niningún aspecto auto-referencial de un programa le hace auto–consciente.”37

La conciencia humana y el humano pensar –tan escasos y por eso tanvaliosos- son algo demasiado precioso para dejarlos en manos delas máquinas o para que ellas decidan, por nosotros, lo que es elpensar humano. Siempre hemos pensado, al analizar este tema, quela real fuente de preocupación acerca de la posibilidad de que lasmáquinas piensen realmente, deberá surgir solamente cuando ellassean capaces de plantearse y comprender esa misma pregunta enrelación consigo mismas y con nosotros, pues allí estaría elgermen de la conciencia humana. Y, lo que es peor, es posible que36 Véase “La decadencia de la mentira” de Oscar Wilde en este blog, en textosclásicos. Wilde compartiría el punto de vista platónico de Penrose, de quenosotros introducimos la belleza en el mundo natural, de que la “naturalezaimita el arte” en la provocadora expresión de Wilde. Para Penrose la concienciaestá en cierta forma fuera del tiempo físico, está fuera del intervalo deltiempo natural, pues entonces no podríamos comprender, en el caso de Mozart,ese “captar de golpe” que podía realizar de una composición musical por largaque fuese: “Debemos suponer, por la descripción de Mozart, que ese ‘golpe’contenía la esencia de la composición entera, pese a que el intervalo del tiemporeal, en términos físicos ordinarios, de este acto consciente de percepción nofuera en modo alguno comparable con el tiempo que se necesitaría para ejecutarla composición”, Penrose, op. ci. p. 551. Para él “hay quizá una estrechasimilitud entre la composición musical y el pensamiento matemático”, Ibid., p.552. En ambos caso se produciría alguna forma de contacto con una suerte deuniverso platónico intemporal, apartado de los objetos de la realidad ordinaria.Véase de nuevo nuestra dedicatoria. 37 Ibid. p. 508.

pudiesen llegar a la conclusión, tomando en cuenta muchas de lascosas que el hombre ha sido capaz de realizar, en particular, lasmenos buenas, que realmente no pensamos, pues si no una parteaparentemente insignificante de ese universo podría ser un mejorlugar para vivir. Quizás este sería el tipo de experimentoimaginario que se plantearía un niño para destacar lo que a él leresulta obvio: ¡El Emperador está desnudo!, lo cual significa quelas computadoras carecen de inteligencia real, pues carecen de lacomprensión y de la conciencia que acompaña a cualquier serhumano.38 Esta visión de niño no depende de todos los posiblestecnicismos, argumentos, o de la construcción de complejos modelosteóricos, como los que solemos emplear los adultos, a menudo sólopara inflar nuestros propios egos. Se trata más bien de unacaptación intuitiva de lo que resulta evidente, pues “por encimade estos tecnicismos está el sentimiento de que es realmente‘obvio’ que la mente consciente no puede trabajar como uncomputador, incluso aunque mucho de lo que está realmenteimplicado en la actividad mental podría hacerlo.”39

38 No se nos escapa el hecho de que pueda haber habido niños que se suicidasencuando se moría su mascota virtual o tamagoshi. Pero ello no hace sino reforzarnuestro punto: la excepción confirma la regla y habría que analizar cuáles sonlas razones que llevan en una determinada cultura a realizar dichos actos“absurdos”. Curiosamente, Marvin Minsky pensaba que podíamos considerarnosafortunados si las computadoras más sofisticadas nos mantenían a los sereshumanos como sus mascotas. 39 Ibid. p. 555. Esto no impide, en cualquier caso, que podamos seguirconsiderando la tesis de la IA como bastante interesante y útil, inclusofascinante, en la medida en que nos acerca a una mayor comprensión de nosotrosmismos y de nuestro lugar en el universo. La IA sigue siendo un modelo deinnegable fertilidad tecnológica, aunque de dudosa validez epistemológica. Elvalor heurístico de la IA débil, contrasta con la pobreza imaginativa de la IAfuerte. Al respecto señala Penrose: “Si alguna vez descubrimos en detalle cuáles la cualidad que permite a un objeto físico llegar a ser consciente, entoncessería concebible que pudiésemos ser capaces de construir tales objetos pornosotros mismos –aunque podrían no calificarse como ‘máquinas’ en el sentido dela palabra que ahora entendemos. Podríamos imaginar que estos objetos tendríanuna enorme ventaja sobre nosotros, puesto que podrían diseñarse específicamentepara la tarea a realizar, a saber, alcanzar consciencia…. Podríamos imaginar….quetales objetos podrían tener éxito en superar efectivamente a los seres humanos enlas tareas en las que (en opinión de gente como yo mismo) los computadoresalgorítmicos están condenados a la subordinación”, Ibid. pp. 515s. Laexistencia de tales “máquinas cuánticas” nos plantearía, de hecho, un dilemamoral, pues ya no podríamos tratarlas como simples máquinas o aparatos, sinocomo personas dotadas de conciencia. Como dice Penrose: “si los fabricantestienen razón en sus afirmaciones más radicales, es decir, que su aparato es unser pensante, sintiente, sensible, comprensivo, consciente, entonces nuestracompra del aparato nos implicará en responsabilidades morales. ¡Ciertamente lo haríasi hubiéramos de creer a los fabricantes! Sería censurable el simple hecho deponer en marcha el computador para satisfacer nuestras necesidades sin tener encuenta su propia sensibilidad. Eso no sería diferente de maltratar a un esclavo.En general, tendríamos que evitar causar al computador el dolor que losfabricantes alegan que es capaz de sentir”, Ibid. p. 30.