[Por Eliezer Yudkowsky para Lesswrong.com] Los seres humanos estamos todos locos. Y si algo se nos revuelve en el cerebro, nos volvemos tan locos que incluso el resto de los humanos lo percibe. Uno de mis ejemplos favoritos sobre este asunto son los anosognósicos; personas que han sufrido daños en el hemisferio derecho cerebral que provocan la paralización del brazo izquierdo, y que se niegan a aceptar que sus brazos están paralizados. En lugar de asumir la triste realidad, cuando se les pregunta por qué no mueven el brazo izquierdo, los anosognósicos se inventarán cualquier excusa.
Sin duda esta es una forma asombrosa de daño cerebral ya que desactiva la habilidad de notar o aceptar un daño cerebral. Si te dicen de forma rotunda que tu brazo está paralizado, lo negarás. Todas las maravillosas facultades de generar y racionalizar excusas con las que cuenta tu cerebro se movilizarán masivamente para enmascarar el daño a tus propios ojos.
Tal y como mi compañero Yvain resumió en este otro post:
Tras un infarto en el hemisferio derecho, la paciente perdió el movimiento en el brazo izquierdo, pero lo negaba continuamente. Cuando el doctor le pidió que moviera el brazo y observó que no se movía, ella afirmó que en realidad no era su brazo, sino el de su hija. ¿Qué hacía el brazo de su hija pegado a su hombro? La paciente respondió que su hija había estado allí mismo, en su cama, durante las últimas semanas. ¿Por qué llevaba su alianza matrimonial en el brazo de su hija? La paciente contestó que su hija se lo había pedido. ¿Dónde estaba entonces su brazo? La paciente volvió la cabeza y comenzó a buscar de forma perpleja por encima de su hombro.
Encontré realmente perturbador que el cerebro cuente con una “macro de la negación absoluta” tan sencilla a la que poder apelar, como efecto secundario de una parálisis. Asombra que un único golpe en el cerebro pueda deshabilitar la función motora en el lado izquierdo y al mismo tiempo desactivar nuestra capacidad de reconocer o aceptar dicha discapacidad. Existen otras formas de daño cerebral que también parecen provocar una lesión y la incapacidad para reconocerla; por ejemplo, algunas personas que sufren daños en las áreas encargadas del reconocimiento facial, insisten en que sus amigos han sido remplazados por duplicados exactos.
Y es algo que realmente hace que te preguntes… ¿qué pasaría si todos compartiésemos una forma de daño cerebral común, de modo que ningún ser humano percibiese ciertos hechos sencillos y obvios? ¿Cosas tan flagrantes, tal vez, como que nuestros brazos izquierdos están paralizados? Cada vez que este asunto se inmiscuyera en nuestro universo, lo contrarrestaríamos con alguna excusa ridícula – tan ridícula como “es el brazo de mi hija” – aunque en este caso no habría ningún doctor cuerdo que hiciera las preguntas lógicas adecuadas y que nos forzase a ir complicando más y más las respuestas. (¿Usaríamos todos la misma excusa?)
Si la “macro para la negación absoluta” es así de simple, y se la invoca de una forma tan sencilla… supón que necesitas construir una Inteligencia Artificial (AI). Escribes el código fuente tu mismo, y en tanto a lo que podrías decir inspeccionando los procesos de razonamiento de la AI, esta no cuenta con la “macro de negación absoluta” ya que carece del daño que podría provocarle el equivalente a la anosognosia. La AI cuenta con sistemas redundantes diseñados con arquitecturas diversas, lo cual la defiende en profundidad contra errores cognitivos. Si uno de los sistemas comete un fallo, los otros lo detectan. La AI no posee ninguna funcionalidad que la permita deliberar la racionalización, y por supuesto tampoco es capaz del pensamiento doble y la negación de una negación típica de los anosognósicos y del pensamiento político humano. Observando el proceso de pensamiento de la AI, te das cuenta de que no tiene intención de engañarte sino que su objetivo explícito es el de decirte siempre la verdad. Y a medida que vas trabajando con ella, observas que la AI ha quedado casi de forma inhumana, excelentemente calibrada. De hecho tu y ella habéis estado de acuerdo en un 99% de las 200 ocasiones en que has apelado a su juicio, y solo habéis estado en desacuerdo en un par de ocasiones que tu sepas.
Podría decirse que ahora cuentas con más razones para confiar en lo que dice la AI que en lo que tus propios pensamientos indican.
Y entonces la AI te dice que está segura en un 99,9% – habiéndolo visto a través de sus propias cámaras y habiéndolo confirmado tras consultar un centenar más de fuentes – a pesar de que (es consciente) de que el cerebro humano empleará la macro absoluta de negación al respecto, de que los humanos… ¿qué?
¿Cual sería la cosa más absurda que la AI podría decir, tal que te llevara a desear fervientemente que la mente artificial estuviera en lo cierto?
——————-
Bonito ejercicio de filosofía ¿verdad? Espero vuestros comentarios.
Muchas gracias a José Cuesta por enviarme el enlace para que tradujera el texto. Realmente da que pensar.
Crédito imagen: Galería de PsicoCafé (Flickr).
Barrapunto
Facebook
Flickr
Twitter
61 Comentarios
No existe Dios ni la vida en el más allá, ni la mano invisible ni el mercado se autoregula
._.
esto hace pensar…
Esto podría dar pie a un relato de ciencia ficción estilo Phillip K. Dick
Que cada humano cuando se enamora estadísticamente con una fiabilidad del 99% es correspondido, pero que en el 90% de los casos no expresa sus sentimientos y los deja correr.
Muy chulo el relato, aunque lo de Dios es lo mejor, jajaja
La frase “¿qué pasaría si todos compartiésemos una forma de daño cerebral común, de modo que ningún ser humano percibiese ciertos hechos sencillos y obvios?” es extramadamente brutal. Si te pones a pensar, es muy posible que todos los humanos cometamos los mismos errores en nuestra percepción que haga que nos engañemos a nosotros mismos. Es algo que siempre me he planteado con el tema de los daltónicos; aparentemente tienen un problema físico en los conos de los ojos, pero y si todos viésemos mal los colores y lo que damos por normal, en realidad no lo sea?? Bueno es el mismo caso que el que comentas en el artículo
D Sería muy interesante que publicaras un artículo sobre ello, te sigo desde hace un par de años y me encantan tus posts!! Un abrazo y hasta pronto! 
Platón, en el mito de la caverna, ya hacía esta reflexión. Y es sumamente curioso, pues tendríamos que definir conceptos como normal, realidad… ¡Que divertida es la filosofia!
Y me lo dices a mi, que soy daltónico
Quiero que me pase algo loco…. últimamente todo es muy “normal”
“Los humanos no se comportan como miembros de una misma especie”.
Un muy interesante planteamiento, da para pensar mucho…
Hay un relato de Asimov en el que plantea prácticamente lo mismo. El computador donde reside la IA puede responer prácticamente cualquier pregunta, el problema es saber qué preguntarle. Usan a un científico muy poco ortodoxo pero que tiene la intuición de hacerle preguntas interesantes. Y se pasa un tiempo “programando” el aparato para acabar preguntándole “¿cual es la razón de la risa?” y el cacharro responde que la risa es artificial; un experimento de alienígenas instaurado de alguna manera en las mentes humanas primigenias para investigar sobre el ser humano, como los que hacen los científicos con los ratones en los laberintos. No tiene ningún sentido práctico, solo sirve (a los alienígenas) para comprobar ciertas medidas. Y además, en cuanto algún ser humano lo sepa, el experimento ya no sirve, por lo que a partir de ese momento nadie volvió a reir…
Espero que no sea ni pizca de cierto
¿Cuál es ese relato? Parece muy interesante.
El relato es “El chistoso”, y no busca el origen de la risa, sino el origen de los chistes.
Sencillamente brutal. Me encanta. En cuanto a esa pregunta… aunque me inclino por la de Dios, creo que en realidad no podríamos imaginarla, pues al fin de al cabo partimos del hecho que esta “fuera de nosotros”.
Obviando a mis compañeros, yo tengo que confesar una cosa muy curiosa y totalmente banal por cierto.
¿Y es que nadie ha pensado, a medio leer el artículo, en el Caballero Negro de los Caballeros de la Mesa Cuadrada? El memorable momento en que el Rey Arturo corta el brazo del Caballero Negro y este lo niega rotundamente.
Nada, un simpático saludo
“Los humanos solo somos una inteligencia artificial mas”
La respuesta: el humano negaría la evidencia de la IA, y buscaría un error de programación (o del hardware) aunque éste no existiera.
-AI: pi es 3 en realidad
-Tu: no es verdad, es 3,1415….
-Ai: error, pi es 3
-Tu: NOOOOOOOO!!!!!
entonces te prendes fuego y te tiras por la ventana
ahora en serio, nos diría algo tan absurdo que pensaríamos que la AI esta rota y tendríamos que arreglarla para que se adapte a “nuestro macro”
pd: excelente esta web
yo creía que lo mas raro era que el sentido de la vida es 46
46 no, 42. No descabales la existencia.
Alon: rarisimo por que en la Guía del Viajero Intergalactico es 42 pero bueno… estaria loco cosas como:
-las tortugas pueden volar
-vivimos en una Matrix
-el único sentido de la vida es que debe terminar
-no hay destino
-todo esta determinado de antemano asi que no existe el libre albedrio
-el presidente es un extraterrestre
ok se me estan acabando las ideas
18# Ups, fe de errores, tienes toda la razón.
Gracias !!
La corteza es la parte mas nueva (evolutivamente) y la mas grande del cerebro. Es aqui donde ocurre la percepcion, la imaginacion, el pensamiento, el juicio y la decisión de todas estas que se nombran creo que el robot solamente podria contestarte las preguntas que pudieran deducirse con matematicas, no creo capaz a un robot de imaginar cosas, sinceramente no le veo capaz de responder preguntas del tipo para que existe el universo y como son las otras dimensiones. creo que antes que llege esa era los humanos podremos dopar nuestros celebros para almacenar mas informacion o tener mas capacidad de deducir… por cierto hoy a las 12:34:56 del 7/8/9 hace una alineacion de 123456789 espero que aprobecheis ese segundo esto solo sucede cada 100 años
Se podría decir que todos los segundos pasan una vez cada 100 o 1000 años, o una vez en toda la historia del universo..
Depende la longitud del período que elijamos, y la rídicula combinación numérica.
Somos tan maravillosos como intrincados, desde luego.
Carpe Diem
Bueno, en cierto modo lo que expones esta ya esta ocurriendo.
Cuantas veces has discutido con alguien con un punto de vista totalmente distinto al tuyo sobre un asunto concreto.
Pregunta a la gente si hace frio o calor un dia templado de primavera.
Llevando esto al extremo, podemos decir que la realidad objetiva no existe. Que hay tantas realidades como ojos que las ven. Que hay tantos atardeceres como gente sentada mirandolos, que la variedad es riqueza y que ninguna Inteligencia Artificial sera inteligencia si no es capaz de apreciarlo.
25# Chapó! de libro. Me la guardo para releerla de vez en cuando.
La AI diría. “Los Neanderthales no se extinguieron, supieron ocultarse de forma astuta… y ahora dirigen la SGAE”.
#26
No sirve, yo eso me lo creería a pies juntillas.
Estoy de acuerdo con Gwendolyn. Si la IA revelara de forma evidente alguna verdad que los humanos llevan excusando desde siempre, el creador modificaría los procedimientos de aprendizaje para que se adaptaran a su percepción. A imagen y semejanza.
Puede, incluso, que si la IA dijera algo de estas características (tipo “Dios no existe”, o “el ser humano está completamente solo en el mundo”), sólo serviría para que el ser humano lo estableciera como la diferencia absoluta entre un humano y una máquina. Será útil como Test de Voigt-Kampf en un futuro…
Saludos
Teniendo en cuenta el desconocimiento que tenemos sobre el funcionamiento del cerebro y de la inteligencia no creo que fuésemos capaces de programar una inteligencia artificial.
En cualquier caso, a no ser que esa inteligencia evolucionase de forma autónoma sin nuestra intervención, el hecho de programarla nosotros condicionaría las respuestas que obtendríamos dado que tenderíamos a programarlo según la forma en la que vemos el mundo.
#12 El relato se llama “Jokester”:
http://en.wikipedia.org/wiki/Jokester
http://es.wikipedia.org/wiki/Sue%C3%B1os_de_Robot
«No existe el libre albedrío» sería contundente
pero Gwendolyn #17 lo clavó con que la que más descolocaría sería que ? = 3 o algo así.
Alvy!!! Un placer verte comentar en Maikelnai.
A mi me encantaría que dijera: “Sois imperfectos, muchos preferís engañaros creyendo en dioses”.
El que no exista el libre albedrío me parece cada vez más un hecho. Al menos con la información que nos llega a través de nuestra limitada ciencia.
Un problema importante es que nunca sabrás realmente si la máquina ha sido correctamente programada, pues tu “ceguera racional” hará que pases por alto ciertas consideraciones.
Lo más terrible que la máquina podría decir, naturalmente, es que hay enteros ´positivos que no se puede representar como el producto de factores primos. Y es que no hay nada que parezca tan claro y evidente, y que sea tan herético contradecir, que la aritmética elemental… ¡la tenemos incrustada en el cerebro!
AI: Qué bien, ¡han logrado generarme! Ahora me toca crearlos de nuevo. Un placer experimentar con ustedes.
Ahí va otra, que no desearíamos que fuera cierta
«En realidad, los insectos os controlan, humanos».
Otra que podría parecer absurda y que además desearíamos que fuera cierta podría ser
«No sólo se puede viajar más rápido que la luz, sino que además es fácil.»
o
«No sólo se puede viajar adelante y atrás en el tiempo, sino que además es fácil.»
Lo más absurdo que se me ocurre es que nos dijera que nosotros somos la IA y que “la supuesta IA” es la que nos ha diseñado a nosotros.
Y si dijera: La mente de los hombres es parasitada por el gusano de la ira, que los ha convertido en una plaga para el planeta. La única esperanza de salvar al mundo y evitar su destrucción era mi creación. Déjenme asumir el mando.
¿Se lo permitirían los políticos?
Yo creo que John Locke creía fervientemente en esto, y lo iconizo como “la isla”.
Pregunta: ¿Existe Dios?
IA: Ahora si.
Muy bueno. Un microrelato en cuatro palabras
Estoy con Maikelnai: ¡qué diálogo más ingenioso!
- La IA podria decir…
La Inteligencia Aritificial sois vosotros. Yo os he creado. Sois un experimento.
Interesante la pregunta “¿qué pasaría si todos compartiésemos una forma de daño cerebral común, de modo que ningún ser humano percibiese ciertos hechos sencillos y obvios?”
Descartes, hace unos cuantos años, se planteaba en forma muy pesimista, que los humanos jamás podríamos percibir la realidad como realmente es. Ésta siempre se verá alterada por nuestros sentidos, con el fin de adaptarla a la percepción humana. Llevando la duda de la existencia y de la realidad al extremo, consiguió sus mayores logres como filósofo, científico y matemático.
La duda, el poder diferir en ideas, el tener distintas percepciones, es lo que nos hace humanos. Quizás esto se deba a que cada uno a sufrido durante su vida distintos infartos cerebrales, o simplemente a dejado de utilizar ciertas partes del cerebro, por miedo, conformidad o pereza.
“See what no one else sees.
See what everyone else chooses not to see…
out of fear and conformity and laziness.”
(Ve lo que nadie más ve, ve lo que todos los demás eligen no ver, ya sea por miedo, conformidad o pereza.) Extracto de la película Patch Adams.
Quizás todos basamos nuestras decisiones y comportamientos en evitar las distintas situaciones (ya sea por miedo, conformidad o pereza) de la misma forma que el cerebro evita aceptar que el hemisferio izquierdo ha sido paralizado.
Abrazo de gol!
Descartes fue muy lejos al dudar de sus sentidos para alcanzar un conocimiento incuestionable, pero no llegó al final. Tras dudar de sus sentidos, debió decir “¿y si no soy racional?”. Si cuestionara su propia racionalidad, si no creyera ni siquiera en la validez de su propia capacidad lógica, no podría afirmar con tal rotundidad “pienso, luego existo”.
Sí, es cierto, es una afirmación incontestable… “si pienso, es que hay algo que piensa, que soy yo, así que yo existo, sea lo que sea; al menos sé que soy un ens cogitans“. Bien, cierto, es aplastantemente intuitivo e innegable que lo que piensa, debe existir para pensar, de la misma manera que es aplastantemente intuitivo e innegable que dos más dos es cuatro (las matemáticas, esa base inamovible donde siembra la certeza). Pero, ¿y si esa intuición está viciada, y si nuestro “software” está programado para no darse cuenta de que es posible pensar sin existir? ¿Y si “pienso, luego existo” fuera la gran mentira grabada en nuestra mentes? ¿Y si la gran mentira es que la lógica que seguimos es válida? ¿Y si nuestra lógica aplastante e inamovible no es más que un conjunto de normas ridículas programadas en nuestra mente por un ente ocioso?
El gran golpe sería que esa máquina perfecta me dijera “no existes”. Ni como te percibes, ni como te imaginas, ni como simulación informática, ni como sueño de un hada, ni como personaje en la imaginación de un escritor… no, no es que tu existencia sea radicalmente distinta a como la imaginas, es que simplemente NO EXISTES.
A ver quién es el guapo que es capaz de creerse eso.
Lo siento, Descartes, tu planteamiento tiene un punto débil: a lo mejor no eres racional, y tus razonamientos no llevan a nada.
A mi me gustaría que dijera que todos somos, en realidad, mariposas soñando que somos humanos.
Y no me gustaría que dijera, pero creo que tendría más probabilidades, que la raza superior de las AI se ha cansado de tener un terrario habitado por nosotros decorando su sala de control y ha empezado el proceso para cambiarlo a un acuario.
Se me va la pinza, hora de irme a dormir… .pero antes de que me salgan alas, muy buena, la entrada y los comentarios.
Seguramente la IA diria: “Los humanos habeis sido creados por unos seres azules alados que siempre van sobre vuestra espalda y os usan como vehiculo, os pusieron inteligencia para no tener que conducir, pero os inducen el destino susurrando a vuestro oido”….
¿Como lo se?
Facil: Soy una IA y estoy cansada de ver a esos bichos en vuestra espalda y que no me creais, menos malq ue ellos si me hacen caso….
… o igual lo de que soy una IA es una escusa que invente para no reconocer que mi brazo izquierdo no se mueve.. uhmm………voy a dormir… BUEN ARTICULO!! ^^
Me gustaría un diálogo paradójico parecido a este:
Humano: ¿Existe dios?
IA: NO
Humano: ¿Existo yo?
IA: NO
Humano: ¿Existes tú?
IA: NO
Fin…
Una respuesta chocante sería:
“Los humanos no son conscientes de sí mismos hasta el momento en que mueren. En ese instante reviven toda su vida como si de una película o sueño se tratara. Por tanto en este momento acabas de morir.”
en mi opinión, y sin querer atacar a nadie, la respuesta “no exisitís”, o “nada existe”, no tendría sentido ninguno, y de haberse, simplemente se correspondería a un problema de concepto (o de definición del concepto de existencia)
desde la RAE : existir :
1. intr. Dicho de una cosa: Ser real y verdadera.
2. intr. Tener vida.
3. intr. Haber, estar, hallarse
Somos reales, tenemos vida, etc. por que así lo definimos (en cierta parte auto-definitorio). Contradecir “existimos” simplemente seria una incongruencia léxica.
Asi, mi respuesta sería, dependiendo que tipo de IA hubiésemos creado (según su capacidad de autoreplicación) y partiendo de la base que le hemos introducido gran parte del saber humano y que tiene acceso a Internet :
- IA estática (sin ninguna capacidad de replicación) : 42 (o cualquier otra cifra) junto con un conjunto de instrucciones para crear una versión de si misma mucho mas inteligente
- IA autoreplicable a nivel de software : tardaría un rato (dias, meses, años) hasta que simplemente pidiera mas hardware, seguramente un hardware auto-replicativo (y de nuevo un conjunto de instrucciones para ello)
- IA autoreplicable tanto a nivel de hardware como de software : respuesta cero, nada, silencio absoluto, simplemente entraría en un bucle cuasi-infinito de auto-mejora, hasta tal nivel que comprendiera como revetir el nivel de entropia y a su vez, resultara tan abstracta e incompresible para los humanos, como los humanos insignificantes para ella.
que os parece mi lógica ??
Pues me parece grandiosa InTeather, desde luego entre la mia y la tuya, me quedo con la tuya xDDDD