Compartir
Publicidad

Be Evil: malos de ciencia ficción tecnológica demasiado creíbles

Be Evil: malos de ciencia ficción tecnológica demasiado creíbles
4 Comentarios
Publicidad
Publicidad

Reconozcámoslo, ese futuro al que la distopia ochentera describía como un mundo de grandes corporaciones tecnológicas con opacos intereses y gobiernos tratados como simples títeres, o incluso cabezas de turco, es muy parecido a nuestro presente. Es cierto que aún los coches avanzan sobre el asfalto y que a pesar de todo la tercera guerra mundial parece lejana, pero ojo, las grandes compañías hoy se sienten con fuerza suficiente como para exigir a los gobiernos leyes que sean favorables a sus intereses comerciales, hasta los medios de comunicación ya teorizan con la posibilidad de que una gran corporación pueda hacerse con la deuda de un país en apuros. Sumad a esto que los robots ya son conscientes de su propia existencia y ya tenemos el circo montado.

Evidentemente la realidad actual no asusta tanto, pero sí lo hace en cierta medida la certeza de que mucha de las cosas que han ido sucediendo los últimos años ya se apuntaban en la irreal ciencia ficción del siglo pasado. Sí, acertar es fácil cuando disparas en ráfaga y en todas las direcciones (la sci-fi no escatima gasto en balas), pero que diversos planteamientos pretéritos vayan reflejándose en nuestra ya realidad cotidiana comienza a levantar suspicacias al respecto de que todo esto pueda terminar en pesadilla.

Pensemos en Google, por ejemplo. En sus avances tecnológicos, las patentes, las acusaciones de monopolio, su poder... en que mucho de lo que nos contaron hace décadas autores como Arthur C. Clark, Dan O'Bannon o William Gibson parece ir tomando forma. Pensad en el encaje que tiene la actividad de la empresa de Mountain View en la distopia ochentera o en obras más recientes como las de Ernest Clyne o Spike Jonze. Pensad en todo eso y veréis como una ciencia ficción en la que Google/Alphabet o cualquier otra empresa tecnológica actual es el malo parece cada vez más posible.

Y esto no se nos ha ocurrido a nosotros. Gran parte del público ya lo cree.

Relax, es sólo una IA de nada

Googleis.jpg

Terminator, película dirigida por James Cameron y basada en relatos del escritos Harlan Ellison, quien se fogueó en esto de la ciencia ficción trabajando como guionista para series como 'The Twilight Zone' o 'Star Trek'.

Vista durante los años ochenta la historia parecía un "inocente" acercamiento a una realidad distópica en la que el desarrollo de la robótica se nos había ido un poco de las manos. Persecuciones, pólvora y pánico a aleaciones mecánicas fueron la tónica de las primeras entregas, pero la cuestionable última entrega de la saga, la cual no sabemos si es un reboot, un remake o una simple continuación, plantea algunas cosas que, por lo cotidianas que resultan para muchos de nosotros hoy día, hielan la sangre.

Claro, el desarrollo de la inteligencia artificial con destino militar ya se había descrito tanto en la primera como en la segunda parte, pero la idea de que Cyberdyne Systems Corporation fuese mucho más allá de la creación de los androides y convirtiese a Skynet en una especie de nube (con su tablet o teléfono móvil bajo el brazo) omnipotente y omnipresente, a imagen y semejanza de servicios que muchos ya conocemos, y omnisciente, no solamente significa actualizar un relato que de haber quedado inalterado habría sonado hoy algo obsoleto, sino que convertirlo en sugerente y aterrador al mismo tiempo.

Y lo es no sólo por plantear que los robots en el futuro podrán acabar incumpliendo las leyes de la robótica en el momento que desarrollen capacidad de racioncino, sino también porque el desarrollo de la internet actual permite que el relato tenga un encaje creíble en la realidad que vivimos, dotando de verosimilitud a una historia que hace 40 años no era más que una simple película de acción. Lo dicho, una inteligencia artificial de nada.

Hal 9000 en la Tierra, cuidado con las cámaras

Webcam
Espionaje a través de tu webcam, nuestra conspiparanoia favorita

Dejando a un lado la parte de la epopeya en la que Stanley Kubrick y Arthur C. Clark debaten al respecto del origen de la humanidad, el sexo de los ángeles y la existencia de un entre sobrenatural que lo controla todo, o apoyándonos en eso precisamente, la concreción de la historia en la disputa entre la tripulación y la inteligencia artificial Hal 9000 por el control del Discovery 1 nos acerca, aunque de forma indirecta, a un relato en el que una gran corporación mantiene un objetivo oscuro y el ordenador hace todo lo posible por alcanzarlo.

En la película de 1969 el ordenador aparece representado por una cámara cuyo objetivo tiene una tonalidad roja cuando está operativo, consciente tanto de lo que sucede tecnológicamente en la nave como de lo que dicen y hacen cada uno de sus tripulantes. Un Gran Hermano, vamos. Pues ahora mirad por un momento encima de la pantalla de vuestro ordenador portátil o a vuestro móvil, a ese punto negro que en realidad es un objetivo, a ese sobre el que circulan leyendas urbanas (y no tan leyendas) de que es utilizado por las grandes empresas o algunos malhechores para espiarnos, para grabar lo que hacemos frente a él, para recoger todas las conversaciones que mantenemos dentro de su área de recepción.

En la ficción el ordenador se sirvió de toda la información recogida para defenderse frente a una desconexión por parte de la tripulación, utilizando todo recurso tecnológico de la nave para acabar con ella y poder así mantenerse al mando de las operaciones. Con los datos que se recogen hoy en día en Internet, los que cedemos abiertamente y los que no, ¿cómo de fácil se lo habríamos puesto a una entidad (autoconsciente o corporativa) para actuar contra nosotros?

Hay peña vendiendo esto, vosotros veréis.

¿Y si Neuromante no hablase de Internet, sino de un futuro Facebook?

Aunque es cierto que el origen de lo que hoy conocemos como internet procede de unos años más atrás, la palabra ciberespacio fue acuñada por el escritor William Gibson, quien desarrolla en profundidad el concepto en su novela 'Neuromante', publicada en 1984. La obra cumbre del cyberpunk describe un futuro apocalíptico en el que una gran corporación lo controla todo, sirviéndose de los implantes subcutáneos que todos los ciudadanos llevan como medio de acceso a un mundo interactivo, llamado La Nube.

La retórica nos devuelve a la máxima de que la información es poder y a eso parece jugar la corporación en la novela al igual que hoy aparentan estar haciendo las grandes empresas de la, ejem, "nube". Sin utilizar la información de todo lo que almacenamos en servicios como Drive, Onedrive, Dropbox o lo que enviamos a través de Gmail y otros servicios de correo, sí, pero sirviéndose del rastro que dejamos en la red cuando buscamos información, cuando compartimos un enlace, cuando accedemos a la red desde cualquiera de nuestros dispositivos.

Toda la información recopilda en internert se utiliza para conocer nuestros gustos, intereses y así ofrecernos servicios personalizados

En la novela, la información recopilada tras la alucinación consensual generada por la interconexión es poder para la gran empresa, un ente con más capacidad de acción que el gobierno. En la realidad, toda la información recopilada se utiliza para conocer nuestros gustos, nuestros intereses y así ofrecernos servicios y publicidad personalizados (¿Demasiado personalizados?). Y todo ello basándose en qué hemos hecho y qué estamos pensando hacer.

Seguro que alguien te ha dicho alguna vez que el ordenador/el móvil te está chupando el cerebro; en el mundo de Neuromante basta tener implantado el microchip para poder acceder a la Nube; eso sí, obligándote a un "estado de alucinación compartido". Imagínate ahora un mundo en el que el acceso es directo, la interacción total, y ese estado de alucinación compartida es real. Y ahora piensa de nuevo en cuando Facebook compró Oculus y Zuckerberg dijo aquello de:

Oculus tiene la oportunidad de crear la plataforma más social jamás creada y cambiar la forma en la que trabajamos, jugamos y nos comunicamos. Tras los juegos, vamos a convertir a Oculus en una plataforma para muchas otras experiencias. Imagina disfrutar de un asiento en la cancha de un partido, estudiar en una clase con alumnos y profesores de todo el mundo o realizar una consulta con un doctor cara a cara… simplemente poniéndote unas gafas en tu propia casa.

Conduciendo con máquinas, ¿cómo las diferenciamos de nosotros?

Googlebus
Si te cruzas con el Google Bus, desconfía

Aunque el relato creado por Masamune Shirow tiene claras semejanzas con la famosa trilogía de William Gibson, lo realmente interesante del manga japonés se basa en la relación ético-filosófica que emana de la convivencia entre hombres y máquinas. Especialmente en lo difícil que es diferenciar a unos de otros cuando los humanos pueden utilizar a un robot como recipiente para su cerebro y las máquinas han alcanzado la autoconciencia.

En el manga el autor habla del 'ghost' como elemento diferenciador entre hombres y máquinas, algo así como el alma en la terminología religioso-occidental. Según el relato, el 'ghost' actúa como eje de comportamientos originados por los sentimientos o la empatía y su existencia puede ser detectada tecnológicamente, lo cual permite averiguar si aquel con el que se interactúa es hombre o máquina.

Bien, pensad ahora en el experimento que está realizando Google desde hace algunos años, lanzando a las carreteras de Estados Unidos a automóviles sin mayor tripulación que un ordenador con un férreo sentido del respeto por las normas de tráfico. Pensad en ello y en si seríais capaces de discernir si ese lento vehículo que lleváis delante está siendo conducido por una tranquila ancianita o por un ordenador cuya programación no le permite superar los 90 kilómetros por hora en una vía secundaria.

En Google están empeñados en que acabemos conviviendo en nuestras carreteras con vehículos con la tripulación echándose la siesta, trabajando o viendo vídeos en youtube, vehículos a los que gritar porque van demasiado despacio es posible que nos sirva de nada. El problema es que de momento los ordenadores no han sido capaces de evitar accidentes a pesar de su impresionante capacidad de cálculo y de procesamiento, ya que carecen de capacidad de adaptación a situaciones imprevistas o contextos alterables por otros sujetos.

Ahora bien, si en una carretera soleada y en buen estado en la que todos son robots menos tú hay un accidente... ¿como puedes estar seguro de que la culpa ha sido de una de las máquinas y no tuya? Quién sabe, puede que al gritarles por circular demasiado despacio hayas alterado el contexto.

¿Trabajas en Google? Tío, qué envidia

Más o menos esto es lo que exclamamos todos cuando nos cruzamos con uno de los 'afortunados' que trabajan para la empresa de Mountain View, ¿no? Pues Dave Eggers en su libro El Círculo no piensa lo mismo, y lo cuenta de una forma directa y bastante elocuente.

Cierto es que la empresa en cuestión no se llama ni Google ni Alphabet ni nada parecido, pero también lo es que no pensar en ella durante el transcurso de la novela es imposible. El interés de la corporación es, aparentemente, utilizar a sus empleados como adalides de la transparencia, una estrategia comercial que, evidentemente, oculta intenciones oscuras tras ella según plantea la novela.

Email, Redes Sociales, operaciones bancarias, contraseñas... todos tus datos bajo control de una gran corporación

La utilización de toda esa información, la de lo almacenado voluntariamente, y la de lo realizado por todos en el día a día, supone la amenaza de un régimen totalitario que se sustenta precisamente en el conocimiento de todo lo que se es y de todo lo que se hace, actuando en consecuencia primero para ganar dinero y después como estrategia de dominación. Email, perfil en RRSS, operaciones bancarias, contraseñas únicas... según plantea Eggers las mismas no ponen en riesgo la actividad económica del individuo ni su supuesta libertad de actuación, pero la transparencia de sus actividades acaba significando trabas indirectas pero aplastantes a todas ellas. Y la sensación de estar vigilado continuamente.

Llegados a este punto es imposible no pensar en la estrategia de Google encaminada a convertirse en un entorno único monopolizador de nuestra actividad en internet, por mucho que Google + como punta de lanza (y supuesto rival para Facebook y Twitter) haya sido un fiasco. En la novela de Dave Eggers lo revolucionario acaba siendo la desconexión, una forma de vivir al margen del control de la gran empresa y casi al margen de la ley. Hoy ese planteamiento parece a atraer a muchos, recelosos de poner toda su información en manos de una única gran empresa.

Trabajar en Google debe ser la leche, claro, pero no creo que todos estuviésemos dispuestos a dar nuestra libertad a cambio.

Me he enamorado de Scarlett Johansson. Bueno, de una máquina con su voz

Transhuman

Soledad y dificultad para entablar relaciones sentimentales, una de las consecuencias de la sociedad informatizada en la que vivimos. Un sistema operativo diseñado para hacernos compañía, que moldea su personalidad de acuerdo a las necesidades que el usuario presenta, capaz incluso de mostrar, aparentemente, sentimientos como el amor o el odio. Una voz sugerente y hasta la posibilidad de juguetear con el sexo cibernético, probablemente una herramienta de dominación social en ciernes que en la película de Spike Jonze se queda en un relato de amor y posterior desamor que podría haber ido mucho más lejos de haber traspasado la puerta abierta hacia la retórica de la conspiración.

Entretenimiento puro y duro que finalmente se acaba convirtiendo en una realidad mucho más atrayente que la del mundo tangible, aquel en el que tras la voz hay una boca y esa boca se encuentra en una cara a la que se puede mirar, tocar, acariciar, hasta besar. La necesidad que se torna adicción podría haber enmascarado situaciones como las que insinuaba Aldous Huxley en su relectura al clásico Un Mundo Feliz (1932), relectura que hablaba de la creación de una especie de herramienta gracias a la cual los gobiernos controlarían a sus ciudadanos a cambio de entretenimiento y esparcimiento sexual como forma de evitar convulsiones sociales y golpes de estado, una herramienta a la que todos estarían conectados y que serviría para la comunicación y el control de los individuos, internet, vamos.

Her no va en esa dirección pues a pesar de todo es una historia amable, o no excesivamente amarga, sobre la soledad y la necesidad de interrelación. Su relato no se resiente pues la soledad y el amor son conceptos suficientemente potentes como para cimentar desde ellos un planteamiento como el del desarrollo de una inteligencia artificial capaz de mostrar sentimientos, ya sean reales o fingidos.

Ahora bien, pensad por un momento en lo que Aldoux Huxley planteó hace más de 60 años al respecto de su novela y la posibilidad de una intención oscura en la adicción desarrollada en la relación entre humanos y máquinas. Pensad en el planteamiento de individuos que prefieren vivir relaciones en un entorno virtual o con inteligencias artificiales y herramientas que pretenden centralizar toda nuestra vida a través de ellas, la virtual y la real. Pensad en las divertidas respuestas de Siri, o en la posibilidad de que los robots acaben acaparando la prostitución.

Pensad en una gran empresa controlando todo eso. Ale a conspirar.

Imágenes | Flickr, Pijama Surf

Temas
Publicidad
Comentarios cerrados
Publicidad
Publicidad
Inicio