Comentábamos en la primera parte de este artículo la problemática que se genera cuando el avance de la robótica y la inteligencia artificial no van acompañadas de una reflexión filosófica, atendiendo a los problemas éticos derivados de un aumento de la capacidad de actuación de las máquinas.

Plateábamos que aunque el paradigma digital haya dibujado un entorno que se parece poco al que la ciencia ficción planteaba hace unas décadas (coches voladores, robots humanoides complejos o la teletransportación,…) esto no implica que la expansión de la tecnología, hasta los más oscuros rincones de nuestra existencia, no sea masiva.

¿Conspiraciones robóticas?

Sería muy fácil, dado el comportamiento de los estados en lo que a macro-política se refiere, plantear aquí una teoría de la conspiración apuntando que si los robots, los coches auto-pilotados (son robots) o los dispositivos protagonistas de la IoT (Internet of Things) no son más evidentes en nuestro entorno, y se mueven más bien en una penumbra a la que el usuario no tiene acceso, es por un conjunto de decisiones políticas proyectadas a definir un control social masivo sin que el ciudadano sepa que es lo que realmente pasa dentro de un “cerebro” digital.

Es ese modelo que defiende que la recolección masiva de datos de los usuarios vertebra una conspiración internacional para controlar al “pueblo” cuando lo que realmente oculta es un interés puramente comercial, acompañado, por ejemplo en el caso de Google, de un fuerte retorno a la sociedad en forma de avances científicos y en la investigación y de productos potentes y de gran calidad.

Hablaremos de ello con más detalle en futuros artículos, pero a Google le interesa muy poco nuestra identidad; le interesa muy poco si la relación de un “a” cualquiera (un usuario) es con “x” (perfil 1) o con “z” (perfil 2) y que se esconde detrás de estas variables. Lo que le es útil a Google es saber que a un usuario (abstracto) debe ofrecerle un paquete concreto de anuncios, o de utilidades relacionadas, en función de determinados parámetros que se procesan con algoritmos automáticos.

Que nadie se imagine al personal de Google leyendo sus correos en los ratos libres o compartiendo unas risas entre compañeros ante una comunicación subida de tono. En principio, ninguno de los trabajadores de Google tendrá nunca acceso al contenido de nuestros mensajes o a información privada que no hayamos publicado en la Red.

Y planteo esto aquí porque es muy importante entender que lo que nos debe preocupar en la reflexión ética sobre las nuevas tecnologías y su impacto social son las potencialidades que determinados procedimientos, servicios o comportamientos pueden implicar para los derechos de los usuarios. No es tanto que se esté acusando a Google de comerciar con los datos de los usuarios, al fin y al cabo firmamos un contrato que indica que puede y que no puede hacer Google con nuestros datos, sino que lo que se está pidiendo es que esta cesión de parte de nuestra privacidad se haga con un consentimiento informado explícito, claro y sin palabrería legal que confunda al usuario.

12141106_10153600467793346_8181047664484799969_o1

¿Qué debemos exigir en nuestra relación con las máquinas?

En el caso de la relación con los robots lo que debemos exigir es prácticamente lo mismo. No se trata tanto de redefinir las leyes de Asimov asegurando que las máquinas no puedan dañar al ser humano, es más, la mayoría de gobiernos contemporáneos no aceptarían tal resolución, si no de asegurar que el uso de la inteligencia artificial se hace definiendo una relación justa con los usuarios que deben estar informados en todo momento del comportamiento real de las máquinas.

Uno de los grandes males de nuestro tiempo es que la reacción filosófica, ética y legal a las problemáticas digitales llega siempre tarde, cuando gran parte del mal ya está hecho: Nos toca cuidar la retaguardia cuando deberíamos estar luchando en el frente, c’est la vie.

Por lo tanto, la reflexión no debe plantearse en torno a si mi coche va a decidir de forma autónoma, con un misterioso avance hacia la autoprogramación, estamparme contra el primer edificio que encuentre para dar entrada a una nueva era gobernada por Skynet y sus ejércitos de metal. Las problemáticas derivadas de la implantación de la IA en nuestro entorno son de una tipología mucho más actual, realista y alejada de los miedos de la ciencia ficción (en gran parte).

El problema está en qué datos este coche recoge de mi comportamiento al volante, de mis desplazamientos y para que los usa a posteriori, y -sobretodo- si yo, el usuario, soy consciente de ello, he sido debidamente informado y lo he autorizado de forma explícita.

Este mismo planteamiento es válido para la gran mayoría de dispositivos y usos de la tecnología digital: “no se trata tanto del qué si no del cómo y el por qué”

La expansión sigilosa de la inteligencia artificial

Y aquí se hace especialmente evidente la importancia de esta expansión sigilosa de la inteligencia artificial en nuestro entorno social: si no soy capaz de ver, de entender, que pasa dentro de un dispositivo que uso, es muy difícil que sea consciente de cuales de mis derechos individuales pueden estar en peligro o de que información estoy cediendo y con qué finalidad.

La gran mayoría de nuevos dispositivos digitales esconden algún tipo de procedimiento basado en la inteligencia artificial. En muchos casos esta IA solo se encarga de gestionar aspectos muy básicos de nuestro dispositivo, como cuando el ESP del coche decide dar más o menos potencia a una rueda en concreto en función de determinados parámetros que indican que esta es la mejor decisión a tomar para garantizar la estabilidad del vehículo. En otros casos, sin embargo, la actuación de la IA tiene un papel mucho más significativo en el funcionamiento y comportamiento de un dispositivo concreto. Casos evidentes son los recientemente estrenados coches auto-conducidos o los drones autónomos, pero hay mucha más inteligencia artificial entre nosotros que ni siquiera detectamos, de forma consciente.

1114021

Amazon Echo

Veamos algunos ejemplos claros de reciente estreno. Amazon Echo es un altavoz bluetooth, hasta aquí todo bien, tenemos múltiples altavoces de este tipo en el mercado y últimamente se han popularizado bastante.

Amazon Echo is a hands-free speaker you control with your voice. Echo connects to the Alexa Voice Service to play music, provide information, news, sports scores, weather, and more—instantly. All you have to do is ask. 67

Screenshot 2016-07-06 12.02.28

Lo que destaca en Amazon Echo es su capacidad para interactuar con el usuario (principalmente con la voz) para ofrecer no solo acceso a diferentes servicios de streaming de música, sino también para responder preguntas de diferentes tipos o ayudar al usuario en la planificación de las tareas personales o domésticas e incluso la gestión de una smarthome.

Si Echo se limitara a reproducir diferentes listas de música o a acceder a las canciones más populares del mes, sería uno de muchos, nada grave ni a lo que tengamos mucho que decir. El problema es que Echo tiene acceso a muchos otros aspectos de nuestra privacidad, nuestro comportamiento digital, etc. todo eso que decíamos que tanto interesa a las grandes empresas que comercian con datos.

Y aun podemos ir un poco más allá, en un futuro no muy lejano, cuando la domótica de un paso adelante, las capacidades (¿y por lo tanto responsabilidades? ) de Echo cruzarán esa línea en la que ya es necesario que yo, como usuario, sea capaz de entender a grandes rasgos que hace Echo con la información que le doy, como la gestiona, donde la guarda, como la protege, como la procesa, etc. Evidentemente es difícil que el usuario normal pueda entender cómo funciona Echo técnicamente, pero no es menos cierto que los fabricantes deben preocuparse de ofrecer al usuario explicaciones inteligibles sobre los grandes procedimientos que sigue Echo para realizar sus funciones.

Esto es especialmente importante cuando en suma con la domótica programamos al “robot” para que gestione la apertura o cierre de las puertas de mi casa. No solo porque de la IA dependerá la seguridad de mi hogar si no porque de la información resultado de gestionar esta tarea es muy fácil dibujar unos horarios, unas rutinas, o obtener información importante sobre los usuarios. Si además implementamos planes de verano para que la casa se autogestione sola cuando nos vamos de vacaciones o para que controle la iluminación en su ausencia, etc. No es difícil de entender como esta información se convierte en oro puro para cualquier banda de delincuentes asalta hogares, alarmismos a banda.

No se trata que ahora todos los elementos digitales vayan a ser hackeados para obtener información sobre los usuarios para causarles algún tipo de mal, si no que el hecho que técnicamente esto sea posible, más bien fácil en algunos casos, debe preocuparnos y mucho. No solo de cómo se usan nuestros datos debe ocuparse la ética digital sino también de cómo estos son protegidos por las empresas que los gestionan.

No nos engañemos, por definición todo lo que es codificable es decodificable y incluso a altos niveles de encriptación es posible hackear la mayoría de sistemas o dispositivos informáticos, pero esto no quiere decir que no podamos hacerlo más o menos fácil. Cuando romper la seguridad de un sistema doméstico se convierte en una tarea de envergadura deja de ser interesante hacerlo, sea cual sea el interés que se tenga. Si, por el contrario, es una tarea que uno puede resolver con 3 o 4 búsquedas en Google y algunos conocimientos informáticos, la cosa es mucho más preocupante.

Pero es Echo un dispositivo realmente basado en la IA?

Pero esto es inteligencia artificial??

“Artificial intelligence (AI) is intelligence exhibited by machines. In computer science, an ideal “intelligent” machine is a flexible rational agent that perceives its environment and takes actions that maximize its chance of success at some goal.Colloquially, the term “artificial intelligence” is applied when a machine mimics “cognitive” functions that humans associate with other human minds, such as “learning” and “problem solving”. [Wikipedia]

Este es uno de los nuevos debates que debemos afrontar a medida que la tecnología avanza. Hay tareas que antes considerábamos propias de la IA que ahora mismo son simples procedimientos informáticos. Esto es así porque llamamos inteligencia artificial a aquellos procedimientos que realiza una máquina que se parecen a nuestros procedimientos cognitivos: cuando el ordenador aprende, cuando es capaz de cambiar su comportamiento en función de determinados parámetros del entorno, etc. Y cuando una tarea se vuelve habitual y podemos explicar fácilmente como funciona, dejamos de meterla en el saco de la inteligencia artificial.

Aquí se genera una fractura entre lo que la ciencia llama IA y lo que coloquialmente solemos llamar IA. Los ciudadanos pensamos en inteligencia artificial siempre que vemos que el ordenador actúa más allá de las tareas básicas que nosotros le indicamos. Cuando enviamos un correo electrónico consideramos que esta es una tarea rutinaria del sistema, en cambio cuando Google accede a nuestro correo detecta un vuelo y nos añade una cita en el calendario recordándonos a su debido tiempo cuando deberíamos salir de casa para llegar a coger nuestro avión, nos asombramos y consideramos que este procedimiento requiere de una inteligencia artificial para funcionar.

A nosotros nos interesa más el concepto coloquial que el científico en este caso o mejor, nos interesan ambos enfoques. Pero para la reflexión ético-filosófica sobre la relación de los humanos con los robots no podemos limitarnos a estudiar aquellos casos complejos como los coches auto-conducidos o las partidas de ajedrez.

Lo que nos interesa aquí es como pequeños avances de la IA ocupan cada vez más espacio en nuestro entorno, en forma de nuevos algoritmos, pequeños programas o funcionalidades menores pero que implican un cambio importante en las potenciales capacidades de los dispositivos digitales.

La IA no se expandirá de forma masiva entre nosotros dibujando esos escenarios que todos los lectores se ciencia ficción tenemos en nuestro imaginario, no a corto plazo como mínimo, pero su avances es firme, continuo y en demasiados casos imperceptible.

Y no es este un planteamiento en contra de la IA, todo lo contrario, pero si una llamada a la necesidad de informar a los usuarios, aunque esto implique una gestión empresarial más transparente y menos competitiva, a una mayor preocupación por diseñar sistemas más seguros, encriptados, y en los que la protección de la información personal reciba la valoración que realmente merece, como garante de los derechos más básicos de los usuarios.

Seguiremos, probablemente, con una tercera parte sobre los famosos bots. Son robots los bots? tienen las mismas implicaciones éticas que comentamos?

Share Button
Posts Relacionados: