Nuria Oliver es probablemente la ingeniera de telecomunicaciones más reconocida de España. Es doctora por la Media Lab del Instituto Tecnológico de Massachussets (MIT) y experta en inteligencia artificial de prestigio internacional. Actualmente es Chief Data Scientist en Data-Pop Alliance, Chief Scientific Advisor en el Vodafone Institute y está al frente de la Unidad ELLIS (European Laboratory for Learning and Intelligent Systems, proyecto del que es cofundadora) de Alicante.
Andrés Pedreño es catedrático de Economia Aplicada. Ha sido rector de la Universidad de Alicante, fundador de la Biblioteca Virtual Miguel de Cervantes, es consejero de Universia, director del Observatorio para el Análisis y Desarrollo de Internet y fundador de Torre Juana Open Space Technology. Recientemente ha publicado el exitoso libro “Prevenir el declive en la era de la inteligencia artificial” junto a Luis Moreno.
Nos entrevistamos con ellos para hablar de tecnología y responsabilidad social en Torre Juana.
En estos últimos meses hemos apostado por el teletrabajo como medida para frenar la pandemia. ¿Consideráis que es una cuestión que pueda generalizarse sin más teniendo en cuenta las condiciones laborales de nuestro país?
A: Hay actividades que no se pueden permitir el teletrabajo, pero nuestra experiencia en una de nuestras empresas nos dice que quienes han estado teletrabajando no han vuelto ni piensan volver al sistema anterior y además hemos encontrado mucha más eficiencia, más productividad… Hemos aprendido a hacer las cosas muy rápidamente, muy diligentemente, con una mayor coordinación. Lo que también es cierto es que hemos perdido, quizá, la capacidad de interactuar, que es algo importante… Creo que hay un elemento humano en la presencialidad que nos motiva, y cuando comienza el teletrabajo algunos miembros se sintieron muy aislados, necesitaban ese sistema social. Es curioso, hay otros que no lo necesitan, quizá porque su ambiente familiar o su relación social puede que sean más ricos. Para quienes venían de fuera de España, que están trabajando y tienen pocos contactos, parece que el teletrabajo, unido al aislamiento del confinamiento, les ha supuesto una situación personal muy dura…
N: Efectivamente, si no tienes un entorno social el teletrabajo puede ser muy duro.
Ahora estamos en el momento del impacto, pero encontraremos otras vías para socializar, ¿no? Nos haremos un replanteamiento de por qué la socialización es a través del trabajo o a través del consumo -que al pasar al e-commerce también se está perdiendo-. Es decir, estamos perdiendo las vías que nuestra sociedad nos daba para socializar: trabajar o consumir…
A: Tenemos que reinventar nuestra vida social y nuestra vida laboral, pero hay que hacerlo sabiamente, equilibradamente. Tenemos que hacerlo con mucha educación, con prueba y error, compartiendo experiencias y, de alguna forma, saber que en la sociedad digital el trabajo tiene que asumir unos cambios muy intensos y rápidos
La digitalización y la robotización están teniendo una influencia muy significativa en la gestión de la producción y en la gestión de las personas dentro de las empresas. El debate sobre si la tecnología crea tanto empleo como destruye sigue vigente, pero desde la RS nos preocupa cómo podemos proteger a esas personas que en estas constantes transiciones pueden quedarse rezagadas. ¿Cómo puede contribuir la tecnología a evitar esos problemas o directamente a mejorar la situación de estas personas?
N: Llevo mucho tiempo proponiendo que se haga una inversión profunda en educación a todos los niveles, con programas de upscaling y rescaling puesto que, de lo contrario, efectivamente, habrá un elevado porcentaje de la población que no tendrá las capacidades necesarias en la sociedad en la que estamos.
Respecto al teletrabajo, requiere mucha disciplina, ya que no hay separación entre el espacio personal y el laboral, lo cual puede conducir a situaciones de estrés o al síndrome de burnout (estar quemado), por eso es tan importante tener disciplina y educar en esta disciplina.
Otra área preocupante es la monitorización y vigilancia de los empleados con técnicas de IA. Cada vez más, las empresas monitorizan a los teletrabajadores de una manera muy poco respetuosa con el derecho a la privacidad. Esta es un área en la que hay que trabajar.
La gestión socialmente responsable de una actividad aboga por la transparencia en la gobernanza, y porque haya más participación o transparencia en la toma de decisiones, pero esta transparencia sería muy necesaria también para saber quién toma las decisiones sobre cómo funcionan los algoritmos, en base a qué valores… Da la sensación de que hay una cierta opacidad al respecto.
N: El uso de algoritmos es muy habitual para diseñar los turnos, por ejemplo, para monitorizar cuánto trabaja cada persona, cuánto tiempo pasa en el baño… Se puede llegar a un nivel de vigilancia muy extremo… Creo que esto transmite una visión mecanística del ser humano, y no debe seres así. Tú puedes estar dando un paseo y simultáneamente estar pensando y produciendo, y eso no se puede medir. Creo que hay que confiar en las personas, en que si una persona está haciendo un trabajo que le motiva y le interesa lo va a hacer lo mejor posible. No por estar siete horas delante del ordenador se es más productivo. Obviamente depende del tipo de trabajo, pero para muchos trabajos hay elementos intangibles que no se pueden medir.
A: Yo soy partidario de que tengamos capacidad de equivocarnos. Estamos en etapas muy primarias y establecer un modelo excesivamente proteccionista sobre este tema puede hacer que no se desarrolle la tecnología. Una excesiva sobrerregulación no resuelve problemas y, además, les da una clara desventaja a las empresas respecto a los grandes competidores. Tenemos que plantearnos que Europa debe tener un desarrollo digital y eso se debe acompañar de grandes apuestas que lo impulsen. Sin duda los problemas que genere la tecnología y los algoritmos hay que estudiarlos y darles soluciones, tecnológicas o con regulación, pero sobre todo hay que dar educación tecnológica y sus riesgos. Esto sucede con los teléfonos móviles y la privacidad. Igual que no confiamos en gobiernos democráticos que tienen control sobre el poder judicial o el poder parlamentario, no podemos poner como guardián de nuestros datos a Telefónica, Vodafone o cualquier otro operador, ya que teóricamente si mañana un juez pregunta “¿Con quién ha estado Andrés Pedreño?” estas empresas le dirán que ha estado en tal sitio, con tal persona, y les estará contado y dando los datos que hemos estado dando, porque estamos aquí con los móviles… Estamos hablando de un derecho fundamental y resulta que son las grandes empresas las que lo custodian.
Tenemos el deber de comprender la tecnología, y eso es educación. Un país con una educación enorme tiene ventaja, va a crear empleo, puede romper la brecha que existe con la mujer, etc. Estos países son los países del futuro y van a establecer una brecha con el resto, y reitero que para ello es necesario tener personas muy formadas en lo que la tecnología da o lo que es un algoritmo. La regulación esto no lo puede conseguir, se consigue con educación.
Me da la sensación de que en Europa tenemos muy consolidados los valores democráticos a la hora de poner barreras al avance tecnológico y que sin embargo lo que estamos consiguiendo en la práctica es limitar nuestra competitividad y nuestra capacidad de prosperidad futura
A: Debemos estar muy orgullosos de nuestra tradición humanística europea, ya que es un activo del primer orden, pero está vacía si son compartimentos estancos. Hay que conocer muy bien la naturaleza de los hechos digitales en un proceso multidisciplinar entre tecnólogos y juristas para poder regular con eficiencia en el caso de que sea posible hacerlo, y si no, si el riesgo es excesivo, directamente prohibir esa tecnología.
N: Esto es absolutamente necesario. No se puede regular sobre algo que se desconoce. Pero también es verdad que cada vez más hay interés y líneas de trabajo tecnológicas en facultades de derecho y en entornos legales, judiciales y jurídicos. En los últimos cinco u ocho años hay cada vez más acercamiento a este mundo, fruto también de la necesidad.
A: Tenemos una administración burocratizada, compleja, con una gran necesidad de digitalización para que pueda ser clara, simple, eficiente. En realidad, la administración electrónica ha consistido en reproducir todo el papel, toda la burocracia e introducirlo en un ordenador. Hemos duplicado la administración
De hecho tenemos iniciativas europeas a las que no llegamos y quizás la población no sea consciente de la importancia de ELLIS para aprovechar esa oportunidad
N: Desde luego. Nunca podría haber predicho hace un año cuando nos preguntaron ¿cuántas unidades ELLIS crees qué habrá? que iba a ver a día de hoy treinta unidades ELLIS en catorce países. Pero sigue habiendo también un cierto temor en ELLIS a que, tarde o temprano, pueda ser absorbida por el sistema y de alguna manera desaparezca entre todos los papeleos burocráticos que representa la Unión Europea.
También es verdad que, inteligentemente, no solo incluye los países de la Unión Europea, sino que están también Israel, Suiza y países que no necesariamente tienen una gran vinculación con la Unión Europea. ELLIS tiene un gran sentimiento europeísta, pero no de la Unión Europea, sino de Europa como continente. Sería realmente un gran error no incluir al Reino Unido, que es a nivel mundial, la primera potencia europea en IA. Fue ilustrativo (recomiendo que lo veáis, está en YouTube) el evento de lanzamiento de las unidades ELLIS. Cada unidad tenía que hacer un vídeo de 2 minutos y en el Oxford al final aparece uno de los investigadores que dice “por favor, esta parte del vídeo no la cortéis: que conste que estoy en contra del brexit, es lo peor que nos ha pasado., ¡es horroroso!”
¿Qué peso tienen en la vanguardia de la investigación y de los avances tecnológicos las cuestiones relacionadas con la sostenibilidad medioambiental, laboral y social?
N: Hay muchísima investigación en este campo, en ELLIS tenemos un programa paneuropeo de investigación que dirijo llamado “centrado en las personas”. La unidad ELLIS de Alicante se llama “The Institute of Human(ity)-Centric AI” y tiene 3 áreas de investigación que están plenamente en la intersección entre el ser humano a nivel individual o colectivo y la inteligencia artificial. Creo que es un área muy activa de la investigación y también es verdad que lo que sucede en IA es que el liderazgo científico no está en los entornos académicos. Si miramos qué institución tuvo el máximo número de publicaciones en Eurips a fecha diciembre 2019 -Eurips es uno de los principales congresos del mundo con 14.500 asistentes en Vancouver-, la institución con mayor número de papers era Google, que tenía más del doble de papers que el MIT. La primera observación es que en el top 5 no hay nadie de Europa y la segunda observación es que son empresas tecnológicas.
Desde el punto de vista del progreso social, no es positivo que una disciplina esté siendo definida por el sector privado, porque el sector privado no tiene necesariamente en su interés el progreso de la sociedad porque tiene que responder a sus stakeholders y a sus consejos de administración. Ese es también uno de los motivos por los que creamos ELLIS, pues tiene una gran vocación pública. Todas las unidades ELLIS están vinculadas con universidades o centros de investigación públicos en un formato de colaboración público-privada pero contemplando poder hacer investigación de manera libre.
Yo he desarrollado mi carrera científica en el sector privado y he vivido la dificultad que supone defender ciertos proyectos de investigación cuyas consecuencias pueden ser incómodas para las compañías. Por eso ELLIS es tan importante, porque ahora mismo el liderazgo científico de inteligencia no está universidades ni está en los centros de investigación
A: Creo que falta músculo a las instituciones educativas para poner el foco en la investigación en tecnologías que van a definir nuestro futuro. Hay que redefinir el I+D integrando el sector público y el privado. Lo que hace falta es que las empresas pequeñas que crean empleo y pagan sus impuestos tengan la capacidad de recibir los resultados de una investigación y de un desarrollo tecnológico.
En Europa la investigación en el sector privado casi no existe y la transferencia del sector publico al sector privado es irrelevante. Las patentes han dejado de ser un indicador, ya que las industrias tecnológicas las utilizan casi exclusivamente para defenderse. El software abierto ha sido el inductor de grandes avances, por tanto, está en contra del propio concepto de patente. Hay que ir a una revolución en la I+D, porque crecer en la I+D actual no va a pasar casi nada.
De ahí la importancia de los modelos bottom-up. Quizás estas redes puedan desde abajo redefinir unas relaciones muchísimo más ricas y menos sujetas a la burocracia y lentitud que nos ha definido en Europa. Ojalá sea así, porque realmente estamos en una situación de declive. Los únicos que todavía no hemos superado los niveles de la crisis económica 2008 que se gesta en Estados Unidos con la banca de EEUU somos nosotros. Europa no ha podido recuperarse y era el líder en términos económicos; cada vez vamos perdiendo peso y es una situación complicada para un continente envejecido y con los países del sur descolgados, con tasas de desempleo juvenil altísimas y sueldos mileuristas para los jóvenes, trabajos precarios, etc. Vivimos una situación realmente compleja de cara al futuro.
Al contrario de lo que se piensa popularmente, la tecnología no sólo está impactando en los en los puestos de trabajo más básicos, sino que también está afectando a los puestos intermedios ¿cómo conseguir que el avance tecnológico consiga reducir desigualdades?
N: Creo que es una pregunta muy difícil de contestar. Lo que se está produciendo es un fenómeno que se conoce como the winner takes on y es un fenómeno en el que lo que al final apreciamos es un conjunto de tecnológicas americanas o asiáticas que tiene una dominancia extrema y que dificulta mucho que entren pequeñas empresas, cuyo futuro más probable si tienen éxito es que sean compradas por esas mismas grandes empresas.
Es complejo, hay algunos temas que están siendo debatidos y que son controvertidos. El primero es hacer algún tipo de fragmentación de estas grandes empresas tecnológicas para que pueda haber otras pequeñas que estén en igualdad de condiciones. Otro tema también controvertido es la retribución fiscal de estas empresas, ya que son las empresas más ricas las que tienen más beneficios, pero a su vez pagan muchos menos impuestos. Está también el tema de la regulación que ha comentado Andrés y que está relacionado con la fiscalidad: sectores regulados están en clara desventaja frente al sector tecnológico no regulado.
Yo no tengo una solución sencilla para esto, probablemente Andrés sepa mucho más del sistema que yo, pero sí que es verdad que es una realidad preocupante. Llevo hablando sobre esta realidad ya bastantes años y sí que tenemos la esperanza en ELLIS. Otro de los pilares de ELLIS es que haya una relación muy fluida con el resto de la sociedad, tanto desde el punto de vista de la posibilidad de creación de startups, de la colaboración con empresas, de la colaboración con el sector público y la sociedad en su conjunto, porque ELLIS quiere hacer investigación de excelencia pero que tenga impacto económico y social positivo. Por ello, una de las esperanzas es que, con movimientos como ELLIS, si hay una gran excelencia científica que se materialice en avances reales, con un contenido de dificultad y de sofisticación y una propiedad intelectual que esto se traduzca en startups de éxito o en transferencias a empresas. Esto puede contribuir a generar el contrapeso a esta realidad de oligopolio extremo en el que vivimos, porque lo más probable es que si tienes éxito te compren
Yo estaría menos preocupada por los gigantes tecnológicos norteamericanos si en Europa existiera algún contrapeso, es decir, si hubiera un Google Europa, si hubiera un Microsoft Europa, si subiera un Facebook Europa, en definitiva, que pudiéramos ver que hay una cierta competencia a nivel mundial. Actualmente tenemos una evidente y absoluta dependencia, y esto es muy peligroso…
Cuando uno lee a algunos autores que no son expertos en tecnología, pero lo abordan desde distintas perspectivas, como Adela Cortina desde la óptica de la ética empresarial, o Lassalle desde el humanismo percibo un cierto pesimismo hacía los efectos sociales de la tecnología, como una tecnología deshumanizante que genera desigualdades, que es invasiva, que efectivamente está monopolizada. Sin embargo, la tecnología también implica logros y avances prácticamente diarios e inimaginables en beneficio de la humanidad y en muy diferentes sectores, y que quizá no están llegando tanto a la ciudadanía. Hay un cierto miedo a la tecnología, al determinismo tecnológico, a la tecno-dependencia… ¿Es un miedo infundado o hay una parte de razón? ¿cómo puede hacerse que la tecnología sea percibida por la sociedad como verdaderamente un avance?
N: Miedo a la tecnología per se, en base a nuestros actos, no tenemos, porque todo el mundo tiene Movistar y todo está colgando de la tecnología, con lo cual mucho miedo no se le debe de tener.
Está claro que no vamos a sobrevivir sin la ayuda de la tecnología, por lo cual no entiendo que se dude de ella. Desde la emergencia climática al envejecimiento de la población, las enfermedades crónicas, las pandemias, la educación o la sanidad todas son áreas tecnológicas. No hay ni un área que no sea tecnológica, por lo cual no tiene sentido tenerle miedo, porque necesitamos la tecnología, dependemos de la tecnología y no vamos a sobrevivir sin tecnología. El discurso del miedo creo que es un discurso fruto de la falta de educación. A mí siempre me gusta citar a Marie Curie, que decía “tememos aquello que no entendemos”; entonces es momento de entender más para así tener menos miedo- Realmente creo que hay un gran elemento de desconocimiento que, casi inevitablemente, por la propia naturaleza humana, lleva al temor y al miedo.
Es verdad que cualquier tecnología depende de cómo se use generará un impacto u otro y eso sucede con cualquier instrumento tecnológico. La clave es entender muy bien qué usos son los que realmente están teniendo impacto positivo e intentar minimizar el impacto negativo. Tenemos que intentar adelantarnos a cuáles pueden ser las consecuencias no deseadas. Eso conlleva investigación, hacer estudios que -como he dicho- a lo mejor pueden ser incómodos, pero son necesarios. También conlleva una gran inversión en educación. El problema es que la educación no es una solución de corto plazo, sino de medio-largo plazo porque conlleva un tiempo. Es algo que se tendría que haber comenzado a hacer hace 10 años para poder estar mejor de lo que estamos ahora.
A mí me desanima la gestión de la pandemia, ya que no ha habido un foco en la educación. Tenemos personas que se quitan la mascarilla para toser, el mensaje es hiper paternalista por parte del Estado. Parece que dice “vosotros no tenéis cerebro y tengo que ayudar y legislar todo”, ese ha sido el mensaje. ¿Por qué no ha sido un mensaje de empoderamiento?, ¿por qué no ha sido un mensaje de educación a la ciudadanía?, ¿por qué no ha sido un mensaje masivo de entender cómo te contagias, de entender que si te quitas la mascarilla en la calle no pasa nada, pero quitártela cuando estás en un bar con 15 personas a tu alrededor probablemente es necesaria?
La comunicación no es una comunicación sustanciada por la evidencia, de manera que no se está generando un discurso social informado. Parece que sea el resultado de arbitrariedades y de ir dando palos de ciego sin explicación científica. ¿Cómo puedes decir que las personas que viven en ciertos barrios de Madrid pueden coger el metro y recorrerse medio Madrid, pero cuando llegan a su barrio no pueden ir al parque? No tiene sentido, y cómo no tiene sentido la gente que tiene sentido común no entiende nada. A mí me cuesta entender que no se den cuenta de la importancia de la educación y de una comunicación adulta.
A: Estoy 100% de acuerdo con lo que ha dicho Nuria, no podría decir nada más pero sí subrayar la importancia del temor hacia la tecnología o el tema de la educación.
Luz Rodríguez en su último libro “humanos y robots” habla de una cooperación inteligente entre las máquinas y las personas, y yo creo que estamos hablando de un uso inteligente de la información, de los datos, del conocimiento que nos puede aportar la tecnología y las máquinas, que quizás no lo estamos sabiendo aprovechar para mejorar la vida de la gente ¿Es un problema específico de nuestro país o es un problema general?
A: Yo como economista tengo que decir que sabemos que hay una destrucción masiva de empleo, pero también hay una potente creación de empleo. En la estrategia de empleo, asumiendo que puede haber tecnologías que pueden destruir el empleo, se debe apostar por la educación a corto plazo. En la Universidad se podría hacer mucho más prácticamente con todo, desde la biología, la arquitectura, la economía y demás temas. Cuanto antes cualquier disciplina se familiarice con la tecnología, el país será más potente y tendrá más rapidez de respuesta.
Me queda solo una pregunta para Andrés y es sobre este proyecto maravilloso. ¿Cómo está funcionando esta mezcla del deseo de preservar algo tan tradicional como las torres de la huerta con un proyecto tan innovador y de innovación abierta, digitalización… cómo está funcionando?
A: Es muy complejo porque obviamente no es un modelo que lo tengas ahí a la vuelta de la esquina, no es algo habitual, sino que tenemos que ir construyéndolo poco a poco. Pero sí es verdad que habíamos visto una tendencia a que la tecnología recuperara espacios patrimoniales, por ejemplo, como en Madrid con su Matadero que es ahora un espacio cultural o el parque tecnológico de Google. La tecnología es muy respetuosa con el ambiente que le rodea, cuando utiliza edificios lo hace con un respeto enorme y tiene la capacidad de ayudar.
La responsabilidad empresarial en el contexto de la revolución digital
