¿Deberíamos prestar atención al impacto que los datos y los algoritmos están teniendo en nuestra sociedad?
El 9 de octubre, Firma Talks planteó esta cuestión al dar la bienvenida a dos expertos en la materia. Guillem Pons, director de datos de Badi, y Ander Orcasitas, director ibérico de la startup de IA Dynamic Yield, expusieron sus puntos de vista únicos y contrastantes. El debate se produce en un momento en que los legisladores estadounidenses están presentando proyectos de ley que podrían llevar a Mark Zuckerberg a la cárcel.
Estas son nuestras principales conclusiones de esa noche:
Empecemos con un dato curioso. El 70% de todas las ventas de McDonald's en EE. UU. EE. UU. se realizan a través del autoservicio de McAuto. Esta información es una de las razones por las que McDonald's adquirió Dynamic Yield en marzo, por 300 millones de dólares. Es una historia fascinante sobre alimentación e innovación. Ander Orcasitas compartió cómo podían ayudar a McDonald's a aumentar las ventas personalizando los artículos para los clientes. «Ahora podemos recopilar información pública, consultar las compras anteriores, decidir si el auto es de gama alta o de gama baja, decidir si el clima es cálido o frío, si es hora punta o no, y en función de eso, modificar los platos del menú según tus preferencias». Sí, compraré ese pedido de gran tamaño con una cantidad adicional de datos.
He aquí otro dato curioso. Las tres principales empresas del mundo no tienen activos. Guillem Pons llamó la atención sobre este hecho al señalar que el verdadero valor de Facebook, Google y Amazon reside en la enorme cantidad de información de la que disponen. La cantidad de datos les da a estos gigantes la capacidad de predecir el comportamiento. «Cuando sabes mucho sobre un usuario, puedes predecir lo que va a hacer», añadió Orcasitas.
Entregar tus datos al gobierno parece sacado de una pesadilla orwelliana, pero en realidad es parte del experimento social nacional de China conocido como Sistema de Crédito Social. Imagínese pasar una tarde criticando al gobierno en las redes sociales. Se hace un seguimiento del comportamiento en línea y, de repente, su crédito social se reduce, lo que le dificulta obtener una velocidad de Internet mejor o peor, conseguir un buen trabajo u obtener un pasaporte. El sistema de crédito social se pondrá en práctica en 2020, lo que suena totalmente futurista, pero en realidad faltan dos meses.
¿Cuándo comenzó esta revolución de datos? Pons señaló el momento en que Steve Jobs anunció el iPhone, y todo el mundo puso en él emojis con ojos en forma de corazón. Con la aparición del iPhone, las empresas adquirieron la capacidad de rastrear cada actividad y cada comportamiento en cualquier momento y lugar. Cada vez que te gusta algo, ese es un punto de datos que le das a Mark Zuckerberg. Alguien entre la multitud dijo que Instagram tiene 21 mil millones de usuarios activos diarios, lo cual es, por supuesto, imposible, a menos que las galaxias alienígenas usen Instagram. Aun así, son muchos puntos de datos para hacer negocios.
¿Qué tiene dos pulgares y ha ayudado a acabar con la democracia? Esto es Cambridge Analytica. Todos conocemos el escándalo que puso de rodillas en Facebook. Pons hizo hincapié en la historia de Cambridge Analytica porque va al meollo de la cuestión. En aquel momento, Facebook recopilaba una gran cantidad de datos sobre sus usuarios, pero también cedía muchos de esos datos a terceros. Una de estas terceras partes fue Cambridge Analytica, que aprovechó la situación para llevar a cabo campañas perjudiciales con la esperanza de obtener votos a favor de sus clientes. Clientes como Donald J. Trump, de quien probablemente hayas oído hablar. Pero aquí es donde está el verdadero problema. El argumento principal de Pon es que necesitamos encontrar una manera de poder usar estos productos sin que otras organizaciones vendan o utilicen indebidamente nuestra información. Para lograrlo, argumentó, necesitamos una mayor conciencia.
Tal vez tengas una idea para una empresa que pretenda competir con Facebook. No es algo que recomendamos, pero si sucediera, tu mejor opción sería eliminar a toda la competencia. Para ello, necesitarás la intervención del gobierno. Al deshacerse de la competencia, el gobierno actuaría como una especie de capullo protector que permitiría que su empresa creciera. Por supuesto, crear un negocio para competir con Facebook es una mala idea, dado que es prácticamente imposible de hacer. Sin embargo, la idea de proteger a los actores más pequeños a través de un marco sería ideal. Esta es una de las ideas planteadas por Orcasitas. Un marco general que fomenta el crecimiento de las pequeñas empresas sin tener que depender de los gigantes tecnológicos.
En la sesión de preguntas y respuestas, Marc, socio y director de estrategia de Firma, preguntó si todos somos tontos. «¿Somos tontos por sucumbir ante estas empresas? ¿Somos tontos para dar nuestra información sin darnos cuenta de lo que estamos haciendo?» En respuesta, Orcasitas señaló a Daniel Kahneman, el economista del comportamiento ganador del Premio Nobel que descubrió la heurística y popularizó el pensamiento del Sistema 1 y el Sistema 2. El Sistema 1 es tu cerebro impulsivo que busca placer y anhela constantemente esa dosis de dopamina que te hace revisar tu feed de Instagram. El sistema 2, por otro lado, es un pensamiento lento y reflexivo que te permite obtener doctorados y premios Nobel. Quizás hayas leído hasta aquí el artículo sin revisar tu teléfono, ese es System 2 amigo. O amiga. Orcasitas recurrió a Kahneman hasta el punto de que el RGPD y los términos y condiciones están diseñados según nuestra forma de pensar del Sistema 2, que consume energía. En conclusión, no somos idiotas, pero a menudo cedemos demasiado rápido a nuestra forma de pensar del Sistema 1.
El minimalismo de datos es la última tendencia de desintoxicación digital que ha salido a la calle, según uno de los asistentes a la sesión de preguntas y respuestas. Vamos a llamarla Joanna, dado que ese es su verdadero nombre. Joanna explicó que el objetivo del minimalismo de datos es dar a los usuarios un mayor control, como borrar el navegador de búsqueda y optar por aplicaciones y servicios que no rastreen ni recopilen los datos de los usuarios.
Si bien este es, sin duda, un paso en la dirección correcta, Pons advirtió que el cambio tiene que producirse desde dentro. Las empresas que diseñan estos productos que nos encanta usar deben separar la utilidad de sus productos del acto de comercializar y vender información personal a otras empresas. «La clave aquí es la sensibilización. El minimalismo de los datos, sí, pero también tenemos derecho a elegir».
Orcasitas presentó un argumento articulado y persuasivo a favor de la socialización de los datos. Podemos llamarlo comunismo de datos, pero es probable que sorprenda a muchos, así que llamémoslo un sistema de datos unificado. Aunque no suene tan atractivo, un sistema de datos unificado haría que la información fuera accesible para todos. Es bastante similar a aprender #6, pero esto daría a las empresas emergentes una ventaja al confiar en una red de información para crear mejores productos y servicios. Pero esto también plantea otro problema: si socializamos todos los datos, ¿quién gestionará este sistema? No tengo una respuesta, pero no puedo esperar a que llegue el día en que oigamos las palabras: «Señor informático, derribe ese muro».
Empujar es como hackear nuestro Sistema 1 para hacer cosas del Sistema 2 (consulta el aprendizaje #7). Es lo que hicieron los diseñadores en un aeropuerto de Ámsterdam al colocar una pegatina con una mosca en el urinario del baño para mantener los baños limpios y ahorrar costes. Ahora aplícalo al mundo de la inteligencia artificial o el aprendizaje automático, donde los modelos saben cada vez mejor cómo te sientes. Imagínese si esa información pudiera usarse para su mejora, convirtiendo los momentos perezosos o improductivos en algo útil. Este es el tipo de futuro al que aspirar, en el que la tecnología juega a nuestro favor y nos impulsa a mejorar para convertirnos en mejores versiones de nosotros mismos.
No tenemos ni idea de los escándalos que se producirán en 2050 ni de cómo nos afectarán los datos, pero podemos asumir con seguridad que los modelos, los algoritmos y el poder predictivo de esta tecnología solo mejorarán. Si necesitamos hacer sonar las alarmas y hacer que estas empresas rindan cuentas para proteger nuestros derechos, o si necesitamos un acceso sin restricciones a los datos a través de un marco, solo será posible si adoptamos las medidas que tomemos hoy. La tecnología es fundamental para la humanidad, y el debate puso de relieve la necesidad de integrar las cuestiones morales y éticas si queremos que la tecnología funcione para nosotros.