"Cuando consideras cómo el capitalismo de la vigilancia se ha desarrollado en los últimos 20 años, es evidente que está destruyendo la democracia y debilitando tanto nuestras instituciones como nuestras habilidades colectivas e individuales. Por ejemplo, pensábamos que teníamos derecho al conocimiento, o lo que yo llamo «derechos epistémicos». William Douglas, quien fue juez de la Corte Suprema de los EE.UU., dijo hace muchos años que, según la Carta de Derechos de la nación, todo ciudadano estadounidense tiene la libertad de elegir qué se puede saber de ellos y qué debe permanecer privado.
Este es un planteamiento muy interesante porque demuestra que el capitalismo de la vigilancia se basa en la usurpación de derechos que siempre hemos considerado esenciales para vivir una vida libre, individual y moderna. Hemos llegado al punto en que necesitamos codificar estos derechos epistémicos. [Es decir, convertirlos en derechos jurídicos que puedan ser defendidos en nuestros tribunales y sistemas legales]. De lo contrario, un pequeño grupo de compañías seguirá teniendo todos los derechos sobre el conocimiento. Nos están arrebatando la idea de que las personas podemos elegir cómo se gobierna, con qué valores e ideales, con qué aspiraciones y derechos y bajo qué leyes. Los futuros que ofrecen el capitalismo de la vigilancia y la democracia no son compatibles. Estos dos órdenes institucionales están en un duelo a muerte. Ambos no pueden coexistir. Nos toca decidir cuál ganará. Y eso es lo que me preocupa tanto."
Shoshana Zuboff
"De hecho, esa es la gran injusticia. Pues nos merecemos estos servicios, nos merecemos los datos y el conocimiento que generan estos servicios. Deberían enriquecernos como individuos, familias, ciudades, naciones y, sobre todo, como una creciente civilización de información global. Pero eso no es lo que está pasando. Un documento filtrado de Facebook, empresa que ahora se conoce como Meta, demostró que para 2018 su centro de inteligencia artificial estaba procesando billones de datos al día para producir alrededor de 6 millones de pronósticos de comportamiento. Esa es la magnitud de la que estamos hablando. Y es algo muy difícil de comprender para cualquiera de nosotros.
Puede que te guste Spotify, Netflix, Google e incluso Facebook, pero estos procesos [de extracción de datos y de desarrollo de pronósticos] están diseñados para permanecer escondidos para los usuarios. Y es por eso por lo que hemos tardado tanto en darnos cuenta del problema. Es nuestra responsabilidad aprender sobre lo que está pasando y la de nuestros legisladores para así idear e implementar políticas que puedan prohibir estos procesos. La meta no es que dejen de existir estos servicios maravillosos, sino que todos los datos y el conocimiento profundo que generan nos pertenezcan, le pertenezcan a los líderes electos y a las instituciones que debemos crear para regular el ámbito digital. Hay mucho trabajo por hacer. Pero si no lo hacemos, la distopía accidental de hoy se convertirá en la realidad que domine este siglo."
Shoshana Zuboff
"Detener la extracción masiva y silenciosa de datos personales, y decretarla ilícita. Desde cualquier punto de vista –moral, político o económico–, esa extracción es fundamentalmente injusta y malintencionada. En cualquier otro contexto, se le llamaría robo. Así que se cataloga como un robo y se detiene. En el momento que hagamos eso, algo mágico sucederá porque habremos acabado con el depredador. Los miles de millones de compañías que quieren entrar en el mundo digital y operar de formas que promueven los valores democráticos, por fin podrán competir en un entorno justo. Así que tenemos una oportunidad para recuperar el siglo digital y eso comienza con el exilio, la eliminación, la erradicación de ese poder que descaradamente asumieron las empresas sin preguntar. Pues es ese poder que les permite convertir nuestras vidas en productos para aumentar sus ganancias y su influencia."
Shoshana Zuboff
"Documentos filtrados de Facebook muestran que en sus fábricas la inteligencia artificial toma trillones de datos al día y hace seis millones de predicciones de comportamiento humano cada segundo. Y como la competición en este mercado se intensifica descubren que los datos más predictivos vienen de cómo intervenir en nuestro comportamiento para garantizar resultados comerciales. Facebook en 2013 hizo experimentos que mostraban cómo manipular con señales subliminales, dinámicas de comparación social, microtargeting psicológico y premios y castigos. Con una recopilación de datos muy inteligentes vieron que podían afectar el comportamiento en el mundo real. Fue en 2018 cuando con Cambridge Analytica vimos que los métodos de Facebook se usaban a gran escala, pasando de objetivos comerciales a políticos. La campaña de Trump usó los datos de Facebook para apuntar psicológicamente a muchos votantes negros y persuadirles de no votar en el 2016, una de las claves por las que Hillary perdió."
Shoshana Zuboff
"El capitalismo busca hace siglos cosas que no son aún parte de la dinámica del mercado para convertirlas en mercancías. Hoy tenemos un nuevo mundo, el digital. Pequeñas compañías intentaron averiguar cómo hacer dinero en él. Hubo una burbuja por las puntocom y explotó. Las compañías estaban desesperadas y los inversores se retiraban. En esa emergencia las compañías no tenían tiempo y en Google descubrieron un bosque virgen como nuevo espacio de extracción y mercantilización: nosotros, sobre todo nuestras experiencias privadas. Han plantado sus banderas en nuestras vidas. Y han dicho que es su material bruto y gratis, sus activos privados que vender como mercancía. Así nace el capitalismo de vigilancia y explica las capitalizaciones de Google, Facebook, cada vez más de Amazon, Microsoft, Apple y miles de compañías no solo en el sector tecnológico. El CEO de Ford dice que quiere atraer financiación como la de Google y Facebook pero nadie está interesado. Así que cambiarán Ford y será un sistema operativo de transporte que extraerá datos de la gente que conduce sus coches y los agregará con lo que tienen de ellos en Ford Credit para crear grandes bases de datos y atraer inversores. Es el dividendo de la vigilancia."
Shoshana Zuboff
"El capitalismo de la vigilancia es profundamente antidemocrático. La modificación de la conducta como escuela de comportamiento siempre estuvo contra la idea de libertad. B.F. Skinner, gran teórico de la modificación conductual, escribió Más allá de la libertad y la dignidad: le parecían entidades ficcionales, valores imaginarios problemáticos que van contra la eficacia social. Como él, los hombres que mandan los grandes imperios del capitalismo de la vigilancia también creen que tienen una mejor manera de gobernar el mundo, la verdad algorítmica y la gobernanza computacional, superiores a la democracia. El siglo digital debía democratizar el conocimiento, pero vemos enormes concentraciones de conocimiento en pocas compañías que acaparan la capacidad de entender esa información. Tenemos una pequeña élite, una casta sacerdotal que controla concentraciones de conocimiento inauditas. Conocimiento sobre nosotros. Y les da poder para influirnos. Es una manifestación fundamentalmente antidemocrática del capitalismo y ha sucedido porque en los últimos 20 años el capitalismo de la vigilancia no ha sido impedido por la ley, aún debemos crear los derechos, los marcos legislativos, los paradigmas regulatorios que hagan el mundo digital compatible con la democracia. El capitalismo de la vigilancia fue inventado en el 2001 en Google. ¿Qué más sucedió en 2001?
Con el 11-S se dejó de discutir en el Congreso sobre protección de derechos de privacidad. A esas compañías ya conocidas por su asalto a la privacidad se las dejó que se desarrollaran de manera que invadieran nuestra privacidad porque las agencias de inteligencia en EE.UU. y Europa, que no pueden recolectar esos datos, los obtendrían de ellas. Así, el capitalismo de la vigilancia ha tenido 20 años para desarrollarse sin ninguna ley que lo impida y se ha hecho tan peligroso para la gente, la sociedad y la democracia."
Shoshana Zuboff
"El capitalismo se ha transformado, algo que ocurre más o menos cada siglo. Pero ahora, en este siglo digital, lo que tenemos es una situación extraordinaria en la cual toda la estructura del capitalismo está basada en la comercialización del comportamiento humano. Eso nunca antes había sido posible. Yo digo que vivimos en una distopía accidental, pues hemos llegado a un punto al que nadie nunca hubiese escogido llegar y al que nadie quería llegar. Y aun así, aquí estamos. Vivimos en un mundo en el que todo lo que hacemos está monitoreado. Nuestras acciones son transformadas en datos, que son propiedad de las grandes empresas del capitalismo de la vigilancia [como lo son Google, Meta o Amazon]. A partir de esos datos, estas empresas pronostican nuestro comportamiento. Luego venden esos pronósticos. Todo el mundo terminará ganando más dinero si logran reducir la incertidumbre en sus negocios sabiendo con mucha certeza cómo vamos a comportarnos. ¿No es genial para las compañías de seguros médicos saber qué enfermedades vamos a contraer? ¿No es excelente para las aseguradoras de automóviles saber cómo conduciremos? Conocer las respuestas a preguntas como si pagaremos nuestro alquiler, o nuestra hipoteca o nuestras tarjetas de crédito son ahora las fuentes de ingresos para estas compañías. Y nuestros datos son vendidos al sector financiero, al de salud, y así poco a poco, se han dispersado por toda la economía."
Shoshana Zuboff
"En 2019, Facebook anunció que crearía una junta de supervisión. Se trataba de un grupo de personas seleccionadas y remuneradas por la empresa para supervisar las decisiones relacionadas a la moderación del contenido. Los líderes de lo que en ese momento era Facebook aseguraron que escucharían a los miembros de la junta, pero estos simplemente hablaban de cómo mantener y proteger la autorregulación en internet. Y la autorregulación es precisamente lo que nos llevó a este gran caos. Por otro lado, los reglamentos de esta operación no obligaban a Facebook a seguir ninguna de esas recomendaciones. Entonces, se trataba de una pieza de teatro gubernamental, que no tenía nada que ver con la transformación real. Es así como, liderados por Carole Cadwalladr, una de las periodistas británicas que destapó el escándalo de Cambridge Analytica, decidimos [crearla]. Somos un grupo de expertos. No tenemos ningún interés personal. Pero cada uno de nosotros sabe mucho sobre Facebook y cómo opera y creemos que nuestras críticas tendrán mayor impacto en el esfuerzo por mantener a esta empresa honesta que la junta de supervisión que ellos crearon. Así que monitoreamos las grandes decisiones de Facebook, hablamos con la prensa, publicamos opiniones y a veces organizamos eventos. Intentamos mantener la presión pública."
Shoshana Zuboff
"No hay muchas personas, incluso entre los académicos, que estén dispuestas a pasar el número de años que yo pasé estudiando cada pedacito de evidencia para poder ofrecer un panorama claro de lo que es el capitalismo de la vigilancia y cómo funciona. Y habiendo hecho eso, terminé escribiendo 525 páginas. De hecho, la primera versión del libro tenía más de 1000 páginas. Pero tuve que tomar decisiones [sobre qué incluir y qué dejar fuera]. Sabía que, si ofrecía al público una comprensión detallada del capitalismo de la vigilancia, eso sería más poderoso que cualquier solución que pudiese ofrecer en ese momento. Desde que terminé el libro, he dedicado casi todo mi tiempo a conversar con legisladores y políticos en todo el mundo, a organizar eventos, a dar entrevistas y charlas y a escribir columnas de opinión. Acabo de terminar de escribir un ensayo muy amplio con el propósito de ir formalmente hacia la próxima etapa, que es «qué hacer y cómo hacerlo». Eso siempre fue parte de la agenda. Creo que no hay manera de contener un fenómeno si no se puede nombrar, si no se tiene un lenguaje para ello y si no se entiende a profundidad. Así que esa era la primera parte de mi trabajo y este continúa."
Shoshana Zuboff
"Pensábamos que usábamos a Google y las redes sociales, y Google y esas redes nos usan a nosotros. Pensamos que sus servicios son gratis, pero esas compañías piensan que nosotros somos gratis. Pensamos que son compañías innovadoras que ocasionalmente cometen errores que violan la privacidad, cuando la realidad es que esos errores son las innovaciones. Pensamos que la web nos da acceso a todo tipo de conocimiento registrado, cuando de hecho esas empresas están extrayendo nuestra experiencia, convirtiendo nuestras vidas en datos y reclamando esas vidas como su conocimiento registrado. La mayor paradoja es que su retórica nos ha tratado de persuadir de que la privacidad es algo privado. Que decidimos cuánta información personal damos a Google o Amazon y podemos controlar ese intercambio. Pero el hecho real es que no es privada, es pública. Cada vez que doy a estas compañías algo de información personal, su interfaz les permite obtener tantos datos más de mi experiencia de los que no soy consciente... Hasta captar las microexpresiones de mi cara que predicen mis emociones y mi comportamiento, y así nutrir grandes sistemas de inteligencia artificial que son sistemas de conocimiento y poder desigual. Una sociedad que cuida su privacidad es muy distinta a una indiferente a ella o incluso que es agresiva en su deseo de eliminarla. La privacidad es pública, si la entregamos destruimos la sociedad y disminuye la democracia."
Shoshana Zuboff
"Tenemos a una compañía que controla los principales espacios de comunicación social en todo el mundo y la información que circula en ellos. Es decir, controla lo que se supone que sea nuestra esfera pública. Pero en realidad lo que tenemos ahora es un lugar donde la información de calidad está inversamente correlacionada con las ganancias. Mientras más corrupta es la información que circula en sus plataformas, más dinero gana la empresa Meta –antes conocida como Facebook–. En 2018, esta compañía transformó la manera en la que presentaba contenido a sus usuarios. Se comenzaron a basar en pronósticos sobre el tipo de contenido con el que las personas iban a interactuar. Los algoritmos empezaron a promover y a diseminar la información más corrupta, descabellada e inflamatoria, porque esa era la que obtendría más interacción. La interacción, por supuesto, impulsa la extracción de más datos, lo cual lleva al desarrollo de más pronósticos sobre nuestro comportamiento, lo cual lleva a mayores ganancias. Es como funciona. Y es por eso que ya no tenemos una esfera pública. Hasta que no logremos recuperar nuestros espacios de comunicación, debemos encontrar formas de cambiar estas compañías de manera fundamental o de hacerlas obsoletas. Así podremos reconstruir espacios que verdaderamente nos permitan comunicarnos libremente como una sociedad abierta y con los valores y el sentido común que a todos nos interesa."
Shoshana Zuboff
"Todas las criaturas se orientan en función de su hogar. Es el punto de origen desde el que toda especie fija su dirección y rumbo. Sin ese rumbo bien orientado, no hay modo alguno de navegar por aguas desconocidas; sin nuestra orientación, estamos perdidos. Esto es algo que me recuerdan todas las primaveras la misma pareja de colimbos cuando regresan de sus viajes lejanos y se instalan en la cala que se divisa desde la ventana de nuestra casa. Sus hechizantes graznidos, verdaderas expresiones de bienvenida, de renovación, de conexión y de protección, nos arrullan por la noche, pues nos hacen saber que también nosotros estamos en el lugar que nos es propio. Las tortugas verdes salen de sus huevos y bajan hasta el mar, donde viajan muchos miles de millas, a veces durante diez o veinte años. Cuando están listas para poner sus huevos, recorren ese mismo viaje a la inversa, hasta la misma porción de playa en la que nacieron. Algunas aves vuelan miles de millas cada año y pierden hasta la mitad de su peso corporal para aparearse en el lugar en que nacieron. Pájaros, abejas, mariposas..., nidos, agujeros, árboles, lagos, colmenas, colinas, costas y huecos... Casi todas las criaturas comparten, a su modo particular, ese vínculo profundo con un lugar en el que saben que la vida floreció en algún momento, esa clase de sitio al que llamamos hogar.
En la naturaleza misma del apego humano está que todo viaje y expulsión ponga en marcha la búsqueda de un hogar. Que el nostos, el hallar un hogar, es una de nuestras necesidades más profundas se hace evidente en el precio que estamos dispuestos a pagar por él. Existe una especie de anhelo universalmente compartido por regresar al lugar que dejamos atrás o por hallar un nuevo hogar en el que nuestras esperanzas de futuro puedan anidar y crecer. Todavía contamos las penurias de Odiseo para recordarnos a nosotros mismos lo que los seres humanos estamos dispuestos a soportar por arribar a costas y cruzar puertas que sean las nuestras propias.
Como nuestros cerebros son más grandes que los de las aves y las tortugas marinas, sabemos que no siempre es posible o siquiera deseable regresar al mismo pedazo de terreno. El hogar no tiene por qué corresponderse necesariamente con una morada o un sitio único y concreto. Podemos elegir su forma y su ubicación, pero no su significado. El hogar es donde conocemos y somos conocidos, donde amamos y somos amados. El hogar es dominio de nuestros actos, es voz, es relación y es asilo: tiene parte de libertad, parte de florecimiento..., parte de refugio, parte de perspectiva de futuro."
Shoshana Zuboff
La era del capitalismo de la vigilancia
"Vemos que estas compañías están siendo capaces de controlar nuestro comportamiento colectivo. Facebook es quizá el ejemplo paradigmático de esta tendencia, pero no es un caso único. Estas empresas pueden determinar, por ejemplo, si las personas de una sociedad se enojan o se polarizan con más frecuencia, si el discurso político se inclina más hacia el odio y hacia lo inflamatorio o si se vuelve más moderado. Y también pueden determinar si más personas van a vivir o morir. Hay investigaciones detalladas que demuestran que la manera cómo la información falsa sobre el covid-19 sobrepasó la información legítima en las redes sociales llevó a un mayor número de muertes durante la pandemia. Este fenómeno se volvió tan poderoso que el Dr. Robert Califf, quien dirige la Administración de Drogas y Alimentos de los EE. UU., afirmó que la desinformación se había vuelto la principal causa de muerte en el país. Así que cuando pienso en un personaje como el dueño de Meta, Mark Zuckerberg, lo imagino en el cielo jugando con un teclado celestial. Si oprime unas teclas particulares, más personas en el mundo se enfadan. Si oprime otras teclas, más personas mueren."
Shoshana Zuboff
No hay comentarios:
Publicar un comentario