Patrici Calvo

"En primer lugar, tenemos que tener en cuenta que la Inteligencia Artificial forma parte de nuestra cultura. El anhelo por desarrollarla, aplicarla y controlarla se halla en el imaginario colectivo de la sociedad desde hace milenios. En la mitología griega, por ejemplo, formó parte de los artefactos y máquinas que construyeron el dios Hefesto y el mortal Dédalo. Máquinas increíbles que realizaban tareas sólo al alcance de los seres humanos y que, en muchas ocasiones, estaban dotadas de razón y conciencia. También hay que tener en cuenta que hace décadas que estamos conviviendo con ella. Los algoritmos de traducción son un claro ejemplo; así como los programas que etiquetan fotos, que realizan búsquedas por internet, etc. No obstante, lo que sí es cierto es que hoy estamos asistiendo a una ampliación sin precedentes de las capacidades y aplicabilidades de la IA fruto del desarrollo de otros dos ámbitos tecnológicos: el Big Data y el IoT.

La convergencia sinérgica de estos tres ámbitos es lo que llamamos digitalización, y esta digitalización es lo que ha generado un desarrollo de la IA sin precedentes. A más datos, mayor capacidad tiene la IA de aprehender y desarrollarse, y precisamente la IoT ofrece un ecosistema ciberfísico para la hiperconectividad digital de todo: persones, animales, paredes, electrodomésticos, empresas, medioambiente, etc., y el Big Data la recopilación, procesamiento y conversión en conocimiento aplicable de los datos estructurados y no estructurados que surgen del ecosistema ciberfísico."

Patrici Calvo

"La etificación es, precisamente, la acción de recopilar, registrar, cuantificar, procesar y gestionar datos masivos sobre las opiniones, preferencias y conductas de la ciudadanía hiperconectada para, desde el criterio del mayor bien para la mayor cantidad de gente posible, establecer mediante algoritmos de IA qué es moralmente válido. El problema es que, como he dicho antes, el proceso de etificación es convencional. Nos habla de lo que son las cosas, mientras que la ética mira más allá de lo convencional para hablarnos de lo que deberían ser las cosas. Por eso, se trata de un proceso muy peligroso, ya que a través de éste podríamos llegar a justificar acciones y decisiones muy inmorales. Por ejemplo, durante la pandemia de la Covid-19 se ha oído hablar mucho en los medios de comunicación y las redes sociales de la conveniencia de establecer un criterio sanitario para, en caso de falta de recursos, no prestar a los ancianos o a los inmigrantes la misma asistencia sanitaria que al resto de la sociedad por una cuestión de edad o de irregularidad. Ambos criterios son inmorales por discriminatorios, lo que llamamos etaísmo, y en algunos países o regiones fueron altamente defendidos por buena parte de la sociedad. No se puede dejar morir a una persona por una cuestión de sexo, edad, nacionalidad, religión o nivel económico. Un algoritmo aprende y toma decisiones de los datos que encuentra en la red, y creo que todo el mundo tiene claro que en la red no abunda los argumentos y comportamientos éticos. La IA puede ser importante para recopilar datos del sentir de la sociedad sobre ciertos comportamientos de la sociedad, pero lo que es justo y exigible sólo puede ser establecido por los afectados dentro de una dialogo lo más inclusivo, igualitarios y simétrico posible."

Patrici Calvo

"La expansión y acrítica aceptación de la IA está produciendo una sutil colonización del mundo de la vida por parte del sistema, especialmente de las instituciones gubernamentales y económicas a través de imperativos sistémicos como el poder o el dinero. Como avanzó en sociólogo y filósofo Jürguen Habermas en los años 80 del siglo pasado, el sentido de las cosas depende de los componentes estructurales del mundo vida —la cultura o mundo objetivo, la sociedad o mundo de las relaciones y la personalidad o mundo privado—. El sistema intenta aplicar la IA para generar sentido de lo que desea, hace y dice."

Patrici Calvo

"La transformación digital está metida en nuestras vidas, por todas partes. Pero para empezar, hay una mala praxis en la captación de los datos. Si pensamos en la frontera entre lo público y lo privado, ¿hasta qué punto es lícita esa captación? En realidad, todos le damos al botoncito de “aceptar condiciones” porque si no, te excluyes del mercado. Te dicen pues no le dé al botoncito. Y si no estás en Internet, estás excluido del mercado. Y eso tampoco se le puede exigir a la gente, porque o te autoexcluyes o les cedes absolutamente todo... incluso muchas webs lo primero que te piden es acceso a todas tus fotografías, que son privadas."

Patrici Calvo

"Los algoritmos de IA no son competentes ni están capacitados para diferenciar entre lo vigente y lo válido. No pueden captar el sentido de las cosas, sólo cuantificar datos sobre comportamientos, hábitos y opiniones de un grupo de persones y aplicar un criterio de mayorías para tomar decisiones moralmente válidas. Si pusiéramos una IA en la Alemania nazi, ésta identificaría las leyes de Núremberg como el bien común de la sociedad, pues era el sentir mayoritario de la gente alemana en aquel momento de la historia. La ética no tiene que ver con las opiniones, sino con las buenas razones que tienen los afectados para aceptar las consecuencias derivadas de esas normas, acciones o decisiones. Las leyes de Núremberg carecían de la más elemental de las buenas razones para ser escritas y aplicadas. El problema es que el análisis que puede hacer la IA sobre lo justo y bueno se basa en cómo son las cosas, mientras que la ética se preocupa de cómo deberían ser las cosas. La ética piensa en cómo orientar los comportamientos para que acontezcan un mundo más justo y felicitante para el conjunto de la humanidad."

Patrici Calvo

"Los ecosistemas ciberéticos permitirían monitorizar en tiempo real cómo se están haciendo las cosas en esta pandemia tanto desde el punto de vista físico y económico como desde el punto de vista ético y socialmente responsable. Por ejemplo, si la redistribución de los recursos escasos a pequeña y gran escala, lo que en salud llamamos principio de justicia, está siendo moralmente válida y socialmente responsable. Hoy tenemos dudas razonables sobre cómo los países están actuando y gestionando las compras internacionales de material sanitario. Imperativos sistémicos como el poder y el dinero parecen estar detrás de la deficiente redistribución de los recursos. Pero, además, también existen series dudas sobre el uso de IA por parte de algunos estados para potenciar la falta de empatía y solidaridad hacia ciertas naciones generando información sesgada, imprecisa o maliciosa. También serviría para conocer y controlar si los gobiernos están reportanto adecuadamente o, por el contrario, se dedican a generar bulos sobre su gestión frente a la crisis para crear campos de distorsión de la realidad y, de esta forma, mejorar su imagen."

Patrici Calvo

“No presionamos bastante ante el uso ilícito de nuestros datos personales.”

Patrici Calvo

"Propongo un diseño moralmente valido de aplicación de la IA, en tanto que sus consecuencias puedan ser aceptadas por todos los afectados, y socialmente responsables, en tanto que responda de sus impactos económicos, sociales y medioambientales. Esto quiere decir que la IA tiene que tender al bien general y no particular. Hoy tenemos demasiadas evidencias de que la IA beneficia a un pequeño grupo de privilegiados y castiga a los más vulnerables. Por ello, debe ser transparente en sus decisiones. Es decir, debe responder de sus impactos sobre la sociedad."

Patrici Calvo

"Una cosa es la idea y otra su aplicación práctica. La precipitación y las expectativas desmesuradas generan consecuencias negativas para el conjunto de la sociedad, sobre todo para los colectivos más vulnerables. Por eso, como he dicho, debemos apelar a la crítica constante de todo el proceso. La IA tiene que servir para generar un mejor mundo posible, un mundo más justo y felicitante para todos los afectados. Si no lo hace, mejor dedicar los esfuerzos a desarrollar otros campos. Pero no creo que sea el caso. La IA, bien gestionada, tiene un enorme potencial para el ser humano. No debemos dejar escapar esta oportunidad y trabajar desde el principio en una IA beneficiosa, peró también ética y socialmente responsable."

Patrici Calvo