Las cinco áreas de la ética en tecnología

4-Privacidad

No hay duda de que la tecnología está invadiendo nuestra privacidad.  Su dispositivo probablemente sepa más sobre usted que su mejor amigo. A medida que  nuestro  trabajo  y  nuestra  vida  personal se  vuelven  más conectados e integrados con la tecnología que impulsa nuestro mundo, a menudo bajamos la guardia. Nos hemos acostumbrado y dependemos tanto de la tecnología invasiva y penetrante que nos hemos sentido cómodos con la vigilancia de una forma u otra. Almacenamos datos personales íntimos y valiosos en nuestros dispositivos sin pensar demasiado en quién más puede acceder a ellos o qué están haciendo con ellos. En la histórica decisión de la Corte Suprema de 2014, Riley v. California, la mayoría escribió que “el hecho de que la tecnología ahora permita a un individuo llevar esa información en su mano no hace que la información sea menos digna de la protección por la que lucharon los Fundadores”. A medida que la tecnología continúa desarrollándose más rápido de lo que los legisladores pueden garantizar la protección de privacidad, tanto el gobierno como las corporaciones se están saliendo con la suya, rastreándonos y vigilándonos de una manera que no hace mucho tiempo se veía solo en la ciencia ficción. Recogen inmensas cantidades de datos sobre nuestras ubicaciones, comunicaciones, búsquedas en línea, compras y mucho, mucho más. No solo la privacidad se ve comprometida por todo esto. Nuestro derecho a la libertad de expresión, nuestra seguridad (tanto en línea como fuera de ella), y la igualdad prometida en la Constitución. Todos nos enfrentamos a tener que elegir entre adoptar las últimas tecnologías y proteger nuestras libertades civiles. No debería ser así, y es por eso que la privacidad y los derechos de privacidad son un enfoque central de Ethics In Tech.

En 1999, el CEO de Sun Microsystems, Scott McNealy, levantó las cejas y la ira dentro y fuera de la industria de la tecnología, cuando llamó a los problemas de privacidad de los consumidores como una “cortina de humo”. “Tienes cero privacidad de todos modos”, dijo McNeal a un grupo de reporteros. “Supérenlo”. 59 La declaración de McNealy conmocionó en aquel entonces, pero se ha vuelto más cierto con cada año que pasa. En 2010, el cofundador de Facebook, Mark Zuckerberg, reiteró el sentimiento de McNealy, actualizado para la floreciente era de las redes sociales, cuando declaró que la privacidad ya no era una “norma social”. Zuckerberg afirmó que “las personas se han sentido realmente cómodas no solo compartiendo más y diferentes tipos de información, sino compartiendo con mas personas”. Señaló que cuando comenzó Facebook, muchos de sus compañeros, estudiantes de Harvard no lo entendieron; Le  preguntaron  por  qué  querrían  transmitir su  información  e imágenes privadas a través de Internet. Por supuesto, ahora sabemos que era solo cuestión de tiempo antes de que Facebook lanzara Beacon, su controvertido sistema de publicidad lanzado en 2007, que permitía a las compañías rastrear las actividades en línea de los usuarios.60 Esto preocupaba y enojaba a aquellos que estaban prestando atención, ciertamente no mucha gente en esos días y que entendían las implicancias sociales de las intrusiones en la privacidad en línea. Electronic Frontier Foundation calificó los cambios en la política de privacidad de Facebook como una estratagema para que los usuarios compartan aún más información,  acusando  a  la compañía  de  reducir realmente  la  cantidad  de control que las personas tenían sobre sus datos personales. La peor parte de la nueva política, según EFF, era que Facebook ahora trataba la información, incluidos los nombres, las imágenes de perfil, la ciudad actual, el género, las redes, las páginas, los “Me gusta” y las listas de amigos como “información disponible públicamente”, lo que significa que ya no tenía la opción de mantenerlo privado. La Oficina del Comisionado de Privacidad de Canadá completó una investigación de las políticas y prácticas de privacidad de Facebook en septiembre de 2010, concluyendo que los cambios realizados por la compañía lo alinearon más con las leyes de privacidad de Canadá. Una de las principales preocupaciones de los investigadores fueron los desarrolladores externos de juegos y otras aplicaciones populares que tenían acceso prácticamente ilimitado a los datos personales de los usuarios de Facebook. Si bien la investigación del gobierno canadiense concluyó que Facebook estaba avanzando hacia la resolución de algunas de sus violaciones de privacidad más atroces, todavía le preocupaba que la compañía expandiera las categorías de datos de los usuarios que estaban a la disposición de todos y la falta de control de configuraciones de seguridad para los mismos usuarios.61 En Noruega, el consejo nacional de consumidores ha llevado repetidamente a Facebook por estas y otras prácticas. Un informe de 2018 acusó a Facebook y Google de incorporar “patrones oscuros”, opciones de diseño explotadoras, en sus interfaces en un esfuerzo dudoso para persuadir a los usuarios de que compartan la mayor cantidad de datos personales posibles. El informe del Consejo Noruego del Consumidor concluyó:

Facebook y Google tienen valores intrusivos de privacidad, donde los usuarios que desean una opción más amigable con su privacidad tienen que pasar por un proceso significativamente más largo. Incluso ocultan algunas de estas configuraciones para que el usuario no pueda saber cuáles son estas opciones de seguridad más severas.

Las ventanas emergentes de Facebook, Google y Windows 10 tienen un diseño, símbolos y palabras que alejan a los usuarios de las opciones más amigables con la privacidad. Las opciones están redactadas para obligar a los usuarios a tomar ciertas decisiones, mientras que la información clave se omite o se minimiza. Ninguno de ellos permite al usuario elegir libremente las decisiones. Además, Facebook y Google  amenazan  a  los usuarios con la  pérdida  de funcionalidad o la eliminación de la cuenta de usuario si el usuario no elige la opción por defecto de privacidad …

Los usuarios reciben una ilusión de control a través de la configuración de privacidad. En primer lugar, Facebook le da al usuario una impresión de control sobre el uso de datos de terceros para mostrar anuncios, mientras que resulta que el control es mucho más limitado de lo que parece inicialmente. En segundo lugar, El panel de privacidad de Google promete permitir al usuario eliminar fácilmente los datos del usuario, pero el panel resulta ser difícil de navegar, más parecido a un laberinto que a una herramienta para el control del usuario.

La combinación de valores predeterminados de privacidad intrusivos y el uso de patrones oscuros empujan a los usuarios de Facebook y Google, y en menor medida de Windows 10, hacia las opciones menos amigables con la privacidad en un grado que consideramos poco ético. Nos preguntamos si esto es válido con los principios de protección de datos por defecto y la protección de datos por diseño, y si el consentimiento otorgado en estas circunstancias puede decirse que es explícito, informado y otorgado libremente.62

En 2014, la ahora infame firma de consultoría política Cambridge Analytica, con sede en el Reino Unido, comenzó a recopilar información personal de decenas de millones de usuarios de Facebook, datos que la empresa supuestamente utilizó para influir en los votantes a favor de sus clientes políticos. A fines de 2015, The Guardian informó que el candidato presidencial, el senador Ted Cruz (R-TX) estaba utilizando datos psicológicos basados en investigaciones de 87 millones de usuarios de Facebook, datos tomados en gran medida sin el consentimiento explícito de los usuarios, en un intento de obtener una ventaja para el Partido Republicano en tiempos de la campaña presidencial. Cambridge Analytica, que está financiado por un fondo multimillonario del donante republicano Robert Mercer, utilizó estos perfiles psicológicos (al igual que los conservadores de super PAC´s respaldados por la familia Mercer) para someter a los votantes a un “micro análisis de comportamiento” en un intento por ganar votos.63 En 2018, Christopher Wylie, un ex empleado canadiense de Cambridge Analytica que se convirtió en informante, presentó detalles aún más inquietantes sobre el sorprendente alcance de la recopilación de datos de la compañía y el papel de Facebook. Se llamó a sí mismo el arquitecto principal de la “herramienta mental de guerra psicológica de Steve Bannon”. 64

Además de las campañas de Cruz y Trump, Cambridge Analytica también trabajó para influir en el resultado de la campaña británica de Brexit de 2016 y las elecciones generales mexicanas de 2018. El CEO de Facebook, Zuckerberg, se vio obligado a disculparse por lo que llamó un “error” y un “abuso de confianza”. Sacó anuncios de página completa en los principales periódicos de los Estados Unidos y el extranjero prometiendo “hacerlo mejor”. También fue sometido a un interrogatorio en el parlamento por varios días en el Congreso, en el cual fue castigado, pero salió ileso, incluso si la confianza pública en la plataforma de redes sociales más prominente del mundo se había erosionado considerablemente. Durante las audiencias del Congreso, Zuckerberg indicó que  estaba abierto  a  las regulaciones de  ética en  la industria  tecnológica, posiblemente incluyendo una regla sugerida por la senadora Amy Klobuchar (D-MN) que requeriría que Facebook notifique a los usuarios sobre una violación de datos dentro de las 72 horas. Este es el estándar establecido en el nuevo Reglamento General de Protección de Datos (GDPR) implementado en la Unión Europea en mayo de 2018.65

Sin embargo, si escucha atentamente el testimonio y la disculpa de Zuckerberg, notará que si bien lo llama un “problema” y reconoce que hubo una “violación de confianza”, nunca usa el término “violación de datos”. Algunos funcionarios actuales y anteriores de Facebook argumentaron que los usuarios que respondieron cuestionarios de personalidad y otras aplicaciones de análisis de datos habían consentido en compartir sus datos. “Inequívocamente no es una violación de datos”, tuiteó un desafiante Andrew “Boz” Bosworth, vicepresidente de hardware de consumo de Facebook. “No se infiltraron sistemas, no se robaron ni piratearon contraseñas o información” .66

El surgimiento del estado de vigilancia masiva en las últimas dos décadas ha sido posiblemente el desarrollo más perturbador que afecta la privacidad de casi todos en el planeta. Esto no es una exageración, ya que el ex empleado de la Agencia de Seguridad Nacional infórmate reveló en las filtraciones que sacudieron al mundo en el 2013. Snowden copió decenas de miles, y tal vez hasta 200,000 documentos de la NSA y el Pentágono, muchos de ellos clasificados. Los compartió con periodistas como Glenn Greenwald, Laura Poitras y Ewen McCaskill. Estos periodistas, durante un largo período de tiempo, los publicaron en periódicos y en sitios de noticias de todo el mundo, incluidos The Guardian, The Washington Post, The New York Times y Der Spiegel. Las filtraciones de Snowden revelaron por primera vez detalles previamente desconocidos sobre el alcance y la escala del programa de vigilancia global de la NSA, que funcionó con la estrecha cooperación de la inteligencia británica, australiana y canadiense. A través de su programa PRISM, la NSA recolectó comunicaciones de Internet con la ayuda activa de las principales empresas de telecomunicaciones y tecnología, incluidas Microsoft, Google, Yahoo, Apple y Facebook.67 La NSA utilizó una herramienta de análisis y visualización de datos que llamó Boundless Informant para catalogar su vigilancia mundial, una contradicción directa con el Congreso y con el pueblo estadounidense, donde se recopilaban datos sobre millones de personas. XKeyscore, un sistema de recuperación de datos que consta de una serie de interfaces de usuario, bases de datos, servidores y software, también fue revelado. Según Snowden, con XKeyscore,

Podía leer el mail de cualquier persona en el mundo con tan solo su dirección de correo electrónico. Cualquier sitio web: podía ver el tráfico hacia y desde él. Cualquier computadora que el individuo usara: Podía verlo. Cualquier computadora portátil que se estaba rastreando: podía seguirlo mientras la persona se movía de un lugar a otro en todo el mundo. Es una ventanilla única para acceder a la información para la NSA.

Podía etiquetar a personas … Digamos que usted trabajaba en una importante corporación alemana y yo quería acceder a esa red, podía rastrear su nombre de usuario en un sitio web en un formulario en algún lugar, podía rastrear su nombre real, podía rastrear a sus amigos y construir lo que se llama una huella digital, que es una actividad de red exclusiva que le pertenece en cualquier parte del mundo, en cualquier lugar es su presencia en línea, su identidad.

La NSA espió los perfiles de las redes sociales de millones de estadounidenses e innumerables millones de personas en todo el mundo en un esfuerzo verdaderamente global para descubrir y rastrear conexiones entre ciudadanos estadounidenses y sospechosos de terrorismo, al servicio de su interminable Guerra Mundial contra el Terror, el gobierno de los EE. UU. con la ayuda de las principales compañías tecnológicas y de telecomunicaciones había participado en una red de vigilancia radical e ilegal de comunicaciones telefónicas y en línea desde 2001. Esto ha incluido escuchas telefónicas sin orden judicial y monitoreo de las comunicaciones de los estadounidenses. Bajo la presidencia de Barack Obama, los funcionarios del Departamento de Justicia reconocieron que la NSA era culpable de “recolección excesiva” de comunicaciones nacionales, pero alegaron que tales actos ilegales no fueron intencionales y que la práctica había sido corregida. Sin embargo, Obama silenciosamente promulgó una reautorización de la Ley de Enmiendas de la Ley de Vigilancia de Inteligencia Extranjera (Foreign Intelligence Surveillance Act FISA) de 2008 que permite las escuchas telefónicas sin orden judicial de las comunicaciones telefónicas y electrónicas en las que al menos una de las personas involucradas es extranjera. En ocasiones, las revelaciones de Snowden fueron francamente bizarras: la NSA se infiltró en comunidades populares de juegos en línea y redes sociales, como World of Warcraft y Second Life, y espió a algunos de los aliados más cercanos de Estados Unidos y a otros líderes mundiales, incluido al Papa.69

Las filtraciones de Snowden destrozaron lo que ya era una fachada de privacidad muy agrietada. Las personas de hoy, especialmente las generaciones más jóvenes, casi no tienen expectativas de privacidad. Según una encuesta de Pew Research de 2015, solo el 6 por ciento de los estadounidenses estaban “muy seguros” de que las agencias gubernamentales salvaguardarían la privacidad de su información personal, y el mismo porcentaje expresó una gran confianza en que las compañías de telecomunicaciones harían lo mismo. Más de dos tercios de los encuestados afirmaron tener poca o ninguna confianza en que los sitios de redes sociales, los motores de búsqueda o los sitios de video protegerían sus datos. Por supuesto, la erosión de la privacidad no se limita solo a nuestras vidas en línea. Casi todo lo que haces es ser observado o rastreado. Simplemente camine por la calle de cualquier ciudad importante y verá edificios repletos de cámaras. Nos vigilan constantemente en ciudades y pueblos grandes y pequeños de todo el país. El miedo al terrorismo y la creciente asequibilidad a las cámaras de circuito cerrado de televisión (CCTV) y otras tecnologías han impulsado la tendencia hacia la vigilancia omnipresente que más o menos damos por sentado. De hecho, una encuesta de abril de 2013 del New York Times / CBS encontró que los estadounidenses aprueban la instalación de cámaras de video vigilancia en lugares públicos. El 78 por ciento de los encuestados dijo que renunciar a su privacidad y libertades civiles era una compensación aceptable para una mayor seguridad.71 Por supuesto, esto fue solo una semana después de los ataques con bomba del maratón de Boston, pero uno se pregunta si ese 78 por ciento ha escuchado alguna vez a Benjamin Franklin y su advertencia premonitoria de que “aquellos que renunciarían a la libertad esencial para comprar un poco de seguridad temporal no merecen ni libertad ni seguridad”.

En ese caso, la ciudad de tiburón ubicada en California, a poca distancia al norte del puente Golden Gate en San Francisco, seguramente tampoco debe merecerla. La acomodada comunidad junto a la bahía de 9.100 residentes, casi todos blancos, cuenta con solo dos caminos dentro y fuera de la ciudad. Tiburón es un lugar extremadamente seguro, sin embargo, su Ayuntamiento decidió gastar $ 200,000 para colocar seis cámaras de seguridad (los críticos las llaman “cámaras de inseguridad”) a lo largo de las carreteras para controlar cada vehículo que entra o sale de la ciudad. Si bien la policía realiza verificaciones de matrículas en vehículos individuales todo el tiempo, los activistas por la libertades civiles están alarmados por lo que llaman “corrupción por alcance”, y surgen serias preguntas de la Cuarta Enmienda. Esas cámaras no solo registran su placa de matrícula, sino que también ejecutan el número de placa a través de una base de datos de aplicación de la ley y la verifican con vehículos conocidos o que se cree que están involucrados en delitos. El crimen más famoso captado por la cámara en Tiburón fue el robo en 2011 del famoso Lamborghini amarillo del chef Guy Fieri por un adolescente local. Pero en una ciudad súper segura donde no ha habido un asesinato en una década y prácticamente no hay robos al mes antes de que se instalaran las cámaras, muchos residentes preocupados y grupos de libertades civiles cercanos y lejanos se han opuesto vehementemente a la vigilancia masiva. “El seguimiento integral de la ubicación, que es posible gracias a los avances tecnológicos como estos lectores de matrículas, revelan todo tipo de detalles íntimos sobre la vida de una persona”, dijo a KQED Stephanie Martin, abogada de la ACLU. “Visitas a la reunión de Alcohólicos Anónimos, el bar gay, el salón de la unión, la clínica de abortos, etc. “72

A la vuelta del puente Golden Gate en San Francisco, hay muchas más cámaras que monitorean el tráfico entrante y saliente. “No quedan muchos lugares sin algún tipo de cámara de vigilancia pública o privada”, dijo Nadia Kayyali de Electronic Frontier Foundation a CBS San Francisco. “La idea de que puedes reunirte en un lugar público y mantener una conversación tranquila … ya no es realista”. De hecho, según la policía de San Francisco, el residente promedio de la ciudad aparece ante la cámara docenas de veces al día, dependiendo de sus movimientos. Kayyali argumenta que el nivel de monitoreo al que todos estamos sujetos diariamente supera la vigilancia de la NSA.73

El aumento de la tecnología de reconocimiento facial aumenta la posibilidad de una vigilancia aún más invasiva y generalizada, tanto de origen público como privado. Por supuesto, estas nuevas tecnologías siempre se promocionan como una forma de disminuir el terrorismo o la delincuencia y aumentar la seguridad. Tal es el caso de Face-Int, una base de datos de perfiles faciales de miles de sospechosos de terrorismo recolectados en sitios de redes sociales como Facebook, YouTube y otros foros en línea. FaceInt fue creado por una compañía llamada Terrogence, que fue comprada por la firma israelí Verint en FaceInt almacenó y analizó más de 35,000 videos y fotos en línea, convirtiendo a Terrogence en otra compañía tecnológica que, como Cambridge Analytica, pudo secretamente capitalizar con la apertura de Facebook sus propios propósitos dudosos.74 No se necesita mucha imaginación para visualizar un escenario de “alcance progresivo” en el que el uso de FaceInt se expanda más allá del terrorismo y en el ámbito de lo político, o incluso en beneficio de las corporaciones u otros actores privados Las compañías tecnológicas, incluida Amazon, se han posicionado para ser los principales actores en la tecnología de reconocimiento facial para la aplicación de la ley, un desarrollo al que incluso muchos trabajadores de esas compañías se oponen con vehemencia. En junio de 2018, los empleados de Amazon firmaron y enviaron una carta a Jeff Bezos pidiéndole que ordenara a la compañía que dejara de vender software de reconocimiento facial a las agencias policiales y que detuviera sus negocios con Palantir, una compañía de explotacion de datos iniciada por Peter Thiel. Thiel es un inversionista multimillonario que cofundó PayPal y que curiosamente se considera un libertario. Palantir desarrolla herramientas de vigilancia predictivas, el tipo de tecnología que hasta hace muy poco era el material de películas de ciencia ficción como “Minority Report“. El “pre-crimen” ha pasado de la fantasía a la realidad, con empresas como Palantir y Amazon. Más de 100 empleados de Amazon firmaron la carta, que decía:

Querido Jeff

Estamos preocupados por el reciente informe de la ACLU que expone la práctica  de  nuestra  compañía  de  vender AWS  Recognition,  una  poderosa tecnología de reconocimiento facial, a los departamentos de policía y agencias gubernamentales. No tenemos que esperar para descubrir cómo se utilizarán estas tecnologías. Ya sabemos que, en medio de la militarización histórica de la policía, los objetivos renovados de los activistas afroamericanos y el crecimiento de la fuerza de deportación federal actualmente involucrada en abusos contra los derechos humanos, esta será otra herramienta poderosa para el estado de vigilancia y, en última instancia, servirá para dañar  a los más marginados No estamos solos en este punto de vista: más de 40 organizaciones de derechos civiles firmaron una carta abierta en oposición al uso gubernamental del reconocimiento facial, mientras que más de 150,000 personas firmaron otra petición entregada por la ACLU.

También sabemos que Palantir se ejecuta en AWS. Y sabemos que ICE depende de Palantir para impulsar sus programas de detención y deportación. Junto con gran parte del mundo, vimos con horror recientemente cómo las autoridades de los Estados Unidos separaron a los niños de sus padres. Desde el 19 de abril de 2018, el Departamento de Seguridad Nacional ha enviado a casi 2,000 niños a centros de detención masiva. Este tratamiento va en contra de las pautas de la Agencia de Refugiados de las Naciones Unidas que dicen que los niños tienen derecho a permanecer unidos con sus padres, y que los solicitantes de asilo tienen el derecho legal de solicitar refugio. Ante esta inmoral política de los EE. UU., y el trato cada vez más inhumano de los refugiados e inmigrantes por parte  de  los EE. UU. Más allá  de  esta  política  específica,  nos preocupa profundamente que Amazon esté implicado, proporcionando infraestructura y servicios que permiten ICE y DHS continuar con estas prácticas.

La tecnología como la nuestra desempeña un papel cada vez más crítico en muchos sectores de la sociedad. Lo que está claro para nosotros es que nuestras prácticas de desarrollo y ventas aún no han reconocido la obligación que conlleva, centrarse únicamente en el valor para los accionistas es una carrera perjudicial y en la que no participaremos.

Nos negamos a construir la plataforma que impulsa a ICE, y nos negamos a contribuir con herramientas que violen los derechos humanos. Como amazonians éticamente preocupados, exigimos una elección en lo que construimos y nuestra opinión sobre cómo se usa. Aprendemos de la historia y entendemos cómo se emplearon los sistemas de IBM en la década de 1940 para ayudar a Hitler. IBM no se hizo responsable entonces, y Cuando entendió su papel, ya era demasiado tarde. No dejaremos que eso vuelva a suceder. El momento de actuar es ahora. Le pedimos que:

1) Deje de vender servicios de reconocimiento facial a la policía.
2. Deje de proporcionar infraestructura a Palantir y a otros socios de Amazon
que habiliten ICE.
3. Implemente medidas firmes de transparencia y responsabilidad que incluyan
enumerar qué agencias de cumplimiento de la ley y las compañías que apoyan
a las agencias de fiscalizadoras de la ley que están utilizando los servicios de
Amazon, y cómo.

Nuestra empresa no debe estar en el negocio de vigilancia; no deberíamos estar en el negocio policial; no deberíamos estar en el negocio de apoyar a quienes vigilan y oprimen a las poblaciones marginadas.

Sinceramente,

amazonians.

Por supuesto, nuestro gobierno ha estado utilizando tecnología para vigilarnos durante mucho tiempo, y nos ha estado observando a algunos mucho más que a otros. Quizás el ejemplo clásico de todos los tiempos de esto es el COINTELPRO del FBI (Programa de Inteligencia de COunter). Originalmente lanzado por el director del FBI J. Edgar Hoover en 1956 para monitorear a los comunistas estadounidenses, en dos meses el programa estaba enfocado en el creciente movimiento de derechos civiles. En uno de los actos de vigilancia más dudosos en la historia de los Estados Unidos, Robert F. Kennedy, fiscal general durante la administración de John F. Kennedy, autorizó las escuchas telefónicas del teléfono del reverendo Martin Luther King Jr. William Sullivan, el agente principal a cargo de COINTELPRO, reflejó el pensamiento prevaleciente entre la policía estadounidense cuando advirtió que “debemos marcar [a KING] … como el afroamericano más peligroso para el futuro de esta nación”. 75 Eso sí, esto era justo antes de que el ícono de los derechos civiles recibiera el Premio Nobel de la Paz por su papel principal en  la lucha no violenta contra la segregación, privación de derechos y otras injusticias raciales de Jim Crow. Bajo COINTELPRO, el FBI colmó las habitaciones de la casa y el hotel de King, luego le envió cartas anónimas en un intento por alentarlo a suicidarse. Los agentes incluso enviaron a la esposa de King una grabación de su esposo con una supuesta amante. Cuando King criticó al FBI por ignorar crímenes horribles y asesinatos cometidos con impunidad por miembros del todavía poderoso Ku Klux Klan, Hoover se enfureció. Incluso llamó al honorable King el “mentiroso más conocido” de la nación. 76 En la actualidad en los Estados Unidos sigue siendo peor identificar y condenar el racismo que el racismo en sí. ¿Esperaría fuera diferente en una nación construida sobre una base de genocidio y esclavitud?

Otra gran figura asesinada, del movimiento de derechos civiles de la década de

1960 fue Malcolm X, también fue un objetivo de COINTELPRO. Los agentes del FBI se infiltraron en su Organización de Unidad Afroamericana en los últimos meses de su vida, fomentando la división y conflictos entre los miembros del grupo, que condujeron al asesinato de X. Otros objetivos incluyeron a Black Panther Party partido pantera negra, American Indian Movement Movimiento Indígena Americano, the Nation of Islam la Nación del Islam, the Socialist Workers Party el Partido Socialista de los Trabajadores, the Ku Klux Klan, National Lawyers Guild el Gremio Nacional de Abogados, the women’s liberation movement el movimiento de liberación de las mujeres, además de otros grupos y causas tanto de izquierda como de derecha. 77 Pero lo peor de COINTELPRO y su vigilancia, de la infiltración, las operaciones psicológicas, el acoso ilegal, la violencia e incluso los asesinatos de grupos asociados (especialmente los líderes de las Panteras Negras Fred Hampton y Mark Clark en Chicago en 1969) estaban reservados para los afroamericanos que luchaban por la justicia y la igualdad prometidas por mucho tiempo, pero negadas por su país.

Muchas personas piensan que esa vigilancia racial inconcebible, de hecho, inconstitucional, es cosa del pasado. No lo es. La policía federal, estatal y local se ha infiltrado, rastreado y monitoreado a Black Lives Matter y otros grupos. Durante las protestas de BLM en 2014 en torno al tiroteo fatal de Michael Brown por la policía en Ferguson, Missouri, agentes del FBI rastrearon a activistas mientras viajaban por todo el país para participar en las manifestaciones.

Y no se trata solo de grupos de justicia étnica. Los documentos obtenidos por The Intercept revelan sobre actividades de vigilancia que fueron mucho más allá de la recopilación de inteligencia en línea, los documentos sugirieron que agentes federales habían vigilado las casas y vehículos de personas asociadas con Black Lives Matter.78 En Memphis, la policía fue tan lejos como para crear cuentas falsas de redes sociales para espiar a BLM. Al admitir esto, el oficial en jefe de la ciudad calificó esa vigilancia como “simplemente un buen trabajo policial” 79.

En un incidente un tanto gracioso, la Policía del Estado de Massachusetts tuiteó accidentalmente una foto que mostraba una pantalla de computadora con grupos progresivos marcados en la ventana del navegador, confirmando las sospechas de aquellos en movimientos como Occupy, Black Lives Matter, Antifa y otros movimientos de justicia social.

También hay una larga historia en los Estados Unidos de compañías o intereses gubernamentales y privados que trabajan juntos para elaborar listas de vigilancia y bases de datos de grupos e individuos específicos. Pero especialmente desde el 11 de septiembre, parece que estamos siendo observados constantemente. Nuestro gobierno nos vigila. Las empresas nos observan, especialmente en las que trabajamos. Nuestros dispositivos nos observan: recuerdo reírme cuando un profesor universitario predijo en la década de 1990 que algún día incluso nuestros inodoros y refrigeradores nos vigilarían. Bueno, el Internet de las cosas está aquí, está aquí para quedarse y puedo informar que, aunque mi refrigerador es de la variedad de la vieja escuela, hay muchos refrigeradores y otros electrodomésticos que están conectados a Internet. Y sí, en el 2018 Consumer Electronics Espectáculo en Las Vegas, Kohler presentó su inodoro multifuncional Numi, impulsado por Alexa de Amazon. Puedes pedirle a Numi que prepare el bidet, reproduzca canciones de tus listas de reproducción almacenadas (tiene parlantes) y, en una posible mejora para las relaciones románticas, ¡incluso baja el asiento! 81

Si hay un lado positivo en la vigilancia masiva global, es que la gente de todo el mundo ahora es consciente de ello y rechaza sus excesos. Las personas informadas realmente pueden marcar la diferencia, como vimos en 2012 durante las protestas coordinadas contra un par de leyes propuestas, la Ley de Stop Online Piracy (SOPA) y la Ley PROTECT IP (PIPA), que los críticos, incluido yo mismo, argumentaron que habrían infringido en línea libertad de expresión. Organizado por Fight for the Future, protestas, tanto en línea como fuera de línea Contra SOPA y PIPA en las que participaron más de 100.000 sitios web y millones de personas. Millones de estadounidenses enviaron correos electrónicos a sus miembros del Congreso en oposición a los proyectos de ley. Una petición de Google recolectó más de 4.5 millones de firmas. Wikipedia y Reddit lideraron las protestas en línea cerrando temporalmente sus sitios y redirigiendo a los usuarios a una página que se oponía a los proyectos de ley. Otros sitios, incluidos Google, Flickr y Mozilla, expresaron de manera destacada su oposición, mientras que las empresas que respaldaron las medidas, incluido GoDaddy, fueron blanco de boicots. En medio de esto, la Casa Blanca de Obama emitió una declaración prometiendo que la administración “no respaldaría la legislación que reduciría la libertad de expresión, que pondría en riesgo la ciberseguridad o debilitaria la dinámica e innovadora Internet global”. Las protestas funcionaron, ni SOPA ni PIPA se convirtieron en ley. Haríamos bien en recordar el nivel de vigilancia y acción necesarios para vencer las medidas que infringían nuestros derechos. Como dijo EFF, “si la victoria contra SOPA / PIPA nos enseñó algo, es que Internet seguirá siendo un lugar al que todos puedan acceder de manera confiable y asequible para compartir, conectarse y crear libremente depende de nosotros”. 82

Otra lucha por la privacidad involucra los términos de servicio. En mayo de

2018, la Corte Suprema dictaminó por unanimidad en Byrd v. Estados Unidos en que el conductor de un automóvil alquilado tenía el derecho constitucional de privacidad en el vehículo, a pesar de que el no estuviera autorizado para operar el vehículo bajo los términos del acuerdo alquiler. En el caso en cuestión, los policías estatales de Pensilvania detuvieron a Terrence Byrd, que conducía un auto alquilado que su novia le había prestado; su novia era el único conductor autorizado por el contrato de alquiler. Los policías estatales utilizaron esto para registrar el vehículo, en el cual descubrieron 49 ladrillos de heroína. Byrd afirmó que la búsqueda violó la prohibición de la Cuarta Enmienda de búsqueda e incautación irrazonables. Dos tribunales inferiores dictaminaron en su contra, pero el Tribunal Supremo decidió a su favor. En esencia, lo que decía el tribunal superior es que su expectativa de privacidad no debe depender de la letra pequeña en un contrato de alquiler u otro acuerdo.83 En otros casos, los tribunales, incluido el Tribunal Supremo, que con el simple hecho de aceptar los términos de servicio renuncia a sus derechos de la Cuarta Enmienda. Tal fue el caso en Estados Unidos v. Frank DiTomassi en el que AOL denunció a un hombre por transmisión en línea de pornografía infantil. El tribunal dictaminó que:

Una persona familiarizada con la política de AOL entendería que, al aceptar las política estaba consintiendo no solo el monitoreo por parte de AOL como ISP, sino también en el monitoreo por parte de AOL como agente del gobierno. Por lo tanto, la Cuarta Enmienda de DiTomasso falla por sus correos electrónicos.84

El fallo de DiTomasso cita a Smith v. Maryland en el cual la Corte Suprema distingue entre el “contenido de la comunicación” y la información auxiliar revelada accidentalmente por dicha comunicación. Los datos, están protegidos por la  Cuarta  Enmienda,  mientras  los metadatos  pierden  dicha protección constitucional tras la divulgación. DiTomasso también agrega que la Corte Suprema determinó que, según la Cuarta Enmienda, instalar un dispositivo de rastreo GPS en un vehículo y monitorear sus movimientos equivale a una búsqueda. La jueza Sonia Sotomayor escribió que:

Puede ser necesario reconsiderar la premisa de que un individuo no tiene expectativas de privacidad en la información que se divulga voluntariamente a terceros … Este enfoque no es adecuado para la era digital, en la que las personas revelan una gran cantidad de información sobre sí mismos a terceros al llevar a cabo tareas mundanas. Las personas divulgan los números de teléfono que marcan o envían mensajes de texto a sus proveedores de telefonía celular; las URL que visitan y las direcciones de correo electrónico con las que frecuentan a sus proveedores de servicios de Internet; y los libros, comestibles y medicamentos que compran a los minoristas en línea.85

5-Inteligencia artificial

La IA es un tema bastante popular y aparentemente todo el mundo habla sobre el progreso, las posibilidades y los peligros del desarrollo de la inteligencia artificial. La floreciente creación de máquinas pensantes entusiasma a la humanidad con posibilidades, pero también plantea serias cuestionamientos éticos que deben abordarse desde el principio. Los especialistas en ética no solo se preocupan por garantizar que las máquinas no causen daño a los humanos, sino que también deben lidiar con preguntas sobre el estado moral de las máquinas mismas. A medida que la automatización del lugar de trabajo continúa a buen ritmo, ¿cómo podemos manejar mejor la inevitable interrupción y desplazamiento que resultará? ¿Cómo distribuimos mejor la riqueza generada por las máquinas? ¿Cómo nos protegemos contra el sesgo de AI (sí, es una cosa)? 86 ¿Cómo protegemos a AI contra los adversarios? ¿Cómo afectará la IA  la  forma  en  que  nos comportamos  e  interactuamos  no  solo  con  otros humanos, sino también con la IA? ¿Cómo podemos protegernos de los errores de IA y cómo vamos a proceder una vez que la singularidad (el punto en el que la IA evoluciona más allá del nivel de inteligencia humana se convierta en lo que algunos creen que será una superinteligencia que podría significar el fin de la humanidad)? ¿Cómo manejamos las consecuencias no deseadas? ¿Qué derechos otorgaríamos a las máquinas inteligentes que creamos, si es que tenemos alguna? 87 Estas y otras preguntas críticas deben ser respondidas si queremos proceder de manera ética y responsable con el desarrollo de la IA.

Como hombre espiritual y estudiante del difunto reverendo Dr. Howard Thurman, creo que toda la vida es santa. Si toda la vida es santa, la IA debería estar éticamente vinculada a la preservación de la vida. “No matarás” debería ser uno de los principios fundamentales que guían el desarrollo de la IA. Si es así, entonces es muy poco ético trabajar con las empresas tecnológicas que no respetan este principio central. Hay compañías tecnológicas que están creando instrumentos de guerra, instrumentos cuyo propósito es matar a otros seres humanos. Muchas de estas compañías se han vuelto increíblemente ricas ofreciendo  la  Muerte  y  la  Destrucción  como  un  Servicio.  Otros han  sido cómplices de mantener y promover la maquinaria de la opresión sistémica. Desafortunadamente, la guerra y la opresión son esfuerzos muy lucrativos. Tanto los ejecutivos corporativos como los planificadores del Pentágono, los complejos militares-industriales, están babeando sobre las posibilidades de ganancias y poder que ven en la inteligencia artificial. Cuando la mayoría de la gente piensa en la IA y el campo de batalla del futuro, imaginan escenas de The Terminator u otras películas de ciencia ficción de su juventud. Lo más probable en el corto plazo es que la IA sea un facilitador, como la electricidad o el motor de combustión interna en épocas anteriores. La IA mejorará la precisión y la eficacia de los sistemas de armas. Los hará más rápidos, más ágiles y capaces de responder a los hechos que cambian rápidamente en el campo de batalla. La capacidad de procesar rápidamente la cantidad literalmente abrumadora de datos entrantes durante el tiempo de guerra será fundamental para lograr el éxito de la misión, y la inteligencia artificial es la clave para realizar esta capacidad. Por supuesto, en algún momento Skynet, el señor de la IA en la franquicia de The Terminator, se convertirá en una posibilidad muy real. Elon Musk y el fallecido y gran Stephen Hawking  se encuentran entre las muchas mentes principales que han dicho que temen que la IA pueda desencadenar la Tercera Guerra Mundial o algo peor.88 Dado que lo que está en juego es potencialmente la extinción de la humanidad, ¿no sería prudente proceder bien y crear reglas de ética definidas y universalmente aceptadas para la IA?

Los complejos militares-industriales nos han dado algunas de las cosas más importantes en nuestras vidas. El Internet ahora indispensable, por ejemplo, nació hace medio siglo de la Agencia de Proyectos de Investigación Avanzada (Advanced Research Projects Agency ARPA) del Departamento de Defensa. Sería ingenuo abogar por la destrucción total de ciertos aspectos y elementos del complejos militares-industriales, pero la ética es más importante que nunca en esta área. Así como la sociedad desarrolló un marco ético para gobernar el uso de Internet, ahora debe diseñar reglas que sean la base en el uso de la inteligencia artificial. Y así como los perros guardianes, los informantes y otros activistas que hacen sonar la alarma cada vez que el gobierno, las corporaciones u otras potencias intentan ignorar las reglas (la lucha por la neutralidad de la red viene a la mente), ahora debemos estar siempre atentos ante el rápido desarrollo Tecnología de IA y su aplicación.

Mucho más que el ejército, que es, después de todo, el negocio de matar personas, las compañías tecnológicas están luchando e ideando pautas para el desarrollo ético y el uso de la inteligencia artificial. Google lanzó recientemente un conjunto de principios de ética de IA que incluyen ser socialmente beneficioso, evitar sesgos algorítmicos, ser seguros, responsables y proteger la privacidad.

Google declaró explícitamente, que no desarrollaría ni desplegaría IA para armas, vigilancia ilegal, violaciones de derecho internacional o los derechos humanos, o “tecnologías que causen o puedan causar un daño general”. 89 Si bien Google fue ampliamente aplaudido por abordar las preocupaciones relacionadas con El uso ético de la IA, los defensores de los derechos digitales, incluida la Electronic Frontier Foundation, han expresado su preocupación de que las políticas de ética como la de Google no lleguen lo suficientemente lejos. Google, por ejemplo, no se ha comprometido a ningún tipo de revisión independiente de transparencia para garantizar que la empresa se adhiera a sus propios principios étnicos.90 Y si bien el código de ética de Google se compromete a evitar abusos contra los derechos humanos, la voluntad de la empresa de ceder a la voluntad del gobierno chino para hacer negocios en uno de los mercados de consumo más grandes del mundo no es fiel a sus propios principios.

Como dije, cuando la mayoría de las personas imaginan los peligros potenciales de la IA, imaginan una situación de tipo “Terminator” en la que las máquinas “despiertas” superan por mucho a los humanos en inteligencia y luego nos exterminan o nos convierten en sus esclavos, o peor aún, su fuente de alimento a la “La matriz”. Los peligros reales que es probable que enfrentemos por la IA son mucho menos apocalípticos, pero aún bastante peligrosos. Por ejemplo, Deepfakes  un  software  de  inteligencia  artificial  que  representa  imágenes faciales artificiales, por ejemplo. Una persona con malas intenciones podría usar Deepfakes para crear contenido pornográfico falso en el que la cara de una celebridad o su cara este superpuesta digitalmente sobre la de un actor de cine para adultos o en un video con clasificación X. Ariana Grande, Gal Gadot y Taylor Swift se encuentran entre las celebridades que han sido atacadas.91