ETHICS IN TECH: LA FALTA DE ETICA EN LA TECNOLOGIA.

Durmiendo bajo la antena

By Vahid Razavi

Chapters

Pensamientos finales

Espero no haber pasado demasiado tiempo siendo un tipo que ve el vaso medio vacío en el transcurso de este libro. De hecho, yo diría que el vaso está más que medio lleno. Cuando las personas exigen un cambio y lo exigen de manera persistente, persuasiva y pacífica, el cambio ocurre. Lo hemos visto a lo largo de la historia de nuestra nación. Los movimientos para abolir la esclavitud, mejorar las condiciones laborales, otorgar a las mujeres el derecho al voto, poner fin a la segregación de Jim Crow y lograr la igualdad para las personas LGBTQ fueron todos movimientos impulsados por personas. De abajo hacia arriba en la estructura. En la actualidad, incluso las corporaciones con fines de lucro se están “despertando” al darse cuenta de que ponerse del lado de la injusticia puede amenazar sus resultados. Para un claro ejemplo de esto, no necesitamos buscar más allá de la respuesta corporativa de Estados Unidos a la “ley de baño” de Carolina del Norte, una legislación intolerante aprobada por los republicanos que prohibió a las personas transgénero usar el baño que coincide con su identidad de género. La reacción pública y corporativa fue rápida y severa. PayPal desechó los planes para construir una instalación que hubiera inyectado más de $ 2.6 mil millones en la economía del estado. Las principales empresas, como Deutsche Bank, Adidas y CoStar, se retiraron de los planes de expansión en Carolina del Norte. La NAACP realizo un boicot, y la NCAA anunció que no organizaría ningún evento de campeonato hasta que se derogara la ley. Carolina del Norte derogó la ley, después de meses bajo una intensa y constante presión que incluyó la condena de la NBA, la ciudad de San Francisco y compañías tecnológicas como Apple y Google. Más de un año después, un equipo de funcionarios de Amazon que visitó el estado mientras consideraba sitios para su proyecto HQ2 de $ 5 mil millones y 50,000 empleos interrogó a los líderes estatales sobre la ley derogada y si el estado estaba en condiciones de albergar la instalación.97 No era la primera o última vez que las empresas tecnológicas defendian la igualdad LGBTQ; El CEO de Apple, Tim Cook, el CEO de Salesforce, Marc Benioff, y otros han amenazado y tomado medidas en respuesta a la legislación anti-LGBT en Alabama, Georgia y otros lugares. Tal presión ha hecho desaparecer con éxito una legislación similar en estados como Arizona, Georgia e Indiana, para disgusto del entonces gobernador Mike Pence, quien una vez dijo que el matrimonio homosexual conduciría al “colapso social”. 98

Las acciones sin ética pueden tener consecuencias reales y duraderas, pueden ser el catalizador para un cambio real y duradero. Por el contrario, el comportamiento ético es ampliamente recompensado si las empresas pueden encontrar una manera de saltarse pensamientos y la planificaciones a corto plazo por hacer lo correcto. Tampoco quiero decir necesariamente que los ejecutivos solo eligen hacer lo correcto por motivos de lucro o relaciones públicas. Muchos de ellos son buenas personas, como usted y yo, que realmente buscan hacer del mundo un lugar mejor y que valoran la paz, la justicia y la igualdad. A veces, estas personas pueden sentir que no tienen más remedio que elegir el camino menos ético. Después de todo, solo hay un imperativo legal para las corporaciones, y es devolver el valor máximo para los accionistas. Pero cuando los ejecutivos deciden, ya sea solos o debido a la presión de los empleados, accionistas y otras partes interesadas, hacer lo correcto, literalmente todo el mundo se sienta y toma nota. Vimos esto cuando Jeff Bezos anunció que Amazon pagaría a todos sus trabajadores al menos $ 15 por hora (aunque, según los informes, este aumento se pagará reduciendo injustamente los beneficios que disfrutan los amazonians que están más arriba en la escala corporativa). Lo vimos cuando Tim Cook se negó a cooperar con el FBI para desbloquear un iPhone utilizado por Syed Farook, uno de los dos terroristas que mató a 14 personas e hirió a más de 20 en un tiroteo masivo el 2 de diciembre de 2015 en San Bernardino, California. En ese caso, EFF, junto con Amazon, Microsoft, Google y Facebook, presentaron un informe amicus en apoyo de la postura poco cooperativa de Apple. 99 Lo vimos una vez más cuando el CEO de Salesforce, Mark Benioff, sorprendió a Los san franciscanos cuando se manifestó a favor de la Proposición C, una medida de la boleta electoral de la ciudad destinada a abordar la crisis fuera de control de las personas sin hogar mediante la imposición de un impuesto sobre el ingreso bruto del 0,5 por ciento a las empresas con más de $ 50 millones en ingresos anuales. Benioff también se comprometió a donar $ 1 millón, la mitad de su propio dinero, la mitad a través de Salesforce, en apoyo de la Proposición C. “La falta de vivienda es nuestra responsabilidad”, explicó Benioff, agregando a través de Twitter que “como el empleador más grande de SF nos damos cuenta de que somos parte de la solución “.100 El CEO de Salesforce incluso llegó a acusar a otros multimillonarios de la tecnología de atesorar su riqueza, y apuntaba al CEO de Twitter Jack Dorsey, “parece que él simplemente no quiere dar, eso es todo, y no le ha dado nada importante a la ciudad”, tuiteó Benioff.101. Si se aprueba la Proposición C terminará costándole a su compañía millones de dólares. Lo que es aún más notable sobre la postura de Benioff es que estaba en desacuerdo con el supuesto alcalde progresista de la ciudad, London Breed, que se opuso a la Proposición C.

A menudo, son los propios trabajadores de la industria tecnológica los que provocan un cambio positivo. En mayo de 2018, Google estaba listo para renovar un contrato del Pentágono en un proyecto llamado Maven, que utilizaría la tecnología de la compañía para mejorar la eficacia y la letalidad de los ataques aéreos no tripulados militares. Pero miles de empleados de Google, incluidos los ingenieros superiores, protestaron por la participación de la compañía. Una docena de empleados renunciaron en protesta. Otros expresaron serias preocupaciones sobre el uso de la tecnología de Google por participar en la guerra. Una carta firmada por más de 4.000 empleados de Google afirmó:

Creemos que Google no debería estar en el negocio de la guerra. Por lo tanto, solicitamos que se cancele el Proyecto Maven, y que Google redacte, publique y aplique una política clara que establezca que ni Google ni sus contratistas construirán tecnología de guerra …

Este plan dañará irreparablemente la marca de Google y su capacidad para competir por el talento. En medio de los crecientes temores de una IA sesgada y armada, Google ya está luchando por mantener la confianza del público. Al firmar este contrato, Google se unirá a las filas de compañías como Palantir, Raytheon y General Dynamics. El argumento de que otras empresas, como Microsoft y Amazon, también participan, no hace que esto sea menos riesgoso para Google.

La historia única de Google, su lema Don’t Be Evil (no sea malvado) y su alcance directo en la vida de miles de millones de usuarios lo distinguen … No podemos externalizar la responsabilidad moral de nuestras tecnologías a terceros.  Los valores declarados  de  Google  lo  dejan  claro: cada  uno  de nuestros usuarios confía en nosotros. Nunca se debe poner en peligro aquello. Este contrato pone en riesgo la reputación de Google y se opone directamente a nuestros valores fundamentales. No es aceptable construir esta tecnología para ayudar al gobierno de los EE. UU. En la vigilancia militar, y los resultados potencialmente letales que significan. 102.

Esta oposición llevó a Google a anunciar que no renovaría el contrato de Maven cuando este expirara en marzo de 2019. El CEO de Google, Sundar Pichai, también dio a conocer los siete principios de inteligencia artificial de la compañía, discutidos unas páginas antes en este libro, el principal de ellos es evitar que las “tecnologías causen o puedan causar un daño general”. Google también había estado entre varias compañías que ofertaron p un proyecto del Departamento de Defensa llamado Joint Enterprise Defense Infrastructure o JEDI, el esfuerzo del Pentágono para construir su primera nube. JEDI fue diseñado en parte para mejorar la “letalidad y preparación” de los militares. Sin embargo, muchos empleados de Google se opusieron firmemente a lo que claramente era una violación de los principios de inteligencia artificial de la compañía. Después de las protestas generalizadas de los empleados, Google anunció que retiraría su oferta, explicando que “no podíamos estar seguros de que compartirían los lineamientos de nuestros principios de IA”. 103 En el otro extremo del espectro ético, Amazon se encuentra, al momento de escribir esto. Como el favorito para ganar la candidatura de JEDI. La razón de esto, dicen los críticos, incluidos Google, IBM y Oracle, es que el Pentágono, pretendió una competencia, siempre quiso otorgarle el lucrativo contrato a Servicios web de Amazon. El gobierno hizo poco para disipar tal sospecha; cuando se le preguntó directamente si establecía estándares tan altos que solo AWS podía cumplir, el Departamento de Defensa no respondió.104

Por supuesto, hay límites a los cambios que pueden lograr un gran número de empleados de una compañía. Muchos trabajadores de Google se enfurecieron por la decisión de la compañía de construir en secreto Dragonfly, un motor de búsqueda que cumple con las demandas de censura autoritarias del gobierno chino y algunos empleados renunciaron por esto. Nuevamente, más de un miembro del personal notó la hipocresía inherente a la complicidad de Google con la censura del gobierno chino dado el lema Don’t be Evil (no seas malvado) de la compañía. El científico principal de Google Jack Poulson, quien renunció por Dragonfly, alzó la voz por las implicaciones globales que vendrían “Veo nuestra intención de aceptar las demandas de censura y vigilancia a cambio del acceso al mercado chino como una pérdida de nuestros valores y  nuestra posición de negociación gubernamental en todo el mundo”, escribió en su carta de renuncia. “Existe una posibilidad demasiado real de que otras naciones intenten aprovechar nuestras acciones en China para exigir que cumplamos con sus demandas de seguridad” .105 Pero incluso cuando las protestas de los empleados no logran sus objetivos, existe una presión persistente, que es la clave del éxito.

Las compañías tecnológicas continúan siendo cómplices de crímenes grandes y pequeños en todo el mundo, a veces de manera impactante. La lucha palestina por la liberación de medio siglo de ocupación ilegal israelí y la colonización de “solo judíos”, una situación que destacados observadores internacionales, incluidos los galardonados con el Premio Nobel de la Paz Jimmy Carter y Desmond Tutu han llamado un apartheid peor que el de Sudáfrica.106   Las compañías de tecnología, como Hewlett-Packard, proporcionan tecnología, equipos y servicios al ejército y al gobierno israelí para oprimir a los hombres, mujeres y  niños palestinos.  Israel  es un  jugador  líder en  el mundo  de  la tecnología, y las empresas de tecnología israelíes “disfrutan” de una posición única al probar su última tecnología en conflictos en tiempo real contra seres humanos de verdad. Cuando se le preguntó cuál es el secreto del éxito tecnológico de Israel a Guy Keren, CEO de la firma israelí de seguridad nacional iHLS dijo: “es porque estamos verificando nuestros sistemas en vivo, estamos en guerra todo el tiempo y si no está sucediendo en estos momentos, ocurrirá en un mes “. 107 Activistas del movimiento Boycott, Divestment and Sanctions (BDS) esperan que sus acciones persistentes puedan hacer de HP lo que llaman “la Polaroid de nuestros tiempos “, una referencia a la exitosa movilización masiva contra el uso de la tecnología Polaroid utilizada en el antiguo sistema racista del régimen del apartheid de Sudáfrica. Polaroid se retiró de Sudáfrica en 1977 en lo que se considera un punto de inflexión en la campaña mundial contra el apartheid.108

En las horas más oscuras puede ser difícil imaginar que las cosas pueden mejorar. ¿Las personas que vivían detrás de la Cortina de Hierro a principios de la década de 1980 se atrevieron a soñar que serían libres para fines de la década? El poder y la presión, tanto dentro como fuera de las sociedades y organizaciones, pueden mover incluso las montañas más poderosas si se aplican de la manera correcta en el momento adecuado.

Y así, querido lector, le dejo un mensaje de esperanza y un llamado a la acción. Después de todo, la mayoría de las personas que  trabajan en la  industria tecnológica, como la mayoría de los seres humanos en general, son buenas personas. Desean igualdad racial, de género, sexual y económica. Se erizan ante la injusticia y la desigualdad en el mundo. Pero están ocupados. Están distraídos, tienen deudas de préstamos estudiantiles y deudas de tarjetas de crédito y no saben si seguirán teniendo el mismo trabajo dentro de un año. Tienen que llevarse comida a la boca y tener un techo sobre la cabeza, todo estos mientras tratan de mantener la cabeza arriba mientras navegan por las aguas ásperas e inciertas de su vida profesional. Aun así, son los únicos que pueden lograr un futuro más justo y una industria tecnológica más ética. Es una industria que está obsesionada con el éxito del cliente (la obsesión del cliente es literalmente el primero de los principios de liderazgo de Amazon), pero rara vez o nunca hablamos de nuestros límites o en qué tipo de proyectos no estamos dispuestos a trabajar, a veces sucede como lo demostró admirablemente el ex científico de  Google  Jack Poulson, Una vez fui a una entrevista con una importante compañía de software que permanecerá sin nombre y les pregunté: “¿Hay algo que no haría por un cliente?” Me encontré con una mirada en blanco. Tal vez si más de nosotros hiciéramos preguntas como esa, no nos encontraríamos con desconfianzas, sino con códigos de ética de una compañía que prohíbe políticas y acciones dañinas.

Me alegro de haber trabajado en Amazon, no me arrepiento. Toda la experiencia me hizo una mejor persona. A pesar de todas sus fallas, no puedo sentarme aquí y decirle que Amazon es una “empresa podrida” como CSC. No creo que Amazon C-suiters se despierten por la mañana y piensen en formas de fastidiar a sus empleados. Crean cientos de miles de empleos. Alimentan las necesidades y los antojos de millones de consumidores. No los odio, simplemente no estoy de acuerdo con algunas de sus prácticas y valores comerciales, o la falta de ellos. Amazon contrata a los mejores y más brillantes trabajadores y espera excelencia de ellos, pero la compañía también sufre de una profunda falta de empatía. Es un mundo de trabajadores de drones donde sus trabajadores son tratados como ciudadanos de segunda clase, al igual que la mayoría de las personas a las que se les paga por hacer el trabajo de baja tecnología. Los cuidadores, recepcionistas, personal de seguridad y otros que son esenciales para el funcionamiento fluido y rentable de la empresa están en gran medida excluidos de la cultura amazonian. Son solo recursos desechables para usar y escupir. La mala noticia es que esto hace que no sea un lugar muy agradable para trabajar para los empleados.  La buena noticia es que este problema es totalmente reparable. Amazon se puede redimir, pero depende principalmente de los amazonians hacerlo y también depende de todos los que estamos en el juego de redimir la tecnología. Con los años he ganado y perdido en la industria tecnológica, he pasado mucho tiempo peleando y llorando. Literalmente me volvió loco. Pero a pesar de todo, lo que más recuerdo son las personas, sin las cuales la tecnología omnipresente que todos necesitamos para sobrevivir simplemente no existiría. Además de ser creadores brillantes estas personas también son, “personas” y la mayoría de estas son buenas. Quieren un mundo mejor para ellos, para sus seres queridos y por aquellos que vendrán. Si le importa la ética en la tecnología, no se quedes ahí, salga y ayude a marcar la diferencia. Comprométase e involúcrese. Aquí en el Área de la Bahía tenemos EFF,  el Archivo  de  Internet y  otras organizaciones dedicadas a  temas  de derechos digitales. Estas organizaciones u otros grupos como ellos están activos en la mayoría de las ciudades de América.

Mientras escribo esto, Jamal Khashoggi, un periodista disidente saudita que probablemente fue torturado y asesinado de la manera más horrible mientras visitaba el consulado de su país en Turquía, está en los titulares de todo el mundo. Aunque me parece muy extraño que esto, el asesinato de un hombre sea lo que se necesitó para lograr que los estadounidenses (y de hecho muchas personas en todo el mundo) se sentaran y se dieran cuenta del espectáculo de terror del régimen gobernante saudí, y que llama la atención de otros titanes de la tecnología como el CEO de Uber, Dara Khosrowshahi, cuya firma se ha enriquecido enormemente con miles de millones de dólares de inversión saudita, reacciono rápidamente a la crisis.

La tercera iniciativa anual de inversión futura (third annual Future Investment Initiative) también llamada “Davos en el desierto”, está a solo dos semanas de realizarse mientras escribo esto. No puedo decir cuántos líderes gubernamentales y empresariales no asistirán o boicotearán la conferencia, que se celebrara en Riyadh, la capital saudita, pero puedo decirles que la lista de quienes dicen que lo harán está creciendo, en este momento, esa lista incluye a Khosrowshahi, el CEO de Google Cloud, Dianne Greene, el cofundador de AOL Steve Case, la oficina de diseño en jefe de Apple, Jony Ive y, a partir de esta mañana, el ministro de hacienda de los Estados Unidos, Steven Mnuchin.109 Poder y presión, tanto dentro como fuera de la tecnología, puede mover incluso las montañas más poderosas si se aplican de la manera correcta en el momento correcto.

Siempre debemos usar el poder que tenemos para lograr el cambio que se necesita, solo nos debemos unir para lograrlo. Trabajando juntos podemos ejercer la influencia necesaria sobre nuestros funcionarios electos, lo que resulta en las leyes y regulaciones que hacen que las políticas y acciones de las compañías de tecnología sean más éticas. Realmente no se van a regular solas, sobre todo en este clima actual en el que el presidente no es capaz de designar una gabinete que cumpla las misiones declaradas en sus respectivas oficinas, necesitamos una regulación más que nunca. El capitalismo sin regulación puede conducir al colapso de la civilización, tal como lo conocemos, si se deja a su suerte y se le otorga la licencia para enloquecer. Esto no es exageración; Las dos mayores amenazas que  enfrenta  la  humanidad  hoy  en  día: el cambio climático y la guerra nuclear, son exacerbadas, no mitigadas, por el capitalismo corporativo. La administración Trump se retiró del Acuerdo Climático de París; El acuerdo fue una declaración que fue ampliamente vista como el mejor esfuerzo del mundo para combatir el calentamiento global. Trump también ha retirado a los Estados Unidos de acuerdos clave en control de armas como el histórico Tratado de Fuerzas Nucleares con Rusia y el acuerdo nuclear con Irán, lo que aumenta el riesgo de combate nuclear.

 

A medida que continuamos la transición de la era industrial a la era de la información, y de una economía manufacturera a una economía de servicios, continuaremos viendo desafíos étnicos que no podríamos haber imaginado hace unos años. Los vehículos autónomos que se enfrentaran a accidentes de múltiples vehículos y peatones, efectivamente “elegirán” quién vive o muere. Drones no tripulados, pero definitivamente no desarmados controlados por jóvenes de 18 años en bases con aire acondicionado en Nevada, están llevando la muerte y destrucción sobre militantes islamistas y en inocentes mujeres, hombres y niños por igual a 8,000 millas de distancia en Afganistán. No vamos a detener la inevitable transición hacia vehículos y guerras autónomas, pero hay medidas que podemos y tomar para lograr un equilibrio ético en la tecnología. Tenemos que pensar en GRANDE, querido lector. ¡Y qué podría ser más grande que la ruptura de Amazon de la misma manera en que el gobierno fragmento el monopolio de Bell Telephone, en la década de 1980, durante la administración conservadora de Reagan! Por supuesto, AT&T, una de las empresas derivadas de esa ruptura, se ha vuelto demasiado poderosa por derecho propio, pero la ruptura de Bell fue uno de los mayores y mejores esfuerzos de desregulación en la historia moderna. Puede servir como modelo en nuestro propio tiempo. Esto tampoco tiene que ser algo malo para Amazon; Le diría a Jeff Bezos que se haría aún más rico si fuera a fragmentar la compañia. Esto es exactamente lo que sucedió hace más de un siglo cuando el gobierno separó Standard Oil en los “estándares de bebé”, entre ellos Exxon, Mobil, Chevron, Amoco y Marathon. Lo que resulto en la creación de 34 compañías separadas y el fundador de Standard, John D. Rockefeller, continuó siendo propietario de las mayores acciones, a medida que cada uno de ellos creció por su cuenta, también creció la fortuna de las familia Rockefeller. Rockefeller fue el hombre más rico de su tiempo; Bezos es el hombre más rico de nuestro tiempo. Bezos aún sería rico, y tal vez incluso más rico, si Amazon se dividiera.

 

La tecnología es un arma de doble filo, con el poder de resolver y crear algunos de los mayores problemas de la humanidad. La misma tecnología con la que los gobiernos monitorean a su gente puede usarse de manera positiva. Lamentamos legítimamente las cámaras de seguridad, pero sin cámaras no sabría que Jamal Khashoggi ingresó al consulado saudí en Estambul, o que Eric Garner fue asesinado injustamente por la policía de Nueva York, o que los helicópteros del ejército estadounidense asesinaron a una docena de iraquíes inocentes (gracias, Chelsea Manning y WikiLeaks). Usar tecnología para el bien y tomar decisiones y cambios éticos dentro de las organizaciones agrega valor. Es mejor para las empresas, es mejor para sus trabajadores y es mejor para la humanidad. Cuando las compañías tecnológicas realmente entiendan que ser ético es lo mejor para sus resultados, creo que estarán más inclinados a hacer lo correcto, que va más allá de la búsqueda de ganancias. Cuando todos nosotros nos involucremos en la tecnología, ya sea como empleados, consumidores, socios u otras partes interesadas y hagamos escuchar nuestras voces contra políticas y acciones poco éticas exigiendo un comportamiento adecuado, el cambio no solo será posible hoy, sino que esto se convierta en una de las mejores prácticas para el mañana. Es mi humilde esperanza, que este libro empuje a la tecnología hacia un futuro mejor.