Suscríbete

Contenido exclusivo para suscriptores digitales

REBELDES DEL CÓDIGO

La cara ética del algoritmo

Cada vez más informáticos ya no se sienten a gusto trabajando para los gigantes de Silicon Valley P Quieren programar sin dañar la privacidad y la democracia

>>

Con 33 años, el programador barcelonés Elies Campo había alcanzado lo que otros sueñan toda una vida con lograr. En 2013, lo fichó una de las grandes empresas de Silicon Valley, Whatsapp. Pero un año después la empresa fue adquirida por Facebook. “Me encanta la mensajería, pero para mí es importante trabajar en una empresa que respeta a los usuarios. Cuando vi cómo funcionaba [Facebook], me di cuenta de lo que pasaría con Whatsapp”, afirma Campo, en referencia a que actualmente la red social aprovecha parte de los datos del servicio de mensajería.

En 2014, dejó Whatsapp (cobrando solo una parte del importe de cancelación del contrato debido a la venta, afirma) y el año siguiente empezó a trabajar en Telegram, que presume de no hacer negocio con los datos de sus usuarios. “Seguramente no podré volver a trabajar en Facebook, pero tenemos que dar estos pasos”, afirma.

El dilema moral que expone Campo no es una excepción. “Trabajando en marketing, te topas con temas cuestionables cuando usas datos. Te preguntas si estás haciendo las cosas correctas”, afirma P., un programador de una empresa, que pide anonimato.

“Son asuntos de los que hablamos entre nosotros”, admite M. un informático que trabaja desde España para una empresa de Silicon Valley y que tampoco quiere hacer público su nombre. “¿[Las compañías] se están portando bien? ¿Vulneran la privacidad? ¿Tienen un impacto en la democracia?”, se preguntaba, a los pocos días del asalto al Capitolio, instigado en parte a través de las redes sociales.

“Si estás dentro durante un tiempo, te encuentras envuelto en asuntos que no habrías aceptado antes de entrar”, afirma J., un desarrollador de videojuegos, que también prefiere no desvelar su nombre.

“Dentro de las empresas hay muchos desarrolladores que empujan para cambiar las cosas. Los directivos ya no responden solo a los accionistas y los trabajadores tienen sus opiniones”, reflexiona E., otra joven informática empleada por uno de los gigantes de Silicon Valley, que se suma a la petición de anonimato.

La mayoría de las fuentes consultadas trabajan en empresas privadas que no les permiten expresarse libremente, o sienten incomodidad al cuestionar abiertamente el trabajo de otros programadores.

Un movimiento global

Sin embargo, basta con darse una vuelta por los foros de programadores y redes sociales para encontrar decenas que explican por qué han dejado o rechazado trabajos en las mejores compañías de computación.

Algunos casos son sonados. En 2020, el exdirectivo de Amazon Tim Bray abandonó la empresa en protesta por el despido de un trabajador que había reclamado más compromiso con el cambio climático. En 2019, la investigadora en inteligencia artificial Meredith Whittaker abandonó Google, criticando su enorme poder.

Muchos trabajadores del código están preocupados por la captación de información privada, la difusión de noticias falsas y la manipulación del comportamiento de algunas personas. Pero también por el monopolio de unas pocas compañías, la discriminación algorítmica (el diseño de programas a la medida de hombres blancos y ricos), la huella de carbono de la computación, y el modelo de negocio de la economía de plataforma.

“La ética de los algoritmos está tomando cada vez más importancia”, afirma Ricardo Baeza-Yates, profesor de Ciencias de la Computación en la Universitat Pompeu Fabra. Por ejemplo, se han multiplicado los congresos académicos y el activismo. La “humanización” de las tecnología de la información también forma parte de la iniciativa Mobile World Capital de Barcelona.

Los físicos en la Guerra Fría

Sin embargo, en la práctica no es fácil dar la espalda a una oferta de trabajo de Facebook o Amazon, por ejemplo. “Además de buenos sueldos, puedes trabajar en tecnologías punteras, y después tu currículum sube de categoría”, afirma R., informático que trabaja para una empresa española, que también quiere permanecer en el anonimato.

Diversos expertos ven cierta analogía con la situación de los físicos nucleares durante la Guerra Fría. La ciencia de las partículas también era impulsada, en parte, por una finalidad aterradora: la carrera nuclear. A la vez, los físicos investigaban temas fascinantes y gozaban de prestigio y buenos sueldos, igual que los expertos en informática hoy.

“Los físicos tenían claro que sus experimentos eran conocimiento puro. Si les surgía algún escrúpulo, era fácil desacoplar su trabajo de cualquier aplicación”, explica Xavier Roqué, profesor de Historia de la Ciencia de la Universitat Autònoma de Barcelona. “Con la mirada fría del historiador, se ve que no era así. A menudo la base teórica y el desarrollo práctico van juntos: en el proyecto Manhattan [para la construcción de la bomba atómica] se hizo mucha física”, añade. De hecho, el proyecto Manhattan tuvo solo un objetor de conciencia, Joseph Rotblat, que luego recibió el premio Nobel de la Paz.

También los informáticos tienen la opción de lavarse las manos. “Como trabajador, programas una parte y no sabes cómo se usará. Puedes sospechar que la empresa hará cosas poco éticas con tu código, pero no depende de ti, sino de los jefes. Puedes decirte: ‘Yo cobro y se acabó”, afirma Josep Domingo-Ferrer, profesor de Ciencia de la Computación en la Universitat Rovira i Virgili, para ejemplificar esa manera de pensar.

Sin embargo, ese autoengaño funciona peor con la inteligencia artificial. “En la física no había tanta motivación económica. Al contrario, Google y Facebook tienen el objetivo claro de hacer dinero. Eso debería poner más en alerta”, observa. “Del proyecto Manhattan solo se fue un físico. En el mundo de la inteligencia artificial, la disidencia es masiva”, coincide Carlos Castillo, investigador en ética de los algoritmos en la Universitat Pompeu Fabra.

“Los físicos necesitaron la bomba atómica para abrir los ojos. Esperemos que a los ingenieros no les haga falta algo equivalente”, afirma Gemma Galdón, directora de la consultora Éticas Research and Consulting.

La industria se mueve

De hecho, algo se mueve dentro de la industria. “En Estados Unidos, el poder de negociación de los informáticos es mayor. Hay movimientos que piden códigos éticos y objeción de conciencia”, explica Galdón. En Google se acaba de formar un sindicato y sus empleados y los de Microsoft han conseguido boicotear contratos militares.

“Algunas empresas están en un momento de reflexión, a raíz de escándalos que han protagonizado. Han creado equipos para hacer algoritmos más equitativos. Eso era impensable hace cinco años”, comenta Castillo. Varios expertos alaban los esfuerzos de Google.

Sin embargo, hay señales contradictorias. En diciembre de 2020, esa empresa despidió a la codirectora de su equipo de ética, Timnit Gebru, después de que redactara un informe sobre sesgos en algoritmos lingüísticos. “Esto nos ha dejado confundidos. Ella es una persona extremadamente mesurada y nada estridente. Si le echan a ella, te hace pensar que entonces no puedes hablar”, comenta Castillo.

La disidencia es viable

Para algunos programadores, la ética ya es un criterio imprescindible. “Yo no contrataría a nadie que haya trabajado en Facebook después de los escándalos de 2015-16. Tu carrera explica tus valores”, afirma Elies Campo.

“En el sector de la informática hay más demanda que oferta de perfiles cualificados. Puedes escoger en qué empresa quieres trabajar”, afirma Jordi Mas, una de las almas de la asociación Softcatalà. Un ejemplo de ello es Diego Sáez Trumper, informático chileno afincado en Barcelona e investigador en la Wikimedia Foundation, la entidad que garantiza el funcionamiento de la Wikipedia.

Después de investigar en la universidad, Sáez optó por una informática basada en el software libre y sin lucro. “Es una aventura, más que un negocio exitoso. No compites en igualdad de condiciones con los que no tienen requisitos éticos”, lamenta.

La suya es una opción vital, además de profesional. “En mi vida diaria puedo prescindir de cualquier software propietario. Tengo un móvil donde he instalado una versión libre de Android. No uso Whatsapp y he convencido a mi familia y mis amigos de que utilicen Signal. Tengo Linux en mi ordenador y borro las cookies cada vez que me conecto”, explica.

Sáez compara su elección personal con reciclar la basura: no es suficiente para solucionar un problema global, pero es necesario. “No me gusta que usen mis datos para hacer negocio, y además, consigo salir de la burbuja del filtro”, asegura, en referencia al contenido de internet personalizado por algoritmos para que encaje con nuestras preferencias.

“El sector de la informática ética es minoritario y lo va a ser durante mucho tiempo. Pero, ¿tener éxito quiere decir ser famoso o bien hacer cosas interesantes?”, pregunta Baeza-Yates. Campo no tiene dudas: “Se puede desarrollar una carrera satisfactoria y de alto nivel en empresas con valores con los cuales te sientes alineado”, concluye.

Compartir el artículo

stats