¿LA IA QUE EMPLEA CONSIDERA LOS INTERESES DE LOS USUARIOS?
Los clientes que comparten información esperan que usted la utilice para anticiparse a sus necesidades, pero exigen también que prevenga el uso inadecuado de los datos, señala el autor.
Las decisiones éticas pocas veces son fáciles y en la actualidad todavía menos. Lis aparatos inteligentes, la computación barata y los grandes cantidades de información del consumidor no solo ofrecen oportunidades increíbles para las empresas modernas, sino que también presentan un dilema moral: ¿es correcto, siempre y cuando sea legal?
Los sesgo de los algoritmos pueden manifestarse de muchas maneras: no siempre es tan obvio como el racismo al sentenciar a un delicuente o la discriminación de género al contratar a una persona. Algunas veces, la verdad en exceso es igual de peligrosa.
En 2013, un artículo académico demostró que los "me gusta" de Facebook (que en aquel tiempo eran públicos de manera predeterminada) podían utilizarse para predecir una gama de características personales muy confidenciales, incluyendo el género y la orientación, la procedencia étnica, las tendencias políticas y religiosas, los rasgos de personalidad, el conusmo de sustancias adictivas, la situación de separación de los padres y la edad.
Cuando publicaron su estudio, los investigadores reconocieron que existía el riesgos de que terceras personas hicieran uso incorrecto de sus hallazgos para, por ejemplo, inducir a la discrimincación.
Cambrige Analytica
No obstante, donde otros veían riesgos y peligros, el colega de uno de los autores en la Unversidad de Cambridge vio una oportunidad. A principios de 2014, Cambridge Analytica, una empresa británica de consultoría política, firmó un acuerdo con ese colega para formar una empresa que capitalizara el trabajo de los tres investigadores.
Se generó una encuesta gracias a un proyecto de Facebook que proporcionaba a terceras personas acceso a la información de los usuarios.
Calcularon que casi 300,000 usuarios llenaron la encuesta.
Luego resultó que Cambridge Analytica usó la información para tener acceso a 87 millones de usuarios de Facebook y crear perfiles basados en ellos. Podría decirse que ni las decisiones de Facebook ni las de Cambridge Analytica fueron estrictamente ilegales, pero en retrospectiva -y que en el contexto del escándalao que el programa desencadenó al poco tiempo- difícilmente podrían califcarse como buenas decisiones.
A lo largo de la década pasada, Apple ha recibido críticas por asumir una postura contraria a las de sus pares como Facebook y Google con respecto a muchos temas. A diferencia de ellos, Apple gestiona un ecosistema cerrado con controles estrictos: no se puede cargar una aplicación informática en un Iphone a menos que haya sido autorizada por Apple.
Aunque las acciones de Facebook quizá estuvieron dentro de lo que estipula la ley, y de los límites de las prácticas de la industria en ese momento, no tuvieron en consideración los intereses de los usuarios. Tal vez haya una razón simple para ello. Apple vende productos a los consumidores.
En Facebook, el producto es el consumidor. Facebook les vende los consumidores a los anunciantes.
Sus clientes esperan que usted utilice su información para crear servicios personalizados y anticipados a sus necesidades mientras al mismo tiempo exigen que prevenga el uso inadecuado y la manipulación de su información. Al buscar su propia brújula moral, debe considerar un principio evidente: nadie puede servir a dos amos.
Publicado en Gestión, 11 de noviembre del 2019.