El desarrollo de las herramientas de predicción como machine learning, big data nos acerca al pronóstico efectivo de los comportamientos, pero también nos interroga sobre sus límites.
¿Cuál es el límite entre la vida privada y lo que debería conocerse acerca de las personas? ¿Somos conscientes hacia dónde vamos con este conocimiento? Desde orientación sexual, ideas políticas, decisiones personales, todo esto es permeable para las nuevas herramientas tecnológicas (que también pueden fallar).
Es fácil darse cuenta por qué las personas no desearían que algunas cosas se supieran. Un ejemplo renombrado fue el de Hewlett - Packard cuando en 2013 calificaba de manera predictiva a sus más de 300.000 empleados con la probabilidad de que quisieran dejar su empleo. El proyecto se llamó “Fligth Risk” y se entregó a los gerentes. Si alguien estaba planeando dejar su empleo, seguramente la última persona que quisiera que lo supiera sería su jefe.
Los modelos predictivos también pueden discernir entre atributos personales como la etnia, basándose en los likes de Facebook. La cuestión en este punto es cómo los especialistas en marketing podrían utilizar este tipo de predicciones.
Como dijo Latanya Sweeney, profesora de gobierno y tecnología de Harvard, “La publicidad digital bordea la discriminación. No quiere que las madres con recién nacidos obtengan anuncios de cañas de pescar y no quiere que los pescadores reciban anuncios de pañales”.
La pregunta es ¿cuándo esa discriminación cruza la línea y pasa a afectar negativamente a todo un grupo de personas?
Y va más allá de la publicidad digital, ¿qué sucede con los pronósticos que se realizan en las bases de los contact centers? Especialmente las que tienen fines comerciales ¿Se cuenta con la autorización de los clientes para esto? ¿Ellos saben qué podría hacerse con sus datos?
Ciertamente, existen muchas zonas grises con respecto al tema, tanto en la legislación como en lo que las empresas informan a sus clientes. Estamos comenzando a utilizar este tipo de modelos, pensemos en un mundo donde todos ganemos, donde exista la transparencia. Esta es una oportunidad, para hacer las cosas con un criterio ético que sea justo para todos.
