¿Quién programa los algoritmos? El algoritmo está pensado para ejecutar una tarea de forma automática, pero no es neutro. Está pensado para ejecutar la tarea de una determinada forma, discriminando según ha sido programado. Pero hay algo en común, para todos aquellos que se ven afectados por la dictadura del algoritmo, no saben muy bien a quién reclamar.
Cada día están más presentes en nuestro día a día. En el mundo de la empresa esta semana ha saltado la noticia de que el Gobierno permitirá que se emitan actas de sanción de forma automatizada, que sea un algoritmo que tras cruzar datos si detecta alguna incongruencia sancione a las empresas. No hay intervención humana, no tenemos un inspector detrás mirando las circunstancias de por qué se ha sancionado.
Solo se sancionarán hechos objetivos contrastados
En este sentido se asimila a las multas de los radares que detectan alguna infracción en carretera. Pero no exactamente. Es un hecho objetivo, pero la cosa cambia por ejemplo si el exceso de velocidad se produce por una emergencia sanitaria. llevamos a alguien a un hospital. El algoritmo no discrimina.
Y tal y como está la administración, donde primero se paga y luego se reclama no es una buena noticia. Con un agravante, porque reclamar implica que en muchos casos se pierde la posibilidad de reducir la sanción en caso de que finalmente no nos de la razón. Si ya es difícil razonar con la administración, en este caso será más complicado todavía.
Ya hemos visto como otras administraciones como la Agencia Tributaria hacen uno del Big Data o de la Inteligencia Artificial para establecer filtros e intentar encontrar focos de fraude. Pero estos indicios luego tienen que ser corroborados por una inspección, dando la oportunidad a las empresas de defenderse.
No es el único campo en el que esto ocurre. Ya hay empresas que utilizan algoritmos para despedir a sus empleados. En otras es el algoritmo el encargado de asignar el trabajo, da más o menos tareas como en el caso de los repartidores de comida a domicilio. Tampoco se puede reclamar o cambiar si nos sentimos perjudicados.
No se trata de no utilizar la inteligencia artificial para mejorar los procesos, para ser más eficientes. Pero si tiene que existir un componente ético en su programación. Y una revisión humana para que las decisiones que toma tengan un mínimo de supervisión. Porque sino muchas pymes van a quedar más indefensas de lo que ahora están frente a la administración.