Búsqueda
Dentro de esta serie de columnas acerca de la Inteligencia Artificial (IA), ya que he abordado tanto la definición de ésta como sus características, ahora corresponde abordar los riesgos que la misma conlleva.
En primer lugar, las alucinaciones, se trata de casos donde la IA arroja resultados totalmente falsos, como inventar biografías, leyes, decisiones de autoridades. Esto es mas fácil que suceda con las IA generalistas, tales como aquellas a las que accedemos de forma gratuita, esto sucede dado que, recuerde, la IA funciona mediante predicciones estadísticas a partir de las bases de datos a que tiene acceso.
Permítame ponerme de ejemplo. Le pregunté a una IA “¿Quién es Luis Octavio Vado Grajales?”, y la respuesta fue que nací cuando mi madre tenía año y medio de edad, he sido un poeta laureado y escribí El laberinto de la soledad. Respuestas como esta hacen pensar que tal vez la IA consuma ciertos productos que le provocan una percepción muy alterada de la realidad.
En segundo lugar, la existencia de sesgos, las bases de datos a que accedan las IA, que son su materia prima para realizar su labor; si la información que contienen es incompleta, inexacta o de plano falsa, los resultados que la IA adolecerán de las mismas fallas. Esto es mas grave si esas bases de datos tienen sesgos discriminatorios, que al usarse para generar nuevos conocimientos, se perpetúen. Esto implica negar que la IA sea totalmente objetiva e imparcial.
La tecnología parece neutra y carente de prejuicios, pero esta es una promesa de difícil, o tal vez imposible, cumplimiento, tanto por aquellos que le impongan quienes programen a la IA, como también los que se desprendan de las bases de datos con que trabajen.
Lo anterior nos lleva a una posible afectación a los derechos humanos, a discriminación; en los datos, falta de representación adecuada de diversos grupos sociales, uso de datos reservados sin consentimiento, entre otros.
Además, el funcionamiento como caja negra . ¿Por qué la IA considera una información y no otra? ¿cuáles son las instrucciones que contienen los algoritmos con la que fue programada? ¿cuáles son los parámetros para aprender de la nueva información? ¿qué criterio sigue para utilizar una base de datos, y desechar otra? ¿cómo depura la información contradictoria? En suma, ¿cómo funcionan sus algoritmos? Para acceder a esta información se requiere conocer el código en el que se programó, que a menos que se trate de código abierto, está sujeto a la protección intelectual, y por tanto suele desconocerse por quienes la usamos. Image usted si sería válido que las autoridades tomaran decisiones con base en una IA de la que ignore todo lo anterior.
Por último, apunto la sustitución laboral de las personas, que si bien es producto casi de cualquier avance tecnológico, sobre todo por la promesa de lograr ahorros; pero también abre nuevas posibilidades laborales, por ejemplo, respecto de la curación de las bases de datos, auditoria de la IA, entre otros; pero en todo caso, implicará un esfuerzo de adaptación en el que las políticas públicas, pero también las decisiones de las empresas privadas, deberán considerar que el trabajo tiene una dimensión social y no meramente económica.
Usted, ¿encuentra otros retos de la IA?