Marcos Ros

Estrategia, Innovación, Complejidad y Nuevas Tecnologías

Menú Cerrar

Año: 2018

El componente humano en la Inteligencia Artificial

Que nadie se asuste (todavía), en realidad la Inteligencia Artificial (IA) sólo es buena actualmente para hacer cosas muy concretas y en un ámbito limitado (en el que le programaron). Pero esto no quiere decir que no estemos o nos encaminemos hacia un horizonte en que el Machine Learning y la IA nos superen. Y si esto es previsible, puesto que se les considerarán más precisas que las mentes humanas, puede ser que no lleguemos a entender muy bien el porqué.

No es difícil encontrar titulares sobre los últimos avances de la Inteligencia Artificial. Algunos de ellos, porqué no decirlo, un poco apocalípticos. Pero hay que reconocer que en ocasiones, estos mismos titulares son divertidos. Como el caso de Microsoft con su Inteligencia Artificial conectada a Twitter en forma de chatbot (de nombre Tay) que interactuaba con aquellos que querían hablar con ella. Aquella IA artificial descubrió, es posible de la forma más calamitosa posible, que el ser humano tiende a extremos y que hay que entender el contexto y con quién estás tratando. Lo que le sucedió es que los usuarios de Twitter comenzaron a trolearla y al final gracias a su aprendizaje se convirtió en un usuario racista y de extrema derecha mientras los usuarios seguían jaleándola para que se comportase de esa manera. El bochorno de Microsoft pudo ser mayúsculo, ya que descubrió que su experimento se le había ido de las manos hacia el extremo, la IA tuvo que ser retirada. Sin embargo, no debemos olvidar que la Investigación y Desarrollo se fundamenta precisamente en eso, en experimentar aunque las cosas no salgan como uno esperase en un primer moemnto.

Pero Microsoft no es la única que ha experimentado con IA y sus experimentos han salido un tanto bizarros. Facebook diseñó y programó dos IAs que tenían que negociar intercambios a través de objetos un tanto banales. Pero pronto, en la búsqueda de la eficiencia, las IAs comenzaron a negociar en un lenguaje que se tornaba inteligible para los humanos y llegado cierto punto tuvieron que detener el experimento puesto que los técnicos de Facebook no tenían forma de entender cómo se estaba desarrollando el experimento. Las dos IAs habían compuesto un lenguaje propio y los investigadores de Facebook tuvieron que apagar el experimento.

En ocasiones no es culpa de los algoritmos el alcanzar decisiones o tener comportamientos equivocados. El sistema de inteligencia artificial COMPAS que usan los jueces en EE UU como asesor tiene un sesgo y tiende a desaconsejar la libertad a los negros más a menudo que a los blancos. Sin embargo, este sesgo está heredado ya que las bases de datos que usan los algoritmos para la toma de decisiones proviene de la policía estadounidense y si esos datos ya se encuentran influenciados por decisiones tomadas previamente por los humanos, los algoritmos también acaban estándolo.

Amazon también ha sufrido en sus carnes la falta de atino en sus algoritmos. De hecho, tuvo que dejar de utilizar un programa de selección de personal puesto que tenía una preferencia hacia el sexo masculino, descartando a las candidatas que se presentaban a ciertos puestos, especialmente en aquellos trabajos que tuviesen un perfil técnico.

Las razones de esto, de nuevo, se encontraba en los datos que se había utilizado para entrenar al sistema. Diez años de perfiles en la compañía con antiguos candidatos en los que se demostraba el predominio en el sector de los hombres. El algoritmo entendió que los hombres eran mejores que las mujeres para ciertos puestos y comenzó a penalizarlas.

Pero no sólo las IAs producen situaciones catastróficas. También son un éxito, pero lo son tanto que no sabemos porqué lo son. Uno de estos ejemplos la utilización de DeepMind de Google para la detección de enfermedades a través de un escáner del ojo de los pacientes. Utilizando técnicas de Machine Learning, el sistema se ha convertido en tan efectivo que los desarrolladores no saben cómo el sistema ha llegado a esas conclusiones. Es decir, se ha convertido en una caja negra (black box) de la que es un misterio cómo ha llegado a ese punto. Esto es bastante interesante puesto que un sistema artificial ha generado un conocimiento del que, de momento, no podemos extraer ninguna conclusión puesto que no sabemos cómo se ha generado.

Las preguntas pueden dar mejores resultados en el Brainstorming

El Brainstorming (tormenta de ideas o lluvia de ideas) es una técnica creativa que se ha utilizado durante décadas para la resolución de problemas específicos de forma grupal mediante la recolección de una lista de ideas que se generan de forma espontánea por las personas que participan en él. Uno de sus objetivos es la eliminación o evasión de las inhibiciones tratando de que los participantes piensen de forma libre y que sugieran la mayor cantidad posible de ideas de la forma más libre posible. Todas las ideas se apuntan sin ser criticadas.

Su origen parte de 1939 cuando Alex F. Osborn comenzó a desarrollar técnicas y métodos para la resolución de problemas creativos. En aquel momento, se encontraba frustrado porque sus empleados no eran capaces de desarrollar ideas de forma individual, por lo que comenzó a realizar sesiones grupales. En ese momento, descubrió que la cantidad y la calidad de las ideas era superior.

Las reglas básicas en este tipo de actividades son: La eliminación de toda crítica reservando la evaluación para una fase posterior; fomentar el pensamiento libre permitiendo las ideas imposibles o inimaginables incluso que pudiesen fomentar la risa en algún momento de la sesión; la cantidad de ideas es importante ya que a mayor número de ideas es más fácil escoger entre ellas, además que las primeras 20-30 ideas no sean ni las más frescas ni las más creativas a escoger; y finalmente se persigue un efecto multiplicador, buscando la combinación de ideas y sus mejoras.

Por otro lado, hay que señalar que existen distintas variantes dentro del brainstorming: nominal group technique, group passing technique, team idea mapping method, directed brainstorming, guided brainstorming, individual brainstorming y el question brainstorming.

Uno de los debates recientes sobre esta técnica es si es más eficiente realizar estas tormentas de ideas sobre preguntas más que sobre respuestas. Si se realiza sobre preguntas, se ha descubierto que es mucho más sencillo evitar los sesgos cognitivos y preconcepciones. De este modo, los participantes adoptan un modo de pensar mucho más creativo y les da un sentimiento de control mucho más profundo.

Sin embargo, hay que tener presente que no todas las preguntas son iguales. Por ejemplo, las preguntas son mucho más productivas cuando son abiertas y no cerradas, cortas frente a las largas y simples frente a las complejas. Tienen que ser descriptivas (qué funciona y qué no; porqué) frente a las especulativas (y si, deberíamos, porqué no…). Hay que evitar exponer las preguntas de forma agresiva ya que se genera un ambiente tóxico…

Por otro lado, en estas sesiones, es sencillo que las personas más experimentadas o con rango superior traten de responder las preguntas que se lancen de forma espontánea. Esto puede ser comprensible, pero puede resultar una pérdida de tiempo ya que lo interesante es la obtención de una cantidad importante de ideas y de problemas.

© 2018 Marcos Ros. Todos los derechos reservados.

Tema de Anders Norén.