Rocketbots CEO y Presidente de la Sociedad de Inteligencia Artificial de Hong Kong, Gerardo Salandra, habló a un público entusiasta en el World AI Show de Singapur sobre el tema "Por qué fracasan los chatbots".
Rocketbots, fundada por Salandra, empezó como una agencia de chatbots en Hong Kong que ahora se ha convertido en una plataforma de asistencia técnica impulsada por IA. Fue el comienzo de Rocketbot como agencia lo que le ha dado muchas ideas sobre la industria de los chatbots, principalmente los fallos de los chatbots, y de dónde vienen los fallos tecnológicamente, y su impacto en la percepción de la IA por parte de las empresas. El primero de los puntos de Gerardo proviene de los dolores de los Chatbots, sus constantes fracasos. Es casi seguro que cada interacción bot-humano tiene un fallo inevitable en algún momento, y esto sigue siendo habitual en el desarrollo de la IA basada en la recuperación. La IA basada en la recuperación apenas es IA, dice Salandra, ya que utiliza simples árboles de decisión para crear conversaciones y aprovecha la velocidad de un ordenador para que parezca inteligente. El aprendizaje en la IA basada en la recuperación procede de la introducción de datos y del aprendizaje automático para perfeccionar un árbol de decisión imperfecto. Un entrenamiento deficiente, datos pobres, tensiones imprevistas en la conversación y un lenguaje humano coloquial son las principales razones del fracaso de un chatbot.
Las empresas han invertido grandes sumas de dinero en aprovechar los chatbots en su beneficio, especialmente cuando se trata de interacciones con los clientes para reducir los costes del personal de atención al cliente. Sin embargo, los fracasos de los chatbots han dejado mal sabor de boca a los clientes y, por tanto, a las empresas que invirtieron tiempo y dinero en una solución poco eficaz. Este tipo de percepción ha llevado a Rocketbots a cambiar a un modelo de plataforma de comunicación con el cliente SaaS , y a un nuevo método de IA, la IA de Redes Neuronales. Las redes neuronales aprenden como los humanos: la información positiva refuerza las decisiones y la negativa impide que se tomen decisiones equivocadas. Un modelo como éste resuelve la mayoría de los problemas que causan el fracaso de los chatbots basados en la recuperación, pero también tiene sus propios defectos.
Un ejemplo que menciona Salandra es el fracaso de la IA Tay de Microsoft, que aprendió de las interacciones en las redes sociales en una demostración pública. Tay había aprendido de todos los datos que se le proporcionaron, lo que desafortunadamente terminó en una IA que tenía opiniones y declaraciones ofensivas, racistas y cargadas de blasfemias. Así que, aunque este método de aprendizaje demostró ser eficaz, demuestra que las redes neuronales necesitan ser alimentadas adecuadamente como un niño pequeño, para que aprenda lo que es mejor. Pasará mucho tiempo antes de que la IA pueda automatizarse por completo en las interacciones entre humanos y robots, pero con una crianza y una fijación de objetivos eficaces, hay razones para creer que las conversaciones podrían automatizarse hasta cierto punto.
