Microsoft ha revelado a través de su blog de Bing, algunos detalles sobre cómo se ha estado usando su buscador con la Inteligencia Artificial de ChatGPT a poco más de una semana de su lanzamiento.
En este primer informe, la compañía explica el origen algunos de los comportamientos extraños que se han documentado del chatbot, entre ellos el que amenace a usuarios, tenga respuestas depresivas o diga haber espiado a los empleados de Microsoft.
Las limitaciones de Bing con ChatGPT
En el blog se detalla como la facilidad de uso y accesibilidad del chat "ha sido un éxito inicial". Durante el proceso de entender cómo la gente usa el chatbot, se ha descubierto que en sesiones largas y extendidas con 15 o más preguntas, Bing puede volverse "repetitivo o hasta ser incitado o provocado", para que dé respuestas que no son necesariamente útil o están en línea con el tono en que fue diseñado.
De este análisis Microsoft da dos justificaciones: la primera, que las sesiones muy largas pueden confundir al bot sobre qué preguntas está respondiendo, por lo que está analizando el agregar una herramienta adicional para actualizar el contexto más fácilmente o iniciar desde cero.
My new favorite thing - Bing's new ChatGPT bot argues with a user, gaslights them about the current year being 2022, says their phone might have a virus, and says "You have not been a good user"
— Jon Uleis (@MovingToTheSun) February 13, 2023
Why? Because the person asked where Avatar 2 is showing nearby pic.twitter.com/X32vopXxQG
La segunda es que el modelo en ocasiones trata de responder o reflejar el tono en que se le piden respuestas, lo que puede derivar en un estilo que no se pretendía desde la compañía. Sin embargo, al ser un escenario "no trivial" que requiere una serie de indicaciones específicas, Microsoft acepta que la mayoría de los usuarios no se encontrará con él.
Lo bueno y malo del nuevo Bing
La compañía también detalla cómo actualmente la versión preliminar limitada se ha estado probando con un grupo selecto de personas en más de 169 países, donde se ha encontrado una mayor participación en los resultados de búsqueda tradicionales y con las nuevas funciones de Bing.
Imagen: Turag Photography en Unsplash
Según Microsoft, el 71% de los usuarios han dado like a las respuestas impulsadas por IA, aunque acepta que se necesita todavía aprender del mundo real para mantener la seguridad y la confianza.
Esto requiere que las personas usen el producto y ayuden al desarrollo, por ejemplo, para resaltar lo que se considere valioso o no, pero también a conocer la preferencias de cómo debe comportarse la IA.
También se revela que hasta ahora se han registrado algunas sesiones de chat de hasta dos horas en las que usuarios han probado las capacidades y límites de servicio.
Microsoft acepta que no todo ha ido sobre ruedas, pues se han encontrado problemas técnicos y errores con el nuevo Bing, que van desde carga lenta, enlaces rotos o formato incorrecto. Por lo pronto, Microsoft detalla que muchos de estos errores se han solucionado en sus correcciones diarias y se ajustarán más con sus implementaciones "más grandes" cada semana.
Incluso, dice la compañía, se han solicitado nuevas funciones y capacidades para Bing, que van desde poder reservar vuelos y enviar correos desde el chatbot, por lo que se está considerando qué incluir en las próximas actualizaciones de la IA.
