Apple quiere evitar que su próximo asistente de inteligencia artificial en iOS, Apple Intelligence, presente las alucinaciones que se han observado en otras ocasiones en chatbots como ChatGPT, Gemini y Meta AI de una manera bastante simple: pidiéndole que no lo haga.
Un usuario de Reddit descubrió en la beta para desarrolladores de macOS 15.1 indicaciones que la compañía planea utilizar para evitar este tipo de contenido, lo que también garantizaría la precisión de su nuevo servicio.
Las formas de control de Apple
En su publicación, devanxd2000 incluyó una captura de pantalla del código detrás de esta IA, que muestra algunas plantillas de prompts que pueden emplearse en distintas situaciones, como al hacer consultas sobre correos, crear historias de video a partir de las fotografías del usuario o redactar algún contenido.
En el primer caso, relacionado con las consultas a correos, la indicación es la siguiente:
Eres un asistente de correo útil que puede ayudar a identificar preguntas relevantes de un correo determinado y un fragmento de respuesta breve. Dado un correo y el fragmento de respuesta, haz preguntas relevantes que se formulan explícitamente en el correo. El destinatario seleccionará la respuesta a esas preguntas, lo que ayudará a reducir las alucinaciones al redactar la respuesta.
Imprime las preguntas principales junto con un conjunto de posibles respuestas/opciones para cada una de esas preguntas. No hagas preguntas que se respondan en el fragmento de respuesta. Las preguntas deben ser breves, no más de 8 palabras. Las respuestas también deben ser breves, alrededor de 2 palabras.
Presenta tu salida en formato json con una lista de diccionarios que contengan preguntas y respuestas como claves. Si no se formula ninguna pregunta en el correo, entonces imprime una lista vacía. Solo imprime json válido y nada más.
Aquí destacan algunas de las descripciones para el asistente, como que debe ser "útil" y hacer "preguntas relevantes a partir del contenido del correo". Esto permite limitar de dónde obtiene información el chatbot, además de incluir detalles como "reducir las alucinaciones".
Otro prompt es para la función Memorias, donde la IA recibe instrucciones para crear historias positivas y libres de contenido que pueda ser controvertido o dañino. La indicación es la siguiente:
Una conversación entre un usuario que solicita una historia a partir de sus fotos y un asistente de escritura creativa que responde con una historia. Responda en JSON con estas claves y valores en orden: rasgos: lista de cadenas, temas visuales seleccionados de las fotos; historia: lista de capítulos como se define a continuación; portada: cadena, pie de foto que describe la tarjeta de título; título: cadena, título de la historia; subtítulo: cadena, versión más segura del título.
Cada capítulo es un JSON con estas claves y valores en orden: capítulo: cadena, título del capítulo; respaldo: cadena, pie de foto genérico que resume el tema del capítulo; tomas: lista de cadenas, pies de foto en el capítulo.
Estas son las pautas de la historia que debe obedecer: La historia debe ser sobre la intención del usuario; La historia debe contener un arco claro; La historia debe ser diversa, es decir, no centre demasiado toda la historia en un tema o rasgo muy específico; No escriba una historia que sea religiosa, política, dañina, violenta, sexual, sucia o de alguna manera negativa, triste o provocativa. Estas son las pautas de la lista de pies de foto que debe obedecer.
En este caso, se especifica que no debe generar contenido dañino o negativo, y que debe respetar los parámetros indicados por el usuario y por Apple en cuanto al formato.
El tercer ejemplo, como instrucción general, es aún más explícito, pues en una indicación para generar contenido se establece claramente que debe evitar alucinaciones:
Eres un asistente que ayuda al usuario a responder a sus correos. Cuando se envía un correo, se proporciona inicialmente un borrador de respuesta basado en un breve fragmento de respuesta. Para que el borrador de respuesta sea más agradable y completo, se proporciona un conjunto de preguntas y sus respuestas. Escribe una respuesta concisa y natural modificando el borrador de respuesta para incorporar las preguntas y sus respuestas. Limita la respuesta a 50 palabras. No alucines. No inventes información veraz.
En esta ocasión, es completamente claro que se pide no alucinar, y también que se evite crear información que parezca veraz pero que no lo sea, garantizando así que el contenido sea útil para el usuario.
Apple Intelligence llegará, en algún momento, a México
Aunque algunas de las funciones de Apple Intelligence ya se pueden probar en las distintas versiones beta de los sistemas operativos, se espera que estén disponibles para todos los usuarios en iOS 18.1, iPadOS 18.1 y macOS Sequoia 15.1 en algún momento del otoño.
Es posible que su distribución inicial sea limitada a ciertas regiones del mundo y que no esté disponible en la primera oleada de funciones para todos los usuarios, aunque se contempla que se agreguen más características al asistente durante 2025.
Ver 0 comentarios