El CEO de HyperWrite AI, Matt Shumer, anunció el desarrollo del modelo de IA 'Reflection 70B', que utiliza 'Reflection-Tuning' para aprender y corregir sus errores. Se afirma que este modelo compite con los principales modelos de IA como el Claude 3.5 Sonnet de Anthropic y el GPT-4o de OpenAI. La técnica, Reflection-Tuning, ayuda a prevenir alucinaciones de IA al hacer que la IA sea consciente de sí misma y capaz de mejorar su rendimiento a través de una autoevaluación continua. Este desarrollo es parte de esfuerzos más amplios para mejorar la confiabilidad de la IA y reducir errores, como las alucinaciones de IA, que son inexactitudes en las salidas de la IA.

Hay otro nuevo chatbot de inteligencia artificial que ingresa al ya abarrotado espacio, pero este aparentemente puede hacer lo que la mayoría no puede: aprender de sus errores. En una publicación del 5 de septiembre en X, el CEO de HyperWrite AI, Matt Shumer, anunció el desarrollo de 'Reflection 70B', afirmando que es 'el modelo de código abierto más destacado del mundo'. Agregó que la nueva IA fue entrenada utilizando 'Reflection-Tuning', una técnica desarrollada para permitir a los LLM corregir sus propios errores. Llama-3.1 70B de Reflection puede 'defenderse por sí misma' incluso contra los mejores modelos de código cerrado como Claude 3.5 Sonnet de Anthropic y GPT-4o de OpenAI en varios benchmarks, según afirmó. Llama 3.1 es la IA de código abierto de Meta que se lanzó en julio. Dijo que los modelos de IA actuales a menudo pueden alucinar, pero Reflection-Tuning les permite reconocer sus errores y corregirlos antes de comprometerse con una respuesta. 'Los LLM actuales tienden a alucinar y no pueden reconocer cuándo lo hacen'. Una alucinación de IA es un fenómeno en el que un chatbot de IA generativo percibe patrones u objetos que no existen o son imperceptibles para los observadores humanos, creando salidas inexactas. La sintonización de la reflexión es una técnica utilizada para mejorar los modelos de IA al hacer que analicen y aprendan de sus propias salidas. Las respuestas de IA pueden retroalimentarse en la IA donde se le puede pedir que evalúe sus propias respuestas, identificando fortalezas, debilidades y áreas de mejora, por ejemplo. El proceso se repite muchas veces, lo que permite a la IA refinar continuamente sus capacidades con el objetivo de hacerla más consciente de sus salidas y mejor en criticar y mejorar su propio rendimiento. Shumer agregó que 'con el estímulo adecuado, es una bestia absoluta para muchos casos de uso', proporcionando un enlace de demostración para el nuevo modelo. Relacionado: Amazon renovará a Alexa con el modelo de IA Claude de Anthropic: informe. OpenAI respaldado por Microsoft publicó un documento de investigación en 2023 con ideas sobre cómo ayudar a prevenir alucinaciones de IA. Una idea fue la 'supervisión del proceso', que implica entrenar a los modelos de IA para recompensarse por cada paso individual y correcto de razonamiento cuando llegan a una respuesta, en lugar de solo recompensar una conclusión final correcta. 'Detectar y mitigar los errores lógicos de un modelo o alucinaciones es un paso crítico hacia la construcción de una AGI alineada [inteligencia artificial general]', dijo Karl Cobbe, un investigador de OpenAI, a CNBC en ese momento. Revista: Plan de 'infierno' de drones de IA para Taiwán, LLM demasiado tontos para destruir a la humanidad: AI Eye

HyperWrite AI presenta el modelo 'Reflection 70B' para combatir las alucinaciones de la IA.