HyperWrite AIのCEOであるMatt Shumerは、'Reflection 70B' AIモデルの開発を発表しました。このモデルは、'Reflection-Tuning'を使用して、自らの間違いから学び訂正するものです。このモデルは、AnthropicのClaude 3.5 SonnetやOpenAIのGPT-4oなどのトップAIモデルと競合するとされています。Reflection-Tuningという技術は、AIの幻覚を防ぐのに役立ち、AIを自己認識させ、継続的な自己評価を通じてパフォーマンスを向上させることができるようにします。この開発は、AIの信頼性向上やAIの幻覚などの誤りの削減を目指す広範な取り組みの一環です。

既に混雑している領域にさらに新しい人工知能チャットボットが登場しましたが、この新しいものは多くのものができないことを明らかにできると言われています。HyperWrite AIのCEOマット・シューマーは、Xの9月5日の投稿で、「Reflection 70B」という開発を発表し、「世界で最も優れたオープンソースモデル」と主張しました。彼は、新しいAIが「Reflection-Tuning」を使用してトレーニングされたと述べ、これはLLMが自らの間違いを修正できるようにするために開発された技術です。Llama-3.1 70Bは、AnthropicのClaude 3.5 SonnetやOpenAIのGPT-4oなどのトップクローズドソースモデルにさえ対抗できると主張しました。Llama 3.1は、Metaが7月に発売したオープンソースAIです。彼は、現在のAIモデルはしばしば幻覚を見ることができますが、Reflection-Tuningにより、彼らは自分の間違いを認識し、回答する前に修正することができるようになります。「現在のLLMは幻覚を見る傾向があり、それがそうであると認識することができません。」AIの幻覚とは、生成的AIチャットボットが人間の観察者には存在しないか、感知できないパターンやオブジェクトを認識し、不正確な出力を作成する現象です。Reflection tuningは、AIモデルを改善するために使用される技術であり、AIが自分自身の出力を分析し、学習することができるようにします。AIの応答はAIにフィードバックされ、自分自身の応答を評価し、強み、弱み、改善すべき点などを特定するように求められます。このプロセスは何度も繰り返され、AIが自分の出力について常に洗練させ、自己認識し、自分のパフォーマンスを批評し、改善する能力を向上させることを目指しています。シューマーは、「適切なプロンプトがあれば、多くのユースケースにとって絶対的なビーストです」と付け加え、新しいモデルのデモリンクを提供しました。関連記事：アマゾンがAnthropicのClaude AIモデルを使用してAlexaを刷新する予定：報告書マイクロソフト支援のOpenAIは、2023年にAIの幻覚を防ぐ方法に関するアイデアを発表しました。1つのアイデアは、「プロセス監督」と呼ばれ、AIモデルに、答えに到達する際の各個々の正しい推論ステップごとに自分自身を報酬するようにトレーニングすることを含んでいます。OpenAIの研究者であるカール・コブは、CNBCに当時語った「モデルの論理的な間違いや幻覚を検出し、緩和することは、整合されたAGI [人工汎用知能]を構築するための重要なステップです」と述べました。雑誌：台湾のAIドローン「地獄の風景」計画、LLMは人類を破壊するには愚かすぎる：AI Eye

HyperWrite AIが「Reflection 70B」モデルを導入してAIの幻覚を防ぐ