マイクロソフトは、生成AIの「幻覚」問題に対処する新機能「Correction」を発表した。Azure AI Content Safetyツールの一部として提供されるこの機能は、AIの回答から事実に基づかない内容を検出し、リアルタイムで修正することを目指している。Correctionは、まず幻覚を赤旗で示し、次に不正確な部分を書き直すプロセスを開始する。この修正は、ユーザーが元の不適切な内容を目にする前に行われる。この機能は、MetaのLlamaやOpenAIのGPT-4を含む、あらゆるテキストベースの生成AIモデルで使用可能だ。しかし、アナリストらはCorrectionの有効性に懐疑的な見方を示している。Gartnerのアナリスト、ジェイソン・ウォン氏は、大手クラウドプロバイダーが幻覚を緩和する製品を発表しているものの、完全な除去や特定の精度閾値の達成を約束するものはないと指摘している。生成AIの幻覚問題は、その基盤モデルが膨大で曖昧なパラメータに基づいているために発生する。スタンフォード大学の研究によると、生成AIは法律関連の質問に対して75%の確率で間違いを犯すという。この新ツールは、AIの信頼性と正確性への需要が高まる中で重要な一歩となるが、幻覚問題の完全な解決にはまだ課題が残されている。AI技術の進化とともに、こうした問題への対策も継続的に改善されていくことが期待される。ーーー引用元：https://www.computerworld.com/article/3540429/microsoft-claims-new-correction-tool-can-fix-genai-hallucinations.html