【ビジネス＋IT】グーグル、AIメモリを1/6に圧縮する新技術発表、AIメモリ企業の株価下落

AIが長い会話を覚えておくには、途中の計算結果を一時的に保存します。その置き場所を減らせれば、限られたメモリーで長い文章を扱いやすくなるかもしれません。Google Researchが発表した「TurboQuant」は、その一時データを圧縮する研究です。

Googleの実験では、特定の長文テストで、この「KVキャッシュ」の使用量を少なくとも6分の1にしながら良好な結果を示しました。見出しの「AIメモリを1/6」は、PC全体の必要メモリーやAIモデルのファイルがすべて6分の1になるという意味ではありません。

記事は発表後の関連企業の株価にも触れていますが、研究成果がすぐに製品へ採用されるとは限りません。ローカルAIへの効果も、使うソフトがこの技術に対応するかどうかで変わります。