ANEMLL - Apple Neural Engine(ANE)をはじめとする大規模言語モデル(LLM)のテンソルプロセッサへの移植を加速


ANEMLL is focused on accelerating the porting of Large Language Models (LLMs) to tensor processors, starting with the Apple Neural Engine (ANE). Our mission is to provide a fully open-source pipeline from model conversion to inference for common LLM architectures.


翻訳:

ANEMLLは、Apple Neural Engine(ANE)をはじめとする大規模言語モデル(LLM)のテンソルプロセッサへの移植を加速することに重点を置いています。私たちの使命は、一般的なLLMアーキテクチャ向けに、モデル変換から推論までをカバーする完全にオープンソースのパイプラインを提供することです。


コメント

コメントはまだありません。