【AI】LLMの概念空間の構造解明:脳のような機能別「領域」仮説 MITの研究チームが発表

LLMの概念空間の構造解明:脳のような機能別「領域」仮説 MITの研究チームが発表
MITの研究者らは2024年10月10日、スパース・オートエンコーダー(SAE)技術を用いて、大規模言語モデル(LLM)の内部に潜む構造を解明する手法を発表した。この研究によると、LLMの内部構造は「概念」を表現する特徴点が「原子」「脳」「銀河」の3つのスケールで高度に組織化されており、その配置は生物学的な脳の機能的な領域と類似しているという。