![](https://res.cloudinary.com/techfeed/image/fetch/w_280,h_210,c_fill/https%3A%2F%2Fi.gzn.jp%2Fimg%2F2023%2F10%2F10%2Fdecomposing-language-models-into-understandable-components%2F00.png)
ニューラルネットワークの中身を分割してAIの動作を分析・制御する試みが成功、ニューロン単位ではなく「特徴」単位にまとめるのがポイント
BRANK
GoogleやAmazonが投資するAIスタートアップのAnthropicの研究チームが、ニューラルネットワークがどのように言語や画像を扱っているのかを解き明かす研究において、個々のニューロンを「特徴」と呼ばれる単位にまとめることでニューラルネットワークの中身を解釈しやすくなるという研究結果を発表しました。