本日、Muse Spark Open の一バージョンがリリースされ、当初の約束が果たされました。しかし、このモデルの性能は同社の Spark 1.3 よりも劣っています。また、テスラ Roadster のデモも一見の価値があります。厳密には AI 分野の話ではありませんが、現実世界における「空飛ぶクルマ」ほどクールなものはないでしょう。
本日のトップニュースは、解釈可能性とアライメント(interpretability and alignment)に関する貴重な詳細レポートです。Goodfire と最後に話をしたのは 2 月のことでした。
初のメカニスティック解釈可能性フロンティアラボ —— Goodfire AI の Myra Deng と Mark Bissell Palantir や Two Sigma を経て、Goodfire を実用的なメカニスティック解釈可能性(mechanistic interpretability)のベンチマークへと育て上げるまで、技術チームメンバーの Mark Bissell とプロダクトリードの Myra Deng が挑んでいること……
そして昨年 Anthropic と議論した、解釈可能性アプローチの「苦い教訓」に基づくスケーリングも挙げられます。
解釈可能性の実用性 —— Emmanuel Ameisen、Anthropic AIE へのご参加ありがとうございました。Day 1 と Day 2 の全編ライブ配信アーカイブが公開されており、他にも 6 つのトラック配信があります。この週末にまとめてチェックしてみてください!睡眠不足を解消した後に、より詳細なまとめをお届けします。
そして今回、Goodfire の Nick Cammarata が重要な長文記事を公開し、自身の中心的な仮説である「ニューラルネットワークはすでに十分にクリーンである(Neural Networks Are Already Clean)」について論じています。記事では、人間の解釈を拒む複雑に絡み合った重みの「もつれ」を引き起こす、多くの既知の多義性(polysemanticity)や重ね合わせ(superposition)の事例が、エージェントによるさらなる分析(agentic analysis)によって容易に解き明かされると指摘しています。
