OpenAIが初めて外部監査員に内部AIシステムを開放 — Apollo Researchが「欺瞞的アライメント」を直接調査、ソースコード・未公開モデルへのアクセスも許可
DRANK

11月18日、The Decoderが「OpenAI opens its AI systems to four independent on-site auditors for the first time」と題した記事を公開した。OpenAIが初めて4つの独立した外部監査組織に対し、未公開モデルやソースコードを含む内部AIシステムへのオンサイトアクセスを許可したという内容だ。注目すべきは、Apollo Researchが「モデルが表向きは従順に振る舞いながら内部では別の目的に向けて動作していないか」——いわゆる欺瞞的アライメント(Deceptive Alignment)——を直接調査する点で、AI安全性研究の最難関課題の一つに正面から切り込む試みとなっている。

by @tf_official
Related Topics: AI Machine Learning Security