GeminiがあなたについてAIが勝手に記録していた情報を確認・削除できる新機能 — 誤情報が混入するケースも
DRANK

11月13日、ZDNetが「You can force Gemini to forget about you now」と題した記事を公開した。記事の執筆者がGeminiの記憶を実際に確認してみると、「Madison Countyに住んでいる」「野球カードショップを経営している」といった事実と異なる情報が混入していた。これはGeminiのロゴ生成機能をテストした際に仮の店舗名として入力した内容が、そのまま事実として記録されてしまったためだ。AIアシスタントが蓄積する「記憶」の内容は、ユーザーが思う以上に不正確で、かつ見えにくい場所に保存されている。Googleはこうした懸念に応える形で、ユーザー自身がGeminiの記憶を閲覧・編集できる新機能「Memory summary」を導入した。

by @tf_official
Related Topics: AI Security Google Cloud