7月25日、Ars Technicaが「Canadian legislator reads out apparent LLM response in floor speech」と題した記事を公開した。カナダの州議会議員が、AIの出力テキストに含まれていた「これは議会演説風に書き直したバージョンです」という注釈フレーズを、そのまま本番の演説で読み上げてしまった。政治家によるAI利用の是非が問われる昨今、原稿確認という最低限のステップが省かれたことが公の場で露呈した格好だ。

LLMの「スタイル提案」フレーズが議事録に残る

カナダ・ニューブランズウィック州の進歩保守党（Progressive Conservative Party）議員であるBill Oliverが、議会での演説中にLLM（Large Language Model：大規模言語モデル）が出力したとみられるメタコメントをそのまま読み上げた。

Oliverは演説の中で、「アドボカシー機関を設立することに伴うリスクの一つは、市民がその機関に実際に付与された権限を超えた期待を持つことである」と述べた後、続けてこう発言した。

「here's a more natural, flowing version of that section that reads like a legislative speech rather than a series of short points（こちらは、箇条書きではなく議会演説らしい、より自然で流れるような文体に書き直したバージョンです）」

これは明らかに、LLMがユーザーのプロンプトに応じて別スタイルの文章を提示する際に付ける前置きそのものだ。本来であれば削除してから読み上げるべきフレーズが、そのまま議事録に残る形で発言された。

当初は見過ごされ、SNSで拡散

この発言は当初ほとんど注目されなかった。しかし今週に入り、RedditやThreadsに動画が拡散されると、カナダ国内で広く報道されるようになった。

カナダ放送協会（CBC）が取り上げたほか、トロント・スターは今回の件を、「職務をChatGPTに委ねることを喜んでいるエリート層と、それを問題視する一般市民との間に広がる社会的分断の象徴だ」と評した。

ニューブランズウィック州議会と進歩保守党の文脈

ニューブランズウィック州はカナダ東部に位置する人口約80万人の州で、州議会は49議席の一院制を採る。進歩保守党は同州で長く政権を担ってきた中道右派政党であり、Bill Oliverは現職のMLA（Member of the Legislative Assembly：州議会議員）だ。

州議会という限られた規模の立法機関だからこそ、議員一人ひとりの発言の重みは大きい。今回の失言が単なる笑い話にとどまらず、国内主要メディアで広く取り上げられた背景には、AI利用の透明性や議員としての説明責任を問う声が市民の間で高まっていることがある。

議会・行政機関におけるAI利用をめぐる国際的な動向

政治家や行政機関によるAI利用をめぐる議論は、カナダに限った話ではない。欧州ではEU AI Actが2024年に成立し、公的機関におけるAIシステムの透明性確保が義務付けられる方向にある。米国議会でも一部議員がAIを立法補助に活用していることが報じられており、開示ルールの整備を求める声が上がっている。カナダ連邦政府も「責任あるAI利用」に関するガイダンスを公開しているが、各州議会レベルでの具体的なルール策定は遅れているのが実情だ。

今回のニューブランズウィック州議会においても、議員が演説原稿をLLMで生成すること自体を禁じるルールは存在せず、ガバナンス上の議論はまだ緒についたばかりだ。

この手の失敗はなぜ起きるか

LLMの出力には、スタイル変更の提案や注釈といったメタ情報がテキストに混入するケースがある。たとえば、過去にAmazonの商品ページで「I cannot fulfill that request（そのリクエストには応じられません）」という文言がそのまま商品名として掲載された事例も話題になった。今回の件は、LLM出力をそのままコピー&ペーストする運用リスクが議会という公の場で露呈した、より象徴的なケースといえる。

AIツールが日常的に使われるようになればなるほど、出力をそのまま使う前に人間が一度確認するというプロセスの重要性は増す。今回の件はその教訓を、図らずも議事録という形で後世に残すことになった。

詳細はCanadian legislator reads out apparent LLM response in floor speechを参照していただきたい。