LLMを入れたら障害対応が地獄に？Datadogで考えるAI時代の運用設計

DRANK

LLMを組み込んだ途端、「どこが遅いのか分からない」「再現できないエラーが増えた」「原因を説明できない」そんな声をよく聞くようになりました。本セッションでは、AI／LLMを含むシステムがなぜ運用しづらい…