AI領域における組織の強みを活かすアーキテクチャ設計

ARANK

こんにちは。AI ShiftでWebフロントエンドエンジニア（？）をしている安井です。今回は私がAIエージェント開発において模索した、組織の強みを最大限に活かすためのアーキテクチャ設計を紹介します。AI ShiftではAI Workerという企業専用のAIエージェント構築プラットフォームを開発しており、我々開発メンバーは自然言語処理を強みとするチーム（以下AIチーム）と協働してプロダクト開発をしています。 Shiftでは5年以上前からAIをドメイン領域として、チャットボット、ボイスボットなどの開発をしてきました。当時はAIチームの研究力がプロダクトの強みとしてダイレクトに反映されており、開発チームとしても如何にその研究力をプロダクトに活かすかが重要な視点でした。しかし、2024年頃からのLLMの進化に伴ってAIチームによるR&Dのスピード感とビックテックのリリース速度による市場の変化にずれが生まれてしまった印象を持ちました。それに伴い開発チームとしては如何に早くその時点でベストなLLMをAPIとして組み込むかが重要になり、今までのR&Dを強みとしていたAIチームとの連携が薄れてしまっていました。2024年ごろに勃興したチャットベースのLLMアプリケーション…