Recall.ai のリングバッファの設計を考察する

DRANK

あなたとわたしとロバストとパフォーマンス。どうも、かわしんです。 先日 Recall.ai というビデオ会議に関連するサービスのブログ記事を読みました。 www.recall.ai インフラ費用を減らすために動画処理サーバーのプロファイルをとったところ、CPU 時間を一番使っていたのがビデオフレームを送信する際の Web Socket の通信のメモリコピーだったということがわかったので、共有メモリ上に実装したリングバッファを使うことで CPU 使用量を半分にしてサーバー代を半分にしたという豪快なお話です。 同じサーバー内のプロセス間通信に Web Socket を使うと、以下のオーバーヘッドが…