OpenAIのBatch APIを使ってお得にプロンプトを一括処理してみる

ARANK

はじめに こんにちは。データサイエンスチームYAMALEXのSsk1029Takashiです。 最近はOpenAIに日本支社が出来て、日本語対応が加速するというニュースにわくわくしています。 今回はそんなOpenAIから発表されたBatch APIという機能が便利、かつお得な機能だったのでどのように使えるのか試してみます。Introducing the Batch API: save costs and get higher rate limits on async tasks (such as summarization, translation, and image classificat…