生成AI検索エンジンの核心: エンベディングモデル開発のためのGPU導入
Elice
2024/7/12
業界、規制
Elice製品
目的
埋め込みモデル開発のためのGPU導入
Linq
AIスタートアップLinqでは、Elice Cloud On-Demandを導入して使用しています。今回のインタビューでは、Linqのチェ・チャンヨル代表にElice Cloud On-Demandの導入事例と使用後の感想についてお話を伺いました。
Q. Linqについて簡単にご紹介ください。
Linqは、生成AIを活用したマーケットインテリジェンスソリューションを提供するスタートアップです。ヘッジファンド向けAI検索サービス「Linq Alpha」を開発しており、株式関連文書の内容を理解して質問に回答するソリューションを提供し、お客様が必要とする情報を迅速かつ正確に得られるよう支援しています。
Q. GPUを導入することになった背景は何ですか?
当時、LinqはAI検索の核となるエンベディングモデル(Embedding model)を自社で開発していました。しかし、モデル開発に必要なリソースの確保に苦労しており、GPUを急いで探していた際にEliceと連絡が取れてGPUサービスを導入することになりました。これにより、モデル開発の速度を大幅に向上させることができました。
*エンベディングモデル: 生成AIの最大の課題である大規模言語モデル(LLM)の幻覚問題(Hallucination)を解決する上で重要な役割を果たす検索強化生成(RAG)技術に使用される主要なモデル。検索強化生成は、大規模言語モデルにはない最新データや外部に漏れてはならない社内ドキュメントを信頼性のある形で結果として生成する技術です。
Q. Elice Cloudをどのように知りましたか?
最初は、創業者の集まりでEliceの代表と会い、Eliceがクラウド事業を展開していることを知りました。その後、GPUリソースが不足する状況が発生したため、Elice Cloudを思い出し、連絡を取りました。周りの創業者の中にもElice Cloudを使用している方がいて、すでに多くのポジティブな意見を聞いていました。
Q. 数あるGPUサービスの中で特にElice Cloudを選んだ理由は何ですか?
第一の理由はリソース確保の迅速性、第二の理由は価格競争力です。最も重要な点は、私たちが必要なときにすぐに使えるリソースを提供してもらうことでしたが、Eliceはこの点で最も迅速に対応してくれました。また、価格面でも他のクラウドサービスに比べて非常に競争力のある条件を提示してくれました。
Q. どのような用途でElice Cloudを利用していますか? また、クラウドを導入して達成したい目標は何ですか?
Elice Cloudを活用してAIモデルのトレーニングを行い、良い成果を上げることができました。事例を挙げると、LinqはHugging FaceのMTEB「大規模テキストエンベディングベンチマークリーダーボード」のテキスト検索分野の評価でNVIDIA、Salesforce、Google、OpenAIなどを抑えて1位を獲得しました。
Linqは、お客様が必要とする回答を提供できる生成AIモデルを開発しているため、私たちの目標はお客様を継続的に満足させる高性能な検索モデルを作ることです。そして、Elice Cloudが目標達成に大いに役立つと信じています。
▲ MTEB 参考画像
Q. Elice Cloudを初めて使用したとき、便利だと感じましたか? 不便に感じた部分があればお知らせください。
私自身も工学出身でコンピュータサイエンスを学んでいたため、使うのに大きな問題はありませんでした。開発者と一緒に進めたときも、初期セットアップを除けば大きな困難や不便はありませんでした。
Q. Elice Cloudを使って良かった点や印象に残った点はありますか?
最も印象に残ったのはカスタマーサポートでした。キム・スインCROさん、そしてAndy Nam AIクラウド総括さんと継続的にコミュニケーションを取りましたが、私たちの状況を理解して必要な製品を提供しようと努めてくれたのが良かったです。また、EliceがLinqにどのような支援ができるか継続的に確認してくれたので、リソース確保の面である程度予想して計画を立てることができました。
Q. Elice Cloudで特に気に入った部分はありますか?
新しいサービスをクラウドに乗せる際に最も重要なのは安定性ですが、Elice Cloudはオンデマンド機能を提供しているため、必要なときにオンデマンドで手軽にテストでき、それをもとに次のプランを立てやすかったです。また、ML APIもリリースされたと聞いており、今後モジュール化する際にはこの機能も活用できると期待しています。
Q. Elice Cloudに全体的に満足されていますか? 10点満点でお答えください。
9点を差し上げたいです。私は5つのGPU会社に連絡しましたが、Eliceが最も迅速に対応してくれました。私の記憶では、営業日基準で2日以内に対応してくれたと思います。当時、私たちの会社は切迫した状況でしたが、Eliceが迅速に対応してトライアルをすぐに進められるようにしてくれたおかげで正常化することができました。そのおかげで、希望する時期にリリースでき、そのモデルが1位を獲得できたと思います。
Q. Elice Cloudを他の企業におすすめしますか? おすすめする場合、その理由もお聞かせください。
先ほどもお話ししましたが、開発者の立場からは開発が必要なときにすぐにリソースを使えることが一番重要ですよね。その点で本当におすすめしたいです。また、オンデマンド導入後に継続的に確保したい場合、割引が適用される構造なので、自然とロックイン効果もあると思います。実際に周囲の方々にすでに多くおすすめしており、今後も十分におすすめできると思います。
Q. 今後のLinqの展望について簡単にお話しください。
これまでLinqはヘルスケア、小売、保険などさまざまな分野でモデルを開発してきました。今年からはヘッジファンド分野にフォーカスを絞り、ファイナンスに特化したモデルを多く開発する予定です。この分野で世界一を目指し、お客様が必要とする回答を提供する方向で一生懸命開発・サービス提供を行っていく予定です。
LinqはElice Cloudを通じて必要なリソースを迅速に確保し、AIモデルで優れた成果を上げることができました。Elice CloudはLinqのようなAIスタートアップに迅速で安定したクラウド環境を提供し、企業のソリューション開発を支援しています。安定したGPU環境が必要な企業は、Elice Cloud On-Demandサービスを検討してみてください。
👉 Elice Cloud On-Demand 詳しくはこちら
👉 [Elice Cloud GPUサービスに関するご相談](https://elice.io
/ko/contact)
このコンテンツは著作権法により保護された著作物であり、Eliceに著作権があります。無断での二次加工および商用利用を禁止します。