Perplexity、NVIDIA NeMo を使用して、AI を活用した検索エンジンのモデル パフォーマンスを向上

Perplexity は NVIDIA NeMo を採用し、その信頼性、柔軟性、使いやすさを活用して、オンライン回答エンジンのカスタム モデルを作成しました。NeMo による支援を受け、以下のデータ処理および高度なモデル アライメント技術を活用しました。

• 教師ありファインチューニング: 複数のノードに分散されたデータを処理する NeMo の機能により、Perplexity はトレーニング プロセスを効率的に拡張することができました。
• 直接選好最適化 (DPO: Direct Preference Optimization): DPOを使用することで、Perplexity は人間の好みに合わせてトレーニング済みモデルのパフォーマンスを向上させ、モデルをユーザーのニーズにあわせてカスタマイズすることが可能になりました。
• 近接方策最適化 (PPO: Proximal Policy Optimization): このアライメント技術により、ゲーム プレイやロボット制御など、複雑なタスクのモデルに対するトレーニング成果が改善されました。

新しいオープンソースのリリースから数日以内に、チームは検索での基本モデル比で 20% 改良された新しい Sonar モデルを開発しました。

Perplexity は、Llama や Mistral モデル ファミリなど、最先端のモデルにファインチューニングを適用し、検索拡張生成を活用して、検索データに基づく正確で簡潔な回答を提供しています。このレベルのカスタマイズにより、Perplexity は AI アプリケーションにおいて高い精度と関連性を達成できました。

さらに、NeMo の使いやすさ、幅広い対応モデル アーキテクチャ、高いトレーニング スループットにより、Perplexity は迅速に実験し、アプリケーションに最適なチューニング モデルを見つけることができました。

NeMo を使用することで、Perplexity は大規模な分散データとモデル並列処理を活用しながら、LLM のファインチューニングを 0.5B から 400B 以上に拡張することができました。

AI リサーチ エンジニアで Perplexity の検索機能改善の取り組みを率いる Weihua Hu 氏は、次のように述べています。「NeMo を使用することで、Perplexity はさまざまなオープンソースの埋め込みモデルを迅速にファインチューニングできます。これにより、検索スタックが大幅に強化され、回答の品質が大きく向上しました。」

Weihua 氏はまた、「いくつかの事後トレーニング技術を使用して実験し、教師ありファインチューニング (SFT) とDPO (直接的選好最適化) の適切な組み合わせを見つけることができました。」とも述べています。

情報へのアクセス方法を再定義することで、Perplexity はユーザーの Web の使用方法を変革し、より直感的で使いやすいものにすることを目指しています。