村田製作所、内製 AI アプリで工数削減に成功
「ガードレール機能」を活用して安心かつ安全な利用環境を整備

Murata Coworker の開発背景について、生成 AI CoE の小金井 雄貴 氏は次のように振り返ります。

「既存の生成 AI サービスをそのまま利用すると、ユーザー体験を向上させたり自社データでチューニングしたりすることが難しい場合があります。現場が本当に使えるプロダクトを作る、従業員の声を聞いて改善するフィードバックループを回すために内製開発を選びました」

開発でこだわった要素が UI / UX です。入出力のマルチモーダル対応、 RAG (Retrieval-Augmented Generation) や AI エージェントなどの機能拡充に加え、独自の UI / UX を実装するといった工夫をこらしています。これらと並んで重視したのが「セキュリティやガバナンスに対する配慮」でした。

「生成 AI を導入した当初は、ユーザーの多くが『この情報を入力していいのか』『この出力内容を利用しても大丈夫なのか』と悩むシーンが多発しました」と鈴木 氏は話します。

社内向けの利用ガイドラインの策定とともに、安心かつ安全な環境づくりに寄与したのが NVIDIA NeMo Guardrails です。複数の「ガードレール」機能――生成 AI アプリケーションに入力されたプロンプトに「個人情報」「暴力的な表現や差別的な内容」「生成 AI への攻撃や乗っ取りを企図した内容」などが含まれていたらブロックする Input rails 、生成 AI の出力に「一般的に有害な内容」が含まれていたらブロックする Output rails などを備えています。

「NVIDIA NeMo Guardrails を組み込んでガードレールを設ければ、「使い方が正しいかどうか」をシステム側が判断して適切な振る舞いをしてくれるため、ユーザーは「使うのが何となく怖い」という漠然とした不安を解消できます。小金井氏は「従業員に負担を掛けずに安全性や安心感を高められたことが大きな効果です」と評価します。

村田製作所は NVIDIA NeMo Guardrails を導入する際、機能や性能、精度などを入念に検証しました。特に、「検出性能」「誤検出の確率」「英語と日本語の違いによる検出精度の違い」を確認。同社の松井 凌 氏は「極めて広範なリスクや攻撃を網羅的に検出でき、言語の違いによる検出精度の差も微々たるものでした」と話し、期待通りのパフォーマンスを発揮したと説明します。

導入に当たっては誤検出率の低減に注力しました。導入初期の誤検出率は約 30% でしたが、村田製作所は検出レベルを下げるのではなく検出能力の高さを生かす手法を探り、チューニングによって誤検出を許容範囲に抑えることに成功。さらに Murata Coworker を運用しながら検出精度を測定し、チューニングに反映させる仕組みも構築しました。この仕組みを実装した長岡 卓弥 氏は次のように語ります。

「Murata Coworker は『Amazon Web Services』(AWS) を基盤にしています。動作ログを『Amazon CloudWatch』で常時監視し、NVIDIA NeMo Guardrails が不適切と判断したものを抽出しています。それを基にアプリケーションを修正し、 CI/ CD パイプラインによってテストやデプロイを自動化する仕組みも準備中です。ガードレールの品質を継続的に維持、向上させられるように努めています」