この動画はローカル環境の生成AIで作成しました


「生成AIの導入に踏み切れない企業様へ」


「生成AIの導入を検討しているが、何から手をつければ良いか分からない」「情報漏洩のリスクが不安で、なかなか踏み出せない」
そんなお悩みをお持ちではありませんか?


近年、企業の競争力強化に不可欠となりつつある生成AIですが、その導入には多くの障壁が存在します。特に、機密情報の取り扱いが求められる企業や公共団体においては、セキュリティへの懸念から導入を躊躇するケースも少なくありません。


しかし、生成AIの活用は企業の業務効率化や情報活用の在り方が大きく変わりつつあります。
今や「活用しないこと」そのものが事業上のリスクとなり得る状況です。例えば、競合他社が生成AIを導入し、業務効率化や新たなサービス開発を加速させる中で、自分たちだけが旧来の業務プロセスに留まれば、市場での競争優位性を失いかねません。生成AIによる情報活用の差によって生じる生産性の格差は、意思決定の遅れや機会損失に直結し、企業の成長を阻害する要因ともなり得ます。


日本明月は、こうした企業様の課題に真摯に向き合い、オープンな技術を活用しながらも、セキュアな環境で生成AIの可能性を最大限に引き出すPoCサービスをご提案します。
当社はChatGPTの登場以来、生成AIの可能性にいち早く着目し、継続的な技術検証と応用の模索を進めてきました。
生成AIの活用範囲は多岐にわたりますが、特に近年、ローカル環境で動作する大規模言語モデル(LLM)の飛躍的な性能向上により、RAG(Retrieval-Augmented Generation)技術との組み合わせによる、「オープンな技術を活用しつつもセキュアな環境を保証する」情報特化型の問い合わせシステムは、実用化に近づいています。
NVIDIAのRTX4060(VRAM 8G)程度のスペックのゲーミングPCでも、十分な精度と応答速度を実現できる水準に達しつつあることを、私たちは実感しています。
しかも、生成AIを取り巻く技術は日々進化しており、今できないことが数か月後にはできる可能性があります。


こうした背景を踏まえ、私たちはこれまでの知見をもとに、現実的かつ持続可能な活用方法の一つとして、オープンな技術を活用しながらも、セキュリティに配慮した実行環境における情報特化型問い合わせシステムの構築を、PoC(概念実証)という形で企業様にご提案しております。

実践的PoCの提唱

企業様自身が生成AIを活用する土壌を支援


先に述べた通り、生成AIを取り巻く技術は日々進化しており、今や「活用しないこと」そのものが事業上のリスクとなり得る状況です。しかし、

  • 何ができるのか?できないのか?
  • どれくらいコスト(初期投資、ランニング)がかかるのか?
  • 何から始めればいいのか?どう始めればいいのか?
  • 情報漏洩につながるのではないか?

など、いざ始めようとしても「AIを活用してみたいが、何から始めればよいかわからない」という企業様が非常に多いのが現状です。
そこで、日本明月では、「オープンな技術を活用しながらも、セキュリティに配慮した実行環境における情報特化型問い合わせシステム」の構築、検証を通じて、
企業様自身がこれらの課題に向き合い、生成AIを活用する土壌を育てるお手伝いをできればと考えております。

PoCの内容紹介

システム環境


企業様がご用意されたマシン(中スペック以上のゲーミングPCを想定)上に、検証環境を構築いたします。
その環境にRAGデータを組み込み、情報特化型の問い合わせシステムとしての精度や応答速度を検証します。
あわせて、現在の生成AIを取り巻く主要な技術要素を整理・共有し、検証完了後も企業様が自立的に活用・検証を進められるよう支援いたします。

※ご希望のお客様には、LLMをプリインストールした推奨専用マシン(Apple社製)のご提案も可能です。低価格・高性能で、すぐにご利用を開始できます。詳細はお問い合わせください。

参考:オープンな技術を活用した、情報特化型問い合わせシステムイメージ(ローカルマシン上に構築)

技術要素


要素 用途 技術例
UI構築 ユーザーインターフェース Streamlit
LLM自体の評価はopen-webuiを活用
オーケストレーション 処理の流れ制御 LangChain / LangGraph(MCPを利用する場合)
LLM実行 ローカルLLMの推論実行 Ollama(モデルはqwen3, gpt-oss等を利用予定)
検索処理 ベクトル検索エンジン Faiss
文書管理 問い合わせ対象データ PDF, Word, Markdown 等

検証内容


ローカルLLMの性能確認


セキュアなローカル環境において、LLMの生成精度・動作安定性・応答速度を検証いただきます。


RAG活用による情報特化型システムの有効性評価


企業様の主題に沿った分野に特化した問い応答の実現性を評価いただきます。
一例をあげると以下のような業務活用の検証を想定しています:

  • 社内向け:従業員からの社内ルールに関する問い合わせ(管理部門対応業務の支援)
  • 社外向け:顧客からの製品・サービスに関する問い合わせ(コールセンター業務の効率化)
※情報特化型以外の生成AI活用に関する検証も可能です。お気軽にご相談ください。

作業内容


企業様にご対応いただく作業

  • 検証の目的や内容のご検討
  • 検証用マシン(専用マシン)のご準備
    (※推奨スペックを満たすマシンのご選定が難しい場合は、プリインストール済み専用マシンのご提案も可能です)
  • RAGデータの元となる情報(社内資料やFAQなど)をご提供ください。
    形式はPDF・Word・Excelなど、既存の資料で構いません。
  • 実際の検証作業
  • 検証後の対応方針の検討

当社の作業

  • 検証内容の検討支援
  • 環境の構築および初期スキルトランスファー
  • 検証に必要な追加設定(例:サンプルプログラムの提供)
  • RAGデータの作成支援および投入作業
  • 検証作業の技術支援
  • 検証後の対応方針に関する支援(必要に応じて)

対象とする企業様

本PoCは、以下のような企業様に特に適しています。

  • AIを活用してみたいが、何から始めればよいかわからない
    活用方法の検討、環境構築からサポートいたしますので、生成AIの知識がなくても問題ありません。
  • 余計なコストをかけずに、現時点での実力(可能性)をシンプルに検証したい
    本PoCサービス自体は作業工数のみでご支援します。ハードウェアやライセンス費用は含みませんが、ご希望に応じて推奨専用マシン(有償)のご提案も可能です。商用のサービスも使用しないので、ランニングコストもかかりません。最短1ヶ月での検証も可能です。
  • 情報漏洩のリスクについて不安がある
    商用・無償に関わらずの生成API接続などインターネットサービスへのアクセスは行わず、すべてローカルな環境で完結しますので、情報の漏洩のリスクを最小限に抑えることができます。
  • 将来的に自社での検証・運用を目指したい
    技術レクチャーやスキルトランスファーを通じて、PoC後の自走が可能な体制構築を支援します。
  • 業種・業態は問いません
    業務における情報活用や社内外からの問い合わせ対応など、生成AIの活用余地があるあらゆる分野に対応可能です。

次のステップに向けた継続的サポート

PoCの終了後も、企業様の状況やご希望に応じて、継続的なご支援が可能です。生成AIは進化のスピードが早く、 状況に応じた柔軟な対応が重要です。私たちはその変化に寄り添い、伴走します。

PoCの効果が確認できた場合


本格導入をご検討したい企業様へ

新規システムとしての開発や、既存システム(社内ポータルや業務システムとの連携)への生成AI機能の組み込みなど、 要件定義から設計・開発・運用まで一貫してご支援が可能です。

さらなる検証が必要な場合


再検証・継続的な評価をご希望の場合

小規模なご支援からでも対応可能です。月10時間からの有償サポートプランなど、柔軟な形でのご相談に応じます。


新たな技術やデータが登場した際に再検証を検討したい場合

新しいLLMの登場や、RAG用の新たなコンテンツが整備されたタイミングなど、再検証をご希望の際はお気軽にお声がけください。企業様のペースに合わせた再開が可能です。

事例

当PoCサービスを利用された企業様のうち、代表的な活用となりそうな事例をいくつかご紹介させていただきます。 この事例はデモ用に環境を再構築しましたので、デモをご覧いただくことも可能です。ぜひお問い合わせください。

1. 社内文書(就業規則、経費精算規定)の問い合わせシステム


企業様はローカルLLMの活用としてまずは最も事例と効果がある使い方を通して、どのような使い方ができるかを考えていきたいということでした。 そこで、活用方法についていろいろお話をさせていただいたところ、従業員からの社内規定に関する問い合わせ対応に、管理部門が少なくない時間を費やしているとのことでしたので、最も事例と効果がある使い方である、ローカルLLMとRAG(Retrieval-Augmented Generation)技術を活用し、従業員が自然言語で社内文書に問い合わせ、必要な情報を取得できるシステムのPoCを実施しました。

本PoCを通じて、企業様からは次のような評価をいただきました。

  • 管理部門の業務負荷軽減と従業員の自己解決促進: 従業員が自ら必要な情報を迅速に取得できるようになったことで、管理部門への問い合わせ件数は削減されました。従業員も疑問を即座に解消できるため、満足度と業務効率が向上しました。RAGシステムが社内文書から直接情報を抽出し回答を生成するため、回答の正確性と一貫性が保証されるようになりました。従業員は誰に聞いても同じ、信頼できる情報を得られるようになり、同じ質問を繰り返したり、別の人に確認するようなことがなくなったといいます。
  • ローカルLLMの理解深化と自社での活用基盤構築: PoCを通じて、ローカルLLMのインストールからRAGの仕組み、エンベディングモデルの選定やチャンク設計といった実践的な知見をもつ要員を育成することができました。これにより、企業様自身が将来的に他の業務領域へ生成AIの活用を広げるための土壌を築くことができました。
  • チャットボットを超える「対話型」情報検索の実現: 従来のチャットボットが単にリンクを提示するに留まっていたのに対し、本システムは質問の意図を理解し、関連文書から具体的な回答を生成するため、まるで人間と会話しているかのような体験を提供しました。これにより、従業員は生成AIに対し、理解と期待をするようになり、他の業務領域への活用を広げるための土壌を築くことができました。

現在は、この問い合わせシステムを全従業員に展開し、利用状況と効果を検証しています。 将来的には、この成功事例を基に、他の部門のナレッジベースやFAQシステムへの展開、さらには新入社員向けの社内教育(企業文化、業務プロセス、社内ルール等)支援ツールとしての活用も検討されており、社内全体の情報活用と生産性向上に大きく貢献すると期待されています。

2. 受発注データに関する問い合わせシステム


企業様は、日々の受発注データ分析において、既存のBIツールではカバーしきれない課題を抱えていらっしゃいました。具体的には、定型レポート以外の柔軟な分析が難しく、都度IT部門へのレポート作成依頼や、データ抽出・加工の手間が発生している状況でした。そこで、ローカルLLMを活用し、自然言語で受発注データに問い合わせ、必要な情報を即座に取得・分析できるシステムのPoCを実施しました。

本PoCを通じて、企業様からは次のような高い評価をいただきました。

  • BIツールでは難しかった柔軟なデータ分析の実現: 「特定の期間の特定商品の売上推移は?」「今月、最も受注額が大きかった顧客は?」といった、BIツールでは事前に定義されたレポートでしか確認できなかったような、アドホック(即時的、定型外)な質問にも自然言語で即座に回答が得られることに驚きました。これにより、データ分析のスピードと柔軟性が格段に向上しました。
  • データ活用の民主化とIT部門の負担軽減: 営業担当者や経営層が、まるでデータアナリストと会話しているかのように、知りたい情報を直接引き出せるようになりました。これにより、データ活用の敷居が大幅に下がり、これまでデータ抽出やレポート作成に追われていたIT部門の負担も大きく軽減される可能性を感じました。
  • 取得データの分かりやすい要約と、示唆に富む情報の抽出: LLMが結果を自然言語で分かりやすく要約し、データから読み取れる傾向や特徴を提示してくれることに価値を感じました。データを単なる数値ではなく、ビジネス上の「気づき」を得るための情報として活用できそうだと評価いただきました。

現在は、営業部門での本格導入に向けて、さらなる機能改善と評価を進めています。このシステムが全社的に展開されれば、データに基づいた迅速な意思決定が促進され、ビジネス競争力の向上に大きく貢献すると期待しています。

3. 新人教育における日報とAIによるフィードバック支援システム


企業様は、新人教育中に「日報提出」と「上司からのフィードバック」を行っておりますが、上司のフィードバックがすぐに行われないことに加え、必ずしも新人に寄り添ったフィードバックを行なえていないこともあり、日報における新人のモチベーション、ひいては新人教育そのもののモチベーションの低下がみられるという課題がありました。そこで、ローカルLLMを活用し、上司のフィードバックに加え、生成AIから承認型のフィードバックを即時に返すシステムのPoCを実施しました。

本PoCを通じて、企業様からは次のような高い評価をいただきました。

  • ローカルLLM活用による情報漏洩リスクの軽減: 日報に対してAIでフィードバックを行うというアイディア自体は持っていたのですが、日報の内容には個人情報も含まれているため、情報漏洩のリスクの観点から、実施には懸念を持っておりました。ローカルLLMを活用することでこの懸念が払しょくされ、実施に踏み切ることができました。応答速度、回答も申し分なく、他のいろいろな領域で活用できる可能性を感じました。
  • 新人の学習意欲向上と日報の質の改善: AIによる即時フィードバックにより、新人は自身の記述内容に対する評価をすぐに得られるため、日報作成へのモチベーションが向上しました。特に、ポジティブな側面を強調する「承認型フィードバック」は、新人の自信に繋がり、より詳細で質の高い日報を記述するようになりました。
  • 上司のフィードバック業務の効率化と質の向上: AIが生成するフィードバックの質が高いため、上司自身のフィードバックの質も向上し、新人とのコミュニケーションがより円滑になりました。具体的には、AIが一次フィードバックを行うことで、上司は定型的なコメント作成ではなく、より個別の状況に応じたフィードバック、もしくは指導や面談に時間を割くようになりました。

本PoCは、日報作成におけるフィードバック支援でしたが、システムを検証していくうちに、日報に限らず新人の学習進捗や課題、モチベーションの変化などをデータとして可視化できる可能性に気づきました。今後は、策定、実施した新人育成計画において早期の課題発見とそれに対する迅速な対応を行うことにより教育効果の最大化に貢献するようなシステム化を目指していくとのことです。 AI活用については、情報漏洩のリスクが最大の懸念点だったので、ローカルLLMの活用はAIの適用範囲を大きく広げられると大変評価をいただきました。

PoCに興味を持った方へ:よくあるご質問と回答

サーバ環境について


Q1. どれくらいのスペックのサーバが必要ですか?

A. 推奨は、近年の中スペック以上のゲーミングPC相当以上(例:メモリ32GB以上、GPU搭載でVRAM8GB以上、SSDストレージ)です。
スペックが高ければ(メモリ64GB、VRAM24GB)、より性能の高いLLMで検証することが可能となります。

Q2. サーバのOSはWindowsでも大丈夫ですか?

A. お客様がご自身でマシンをご用意される場合は、Windowsでも問題ありません。
なお、当社でご提案するプリインストール済みの専用マシンはmacOSとなります。

Q3. クラウド(例:AWS EC2など)でも構築できますか?

A. 可能です。
ただし、マネージドサービスを使うことは本PoCの趣旨(ベンダーロックイン、ランニングコストの発生)に合わないので仮想インスタンスを使っての構築となります。
基本的にはオンプレミス(社内サーバ)での実施を推奨しています。

Q4. インターネット接続が必要ですか?

A. 初期構築段階で必要なライブラリ取得のために一時的な接続が必要ですが、その後はオフラインで運用できるよう構成できます。

Q5. ハードウェアの準備が難しいのですが、推奨専用マシンの販売はしていますか?

A. はい。お客様のご要望にお応えし、LLM環境をプリインストールしたApple社製の専用マシンをご提案可能です。
低価格ながら高性能なため、スムーズに検証を開始したいお客様におすすめです。詳細はお気軽にお問い合わせください。

作業環境・作業体制について


Q6. オンサイト対応は可能ですか?

A. 可能です(別途、交通費等の実費がかかる場合があります)。
検証内容や作業時間に応じ、スポット的にオンサイトで対応することも可能です。

Q7. リモートで作業する場合はどのような環境を用意すればよろしいでしょうか?

A. サーバへの接続についてはVPN経由などのリモートアクセス手段のご提供をお願いします。
打合せについては、ZoomやTeams等で問題ありません。
それ以外については作業内容に応じてご相談させてください。

インストール・スキルトランスファーについて


Q8. スキルトランスファーを受けるために必要な事前知識はありますか?

A. 特別な前提知識は不要ですが、以下のような基本スキルがあるとスムーズです:
  • ITパスポート試験相当のITリテラシー
  • Python(必須ではありません)
必要に応じて、基礎からの説明も含めてご支援します。

Q9. インストール時に技術的な説明もしてくれますか?

A. はい、インストールとあわせて技術要素についての簡単なレクチャーを行います。PoC終了後も企業様自身 で、引き続き活用できるよう支援することが本PoCの目的の一つです。

検証内容について


Q10. 自社特有のデータやシステム連携を含めた検証は可能ですか?

A. はい、事前にヒアリングを行い、可能な範囲で連携やデータの形式に対応します。

Q11. RAG用の元データはどのような形式で用意すればよいですか?

A. Word、PDF、CSV、Markdown、HTMLなど、一般的なドキュメント形式に対応可能です。Webサイトから の抽出も条件次第で可能ですので、お気軽にご相談ください。

Q12. RAGの回答精度が低いと感じた場合、どう改善できますか?

A. RAGの精度はデータの構成や分割方法に強く依存します。
また、元データのフォーマットからテキストに変換する際の処理も重要です。
当社ではPoC中にその最適化(チャンク設計や検索条件調整)も支援します。必要に応じてモデルの再選定も行います。

Q13. どのくらいの作業(期間、費用)で検証できますか?

A. 最短1ヶ月・1人月(150万円〜)でのPoCを想定しています。

Q14. Difyを使ってみたいです。

A. もちろん対応可能です。使い方のレクチャーも可能です。
Difyは直感的なUIと多機能な設定オプションを備えており、PoCという観点ではLangChainより扱いやすいツールです。
しかし、逆に裏側の処理や仕組みに触れなくてもある程度使えてしまうので、「どう動いているのか」を深く理解していただきたいという思いと、
システムの拡張性を考慮し、当社では特に希望がない場合はLangChain(もしくはLangGraph)を使った構築をご提案させていただいております。

Q15. 検証中に新しいLLMや技術が出てきた場合、それを試すことはできますか?

A. 対応可能です。事前に共有いただければ、PoCの範囲内での差し替えや比較も可能です。

最後に

生成AIは「一部の先進企業が試している技術」から、「あらゆる業務に活用可能な現実的な選択肢」へと進化しつつあります。しかしながら、実際に取り組むには不明点や不安も多く、「まず一歩を踏み出す」ことを躊躇されている企業様が非常に多いのが現状です。

私たちは「まず一歩を踏み出す」ことをご支援させていただくと同時に、「自分で歩き続ける」ために、持続可能かつセキュアな技術検証の環境を一緒に構築し、活用方法を共に設計し、企業様自身が生成AIを適切に運用できるようご支援してまいります。

まずはPoCを通じて、「現在できること」「将来に向けた可能性」を体感していただければ幸いです。

ご関心をお持ちいただけましたら、ぜひお気軽にご相談ください。
皆さまと共に、新たな業務の可能性を切り拓いていけることを心より願っております。

さっそく使ってみませんか?

生成AIへの取り組みを検討し、DXの実現につなげましょう!
まずは試してみたいというお客さまには、PoCの実施を提供しております。