弊所では、クライアントの機密情報を外部クラウドサービスに送信することなく、事務所内で安全に生成AIを活用できるよう、ローカルLLM(大規模言語モデル)環境を構築いたしました。第一弾として以下のシステムを構築しました。
システムは、ワークステーション用PCと外付けGPUを組み合わせた専用環境上で稼働し、生成AIの処理を事務所内で完結させることができます。

システム構成は以下のとおりです。
• HP EliteDesk 800(メモリ64GB)
• PCI Express 4.0 x16スロットにOCuLink接続による外付けGPUシステム
• MINISFORUM DEG2 eGPUドック
• NVIDIA GeForce RTX 5070 Ti(VRAM 16GB)
• 850W電源ユニット
現在、LM Studio上で各種の大規模言語モデル(LLM)を運用し、
• 特許明細書のレビュー支援
• 先行技術文献の分析支援
• 英文特許文書の翻訳支援
• 拒絶理由通知への対応検討支援
などへの活用可能性について検証を進めています。
弊所では、今後も生成AI技術を積極的に活用し、業務品質の向上と迅速なサービス提供に努めてまいります。