- TOP >
- セキュリティ 東京都 の案件
- > 公共系オンプレLLM基盤構築／GPUサーバ導入・
求人・案件情報
公共系オンプレLLM基盤構築／GPUサーバ導入・AIチャットボット開発支援
昨日 11時44分 に公開
業務内容：- GPU搭載オンプレミスサーバ3台を用いたローカルLLM推論基盤（vLLM）の構築
- GitLab Duo 等 AI コーディング支援機能のオンプレ導入支援
- プロンプトエンジニアリング中心の事前検証
- 将来的なRAG構築・ファインチューニングの検討・実装
- AIチャットボットの開発支援（会話設計、意図判定、プロンプト整備等）
担当工程：
要件定義、設計、サーバ構築、環境設定、検証、AIチャットボット開発支援
スキル：
必須：LLM活用経験（プロンプトエンジニアリング、RAG等）、Linuxサーバ構築・運用、Pythonによる開発、公共系システムでのセキュリティ要件遵守経験
尚可：GitLab（CI/CD）利用経験、オンプレ環境でのサーバ・ネットワーク・ストレージ基礎知識、vLLMによるLLM推論基盤構築・運用経験、LLMベースのチャットボット開発経験
稼働場所：
東京都内（テレワーク可）
その他：
業種：官公庁・自治体向けシステム、開始時期：要相談
案件ID：338281
