- TOP >
- インフラ 東京都 の案件
- > 官公庁向けGPUオンプレLLM基盤構築／AIチャ
求人・案件情報
官公庁向けGPUオンプレLLM基盤構築／AIチャットボット開発支援
昨日 12時44分 に公開
業務内容：- GPU搭載オンプレサーバ3台を用いたローカルLLM（vLLM）推論環境の構築
- GitLab Duo 等の AI コーディング支援機能のオンプレ導入支援
- プロンプトエンジニアリングを中心とした事前検証
- 将来的な RAG 構築・ファインチューニングの検討・実装
- AI チャットボットの開発支援（会話設計・意図判定・プロンプト整備）
- 三鷹拠点での物理サーバ初期セットアップ
担当工程：
設計、構築、開発、検証、導入支援
スキル：
必須：
- LLM を活用したシステム開発または検証経験（プロンプトエンジニアリング、RAG、モデル評価等）
- Linux サーバの構築・運用スキル
- Python による開発経験（規模不問）
- 公共系システムでのセキュリティ要件・制約下での開発経験
- 新技術のキャッチアップに前向きな姿勢
尚可：
- GitLab（CI/CD）利用経験
- オンプレ環境でのサーバ構築・ネットワーク・ストレージの基本知識
- vLLM によるオンプレ LLM 推論基盤の構築・運用経験
- LLM ベースのチャットボット開発経験
稼働場所：
東京都内（豊洲・三鷹・新宿）およびテレワーク可
その他：
業種は官公庁・自治体向けシステム、開始時期は要相談、勤務時間は10:00〜18:30（7.5h）で残業は事前許可が必須、テレワーク可
案件ID：332627
