求人・案件情報
オンプレAI基盤構築／LLM推論環境＋GPUサーバ／AIチャットボット開発支援
昨日 18時25分 に公開
業務内容：- GPU搭載オンプレサーバ3台によるLLM（vLLM）推論環境の構築
- AIコーディング支援ツール用基盤の整備
- GPU調達待ち期間中のプロンプトエンジニアリングによる事前検証
- 将来的なRAG構築・ファインチューニングの検討・実装
- AIチャットボット開発支援（会話設計・意図判定・プロンプト整備）
- 物理サーバの初期セットアップ対応
担当工程：
- 基盤構築・設定
- 開発支援・検証
- 運用設計・ドキュメント作成
スキル：
必須：
- LLM活用経験（プロンプトエンジニアリング、RAG、評価等）
- Linuxサーバ構築・運用スキル
- Pythonによる開発経験
- 公共系システムのセキュリティ要件下での開発経験
尚可：
- GitLab CI/CD利用経験
- オンプレ環境でのサーバ・ネットワーク・ストレージに関する知識
- vLLMによるオンプレLLM推論基盤の構築・運用経験
- LLMベースのチャットボット開発経験
稼働場所：
東京都内の拠点（テレワーク中心、必要に応じて現地でのサーバセットアップ）
その他：
業種：官公庁・自治体向けシステム
開始時期：即日着手可能
プロジェクト期間：長期（継続的な改善・運用支援）
案件ID：331775
