- TOP >
- Docker の案件
- > オンプレミスGPUサーバ活用LLM推論基盤構築／
求人・案件情報
オンプレミスGPUサーバ活用LLM推論基盤構築／AIチャットボット開発支援
昨日 19時03分 に公開
業務内容：- ハイエンドGPU搭載オンプレミスサーバ3台によるLLM推論環境（vLLM）構築
- AIコーディング支援ツール用LLM推論基盤の整備
- GPU調達待ち期間中のプロンプトエンジニアリング中心の事前検証
- 将来的なRAG構築・ファインチューニングの検討・実装
- AIチャットボット開発支援（会話設計・意図判定・プロンプト整備）
- 物理サーバの初期セットアップ対応
担当工程：
要件定義、設計、実装、検証、運用
スキル：
必須：LLM活用経験（プロンプトエンジニアリング、RAG、モデル評価等）、Linuxサーバ構築・運用、Python開発経験、新技術のキャッチアップ意欲、公共系システムのセキュリティ要件下での開発経験
尚可：GitLab（CI/CD）利用経験、オンプレ環境でのサーバ・ネットワーク・ストレージの基本知識、vLLMによるオンプレLLM推論基盤の構築・運用経験、LLMベースのチャットボット開発経験
稼働場所：
東京都内拠点での作業（PC貸与あり）
その他：
業種：官公庁・自治体向けシステム、開始時期：相談、勤務時間：10:00～18:30（実働7.5h、残業は事前許可制）
案件ID：333940
