求人・案件情報
公共系システム向けオンプレLLM基盤構築／AIチャットボット開発支援
本日 12時30分 に公開
業務内容：- H100クラス相当GPU搭載オンプレサーバ3台によるローカルLLM推論環境（vLLM）構築
- GitLab Duo等のAIコーディング支援機能をオンプレ環境で利用可能に整備
- GPU調達待ち期間中のプロンプトエンジニアリング中心の事前検証
- 将来的なRAG構築・ファインチューニングの検討・実装支援
- LLM活用によるAIチャットボットの開発支援（会話設計・意図判定・プロンプト整備）
- 物理サーバ作業に伴う拠点での初期セットアップ対応
担当工程：
- 要件定義・設計
- 環境構築・セットアップ
- プロンプトエンジニアリング・検証
- AIチャットボット機能実装支援
- 運用支援・技術調査
スキル：
必須：
- LLMを活用したシステム開発・検証経験（プロンプトエンジニアリング、RAG、モデル評価等）
- Linuxサーバの構築・運用スキル
- Pythonによる開発経験
- 公共系システムでのセキュリティ要件下での開発経験
- 新技術のキャッチアップに前向きな姿勢
尚可：
- GitLab（CI/CD）利用経験
- オンプレ環境でのサーバ・ネットワーク・ストレージの基本知識
- vLLMによるオンプレLLM推論基盤の構築・運用経験
- LLMベースのチャットボット開発経験
稼働場所：
東京都内（豊洲・三鷹・新宿等複数拠点）またはテレワーク
その他：
- 業種：公共・社会インフラ（官公庁系システム）
- 開始時期：相談に応じて即日開始可能
- 勤務形態：フルタイム
金額
650,000～700,000円/月
案件ID：330877
