- TOP >
- システム 品川区 の案件
- > 公共系オンプレLLM基盤構築／AIチャットボット
求人・案件情報
公共系オンプレLLM基盤構築／AIチャットボット開発支援
本日 00時16分 に公開
業務内容：- H100クラス相当GPU搭載オンプレサーバ3台によるローカルLLM（vLLM）推論環境の構築
- GitLab Duo等のAI支援機能をオンプレで利用できるようLLM基盤の整備
- GPU調達待ち期間中のプロンプトエンジニアリング中心の事前検証
- 将来的なRAG構築・ファインチューニングの検討・実装支援
- AIチャットボット開発支援（会話設計、意図判定、プロンプト整備）
- 物理サーバの初期セットアップ支援
担当工程：
- 要件定義・設計
- サーバ構築・設定
- テスト・検証
- AIチャットボット機能の実装支援
スキル：
必須：
- LLMを活用したシステム開発または検証経験（プロンプトエンジニアリング、RAG、モデル評価等）
- Linuxサーバの構築・運用スキル
- Pythonによる開発経験（規模不問）
- 公共系システムにおけるセキュリティ要件・制約下での開発経験
- 新技術のキャッチアップに前向きな姿勢
尚可：
- GitLab（CI/CD）利用経験
- オンプレ環境でのサーバ構築・ネットワーク・ストレージの基本知識
- vLLMによるオンプレLLM推論基盤の構築・運用経験
- LLMベースのチャットボット開発経験
稼働場所：
東京都内（テレワーク可）
その他：
業種：公共・社会インフラ（官公庁・自治体）
案件ID：336229
