- TOP >
- Kotlin の案件
- > オンプレAI基盤構築／LLM推論環境とチャットボ
求人・案件情報
オンプレAI基盤構築／LLM推論環境とチャットボット開発支援
本日 19時00分 に公開
業務内容：- ハイエンドGPU搭載オンプレミスサーバ3台を用いたLLM推論基盤（vLLM想定）の構築
- AIコーディング支援ツール向けの推論環境整備
- GPU調達待ち期間中のプロンプトエンジニアリング中心の事前検証
- 将来的なRAG構築・ファインチューニングの検討・実装
- AIチャットボット開発支援（会話設計、意図判定、プロンプト整備）
- 東京都内拠点での物理サーバ初期セットアップ対応
担当工程：
要件定義、設計、構築、テスト、運用支援、AIチャットボット開発支援
スキル：
必須：
- LLM活用のシステム開発・検証経験（プロンプトエンジニアリング、RAG、モデル評価等）
- Linuxサーバ構築・運用経験
- Pythonによる開発経験（規模不問）
- 公共系システムのセキュリティ要件・制約下での開発経験
- 新技術のキャッチアップに前向きな姿勢
尚可：
- GitLab（CI/CD）利用経験
- オンプレミス環境でのサーバ・ネットワーク・ストレージに関する基本知識
- vLLMによるオンプレLLM推論基盤の構築・運用経験
- LLMベースのチャットボット開発経験
稼働場所：
基本テレワーク。必要時は東京都内拠点にて作業。
その他：
業種：公共・社会インフラ／官公庁・自治体系
開始時期：即日または相談に応じて調整
案件ID：335997
