LLMアプリケーションの運用企業がLLM Opsについて語るLTイベント、2月29日にオンラインで開催

　PharmaXは、LLMOpsの工夫について語り合うオンラインイベント「LLM Night ～LLM Ops編～」を、2月29日に開催する。参加費は無料。

　LLMアプリケーションの開発が行われるようになり、本番運用している企業が増えた。よいLLMアプリケーションを作るための工夫としてのプロンプトエンジニアリングやRAGなどの手法は、エンジニア界隈では広く一般に知られるようになってきた。一方で、LLM Opsについてはまだベストプラクティスが出そろっておらず、各社が手探りで行っているような状態と言える。まずデータを扱う仕組みが整っていなければ、LLMアプリケーションを作る前の実験もできず、RAGなどで自社のデータを活用することも難しい。

　継続的にLLMアプリケーションの精度を改善していくにもLLM Opsを整える必要がある。また本番運用するLLMアプリケーションは、精度やビジネスインパクトへの評価だけではなくコストやレイテンシーを継続的にモニタリングしていくことも重要となる。

　今回は、LLMアプリケーションをPoC・運用している企業が集い、各社が取り組んでいるLLM Opsの工夫などの実践的な内容についてLTが行われる。

　参加対象は以下の通り。

• LLMアプリケーション開発の最新トレンドを知りたい人
• LLM Opsについて他社事例などを詳しく知りたい人
• LLMアプリケーションを開発して運用している、またはしようとしているプロダクトマネージャー、エンジニア

　開催日時は2月29日の19時30分～21時（10分前から入室可能）で、Zoomを使用して行われる。参加にはイベントページから事前の申し込みが必要となる。

　LTの内容は以下の通り。

「toB SaaSスタートアップにおけるドメインエキスパートと一緒に進める生成AI/LLM機能開発とそれを支えるLLMOpsの取り組み」株式会社ログラス

　ログラスでは生成AI／LLMを用いた開発、社内生産性改善に取り組む専任チームを組成しており、先日新たな機能として「分析アシスタント（β版）」をリリースした。LTではLLM機能開発の裏側として、ドメインエキスパートと協働するプロセス、さらにそれらの動きを支えるLLMOpsに関する取り組みや工夫を紹介する。

「ヘルスケアコンパウンドスタートアップにおける生成AI利活用事例 / LLMOpsに向けた取り組みと、それらを支える全社データ基盤のご紹介」株式会社MICIN

　MICINは4つの事業と10個以上の本番プロダクトを展開している。これらのプロダクト群で効率的なデータ利活用を実現し、生成AIを用いたサービスをユーザーに提供するために全社データ基盤／ML基盤を構築した。LTではこれらのデータ基盤／ML基盤を構築したデータエンジニアおよびプロダクトマネージャーがその取り組み概要を紹介する。

「薬剤師のチャットサジェストの評価と実験管理の本番運用」PharmaX株式会社

　PharmaXは、オンライン完結で医薬品を購入することが可能なオンライン薬局を運営している。PharmaXでは、薬剤師がチャットする内容をLLMでサジェストするシステムを本番運用しており、LTではその運用で得た知見や評価と実験管理の工夫について語る。