バックオフィスで「ローカルLLM」は何ができるか ― 主要モデル横並び比較と導入手順【AI×BPOラジオ #65】

AI×BPOラジオ第65回。 AIとBPO・バックオフィスの交差点を掘り下げる番組です。 今回のテーマは「バックオフィスで“ローカルLLM”は何ができるか」。 ―― ローカルLLMとは、 自分のパソコンや社内サーバーの中だけで動かすAIのこと。 機密を外に出さず、 ネットや規制で止まっても動き、 使い倒しても定額。 ▼ 今回のチャプター 00:01:04 オープニング ― 今日の流れ(+7月開講「バックオフィスAI研修」のご案内) 00:05:28 章1 そもそもローカルLLMとは ― クラウドAIと何が違うのか 00:08:09 章2 何ができて、 何が苦手か ― ローカルLLMの実力 00:10:48 章3 主要モデル横並び比較 ― Gemma 4・Phi・国産・Qwen3 00:16:45 章4 どう動かすのか ― 実行環境と必要なハード 00:20:37 章5 導入の手順と活用事例 00:23:27 章6 落とし穴 ―「オンプレ=安全」ではない 00:25:58 まとめ ―“止まらない・漏れない”バックオフィスへ ▼ 出演 田中(AI・DX担当) 松村(管理のプロ 代表) ▼ 7月開講「バックオフィスAI研修」(法人向け・モニター募集) 経理などバックオフィスの基礎知識から、 実際のAI活用・実装までをレベル別に学べる法人向けプログラムを2026年7月に開講します。 本動画をご覧の方はモニター価格でご案内。 詳しい資料は管理のプロのホームページからダウンロードいただけます。 ▶ お問い合わせ・資料請求: https://www.kanri-pro.com/ ▼ 参考(出典) ・総務省・経済産業省「AI事業者ガイドライン(第1.2版・2026年3月)」  https://www.soumu.go.jp/main_sosiki/k... ・金融庁「AIディスカッションペーパー(第1.1版・2026年3月)」  https://www.fsa.go.jp/news/r7/sonota/... ・Google「Gemma」公式  https://ai.google.dev/gemma ・Alibaba「Qwen3」公式ブログ  https://qwenlm.github.io/blog/qwen3/ ・Stockmark(国産LLM・業務特化)公式  https://stockmark.co.jp/ ・那須赤十字病院 × リコー ― 院内生成AIで退院時サマリ自動作成(EnterpriseZine)  https://enterprisezine.jp/article/det... ・NTTデータ先端技術 ― ローカルLLMで金融システム設計書の整合性チェック(PR TIMES)  https://prtimes.jp/main/html/rd/p/000... ・グラファー ― 個人情報を社外に出さない書類処理(ローカルLLM活用技術)  https://graffer.jp/news/7414 ・NTTテクノクロス「tasokarena」ローカルLLM版(マスキング)  https://www.ntt-tx.co.jp/whatsnew/202... ・インテック ― オンプレミス環境のローカルLLM導入支援(2026/1/29)  https://www.intec.co.jp/news/2026/012... ※ NTT「tsuzumi 2」/Microsoft「Phi」/「Sarashina」(SB Intuitions)/楽天「Rakuten AI 3.0」は各社公式発表に基づく。 仕様・性能は2026年6月時点で、 変化が速いため視聴時点の最新もご確認ください。 【⬇️プロフィール⬇️】 株式会社管理のプロ 代表。 管理部門に特化したプロシェアリング事業を展開。 経理BPO事業・管理部門向けのDX/AI研修サービスを通じてバックオフィス強化をご支援しています。 AIでの業務効率化が得意な会社です。 【⬇️チャンネル登録⬇️】 @管理のプロ 【⬇️サービスサイト/お問い合わせ⬇️】 https://www.kanri-pro.com/ #AI #BPO #バックオフィス #DX #ローカルLLM #生成AI #RAG #Gemma #tsuzumi #Qwen #量子化 #オンプレAI #DX推進 #ポッドキャスト #管理のプロ

【国産AIモデルに勝機あり】クラウドのAIが止まったら、あなたの業務は回りますか? ― Sakana・国産LLMで作る"止まらない" 設計|AI×BPOラジオ #62
▶︎

【国産AIモデルに勝機あり】クラウドのAIが止まったら、あなたの業務は回りますか? ― Sakana・国産LLMで作る"止まらない" 設計|AI×BPOラジオ #62

【Claude Code完全入門】誰でも使えるツール/実行革命/ChatGPTとの違い/5体のAIエージェントで実演/願望の質=アウトプットの質/Skills活用法/経営者こそ使うべき/言語化が全て
▶︎

【Claude Code完全入門】誰でも使えるツール/実行革命/ChatGPTとの違い/5体のAIエージェントで実演/願望の質=アウトプットの質/Skills活用法/経営者こそ使うべき/言語化が全て

【中島聡vs天才AI技術者】8割が失業?民主主義に革命?AI時代の生存戦略【ReHacQ】
▶︎

【中島聡vs天才AI技術者】8割が失業?民主主義に革命?AI時代の生存戦略【ReHacQ】

A Complete Guide to the Local LLM I’m Most Excited About! An AI Pro’s Perspective on Running LLMs...
▶︎

A Complete Guide to the Local LLM I’m Most Excited About! An AI Pro’s Perspective on Running LLMs...

AI 최후의 승자 이래서 구글입니다 (KAIST 전자및전기공학부 김정호 교수)
▶︎

AI 최후의 승자 이래서 구글입니다 (KAIST 전자및전기공학부 김정호 교수)

【Claude徹底解説】Anthropicとは?/法人市場での強み/アルトマンと不仲な理由/広告は入れない/SaaS暴落の3要因/生き残りが難しいSaaS/OpenAI、Geminiに勝つか
▶︎

【Claude徹底解説】Anthropicとは?/法人市場での強み/アルトマンと不仲な理由/広告は入れない/SaaS暴落の3要因/生き残りが難しいSaaS/OpenAI、Geminiに勝つか

【安野貴博xPKSHA上野山勝也】AIネイティブ時代の生存戦略/地頭はAIに食われる/残るのは欲望する力だ | Startup Aquarium 2026
▶︎

【安野貴博xPKSHA上野山勝也】AIネイティブ時代の生存戦略/地頭はAIに食われる/残るのは欲望する力だ | Startup Aquarium 2026

【Claude「Fable 5」が悪い前例に】もはや限定公開が“名誉”「GPT‑5.6も新型Geminiもミュトス以下に」今井翔太/AIバブル崩壊か/トランプ政権の「規制基準は謎」【AI QUEST】
▶︎

【Claude「Fable 5」が悪い前例に】もはや限定公開が“名誉”「GPT‑5.6も新型Geminiもミュトス以下に」今井翔太/AIバブル崩壊か/トランプ政権の「規制基準は謎」【AI QUEST】

AI時代のBPR完全解説 | AIを入れる"前"に業務を作り直せ ― 成果が出る企業6%の共通点【AI×BPOラジオ #61】
▶︎

AI時代のBPR完全解説 | AIを入れる"前"に業務を作り直せ ― 成果が出る企業6%の共通点【AI×BPOラジオ #61】

【AIで雇用破壊のウソ:ホワイトカラーが今後も稼げる理由】ブルーカラー富者のウソ/10年で消えると言われて残っている仕事/薬剤師はなくなる/非正規ホワイトカラーは激減/素人がプロ級に/営業はホワイト化
▶︎

【AIで雇用破壊のウソ:ホワイトカラーが今後も稼げる理由】ブルーカラー富者のウソ/10年で消えると言われて残っている仕事/薬剤師はなくなる/非正規ホワイトカラーは激減/素人がプロ級に/営業はホワイト化

AWS認定AIプラクティショナー(AIF)試験対策トレーニング
▶︎

AWS認定AIプラクティショナー(AIF)試験対策トレーニング

機密情報をGoogle DriveやAIに乗せていい?― 禁止より「線引き」の技術|AI×BPOラジオ #72
▶︎

機密情報をGoogle DriveやAIに乗せていい?― 禁止より「線引き」の技術|AI×BPOラジオ #72

【保存版】マニュアル作成 完全ガイド ― 無料ツール〜AI自動生成まで5段階|AI×BPOラジオ #69
▶︎

【保存版】マニュアル作成 完全ガイド ― 無料ツール〜AI自動生成まで5段階|AI×BPOラジオ #69

LayerXのシリーズB調達を振り返る。AI時代のスタートアップとは(feat. オフレコ対談) #LayerX #スタートアップ #資金調達
▶︎

LayerXのシリーズB調達を振り返る。AI時代のスタートアップとは(feat. オフレコ対談) #LayerX #スタートアップ #資金調達

Can You Actually Use Local LLMs with Codex for AI Coding?! Testing Their Performance
▶︎

Can You Actually Use Local LLMs with Codex for AI Coding?! Testing Their Performance

Ilya Sutskever – We're moving from the age of scaling to the age of research
▶︎

Ilya Sutskever – We're moving from the age of scaling to the age of research

【Claude「80倍成長」でAIインフラが限界】イーロン・マスクのスペースXはアンソロピックの“救世主”/需要予測はOpenAIが一枚上手/今井翔太「ラピダス計画は正しかった」【AI QUEST】
▶︎

【Claude「80倍成長」でAIインフラが限界】イーロン・マスクのスペースXはアンソロピックの“救世主”/需要予測はOpenAIが一枚上手/今井翔太「ラピダス計画は正しかった」【AI QUEST】

기업이 꼭 알아야 할 '온톨로지'의 모든 것 (김학래 중앙대 교수)
▶︎

기업이 꼭 알아야 할 '온톨로지'의 모든 것 (김학래 중앙대 교수)

[This is what you can do] How Microsoft employees use Copilot Cowork
▶︎

[This is what you can do] How Microsoft employees use Copilot Cowork

【Claude Code実演】要件定義から実装・修正まで。AI開発の全工程を公開
▶︎

【Claude Code実演】要件定義から実装・修正まで。AI開発の全工程を公開