AIを“使う”から、企業の中で“育てる”時代へ。ローカルLLMの可能性を鈴木に聞きました。

近年、ChatGPTをはじめとする生成AIの普及により、私たちの仕事の進め方は大きく変わりつつあります。

文章作成、情報整理、コーディング、データ分析など、AIはすでに多くの業務で活用されるようになりました。

一方で、企業がAIを本格的に活用しようとしたとき、大きな課題になりやすいのが「機密情報」や「個人情報」の扱いです。

便利だから使いたい。
でも、会社の大切な情報をクラウド上のAIに入力するのは難しい。

そんな企業の課題を解決する手段として、いま注目されているのが「ローカルLLM」です。

今回は、7月16日に公開予定のTerraSky TVで厚切りジェイソンさんとローカルLLMについて対談した、Cuonのシニアコンサルタント／技術マネージャーである鈴木に話を聞いた

●対談動画

動画はこちらをクリック！

クラウドAIだけでは解決できない課題がある

• まず、CuonがローカルAI／ローカルLLM事業に取り組み始めた背景を教えてください。

■鈴木

もともとCuonでは、AIを使った開発を全社員で進めていました。

開発の中でAIをどう活用するのか、どうすればより良いものをつくれるのかというナレッジが、社内に少しずつ蓄積されてきていたんです。

その中で感じていたのが、これからAIがさらに普及していく中で、クラウド型のAIだけではなく、ローカル環境で動くAIも必要になるだろうということでした。

クラウド型のAIは非常に便利です。
ただ、会社の機密情報や個人情報、場合によっては医療情報のようなセンシティブな情報を扱う場合、外部のクラウドサービスにそのまま入力することが難しいケースもあります。

また、AIを使ったコーディングや業務支援は便利な反面、使い方によっては費用が大きくなることもあります。

そうした課題を解決するために、企業ごとの環境に合わせて提供できるローカルAIの事業を立ち上げました。

ローカルLLMとは、企業の中で動く“専用AI”

• そもそも「ローカルLLM」とは、簡単に言うと何ですか？

■鈴木

簡単に言うと、インターネット上のサービスとして使うAIではなく、自社の環境や手元の環境で動かすAIです。

ChatGPTのようなクラウド型AIは、ブラウザやアプリからすぐに使える便利さがあります。一方で、会社の機密情報や個人情報、契約書、図面、人事情報、医療情報のようなセンシティブな情報を扱う場合、外部のクラウドサービスにそのまま入力することが難しいケースもあります。

ローカルLLMは、そうした情報を外に出さず、自社の中で扱えるようにするための選択肢です。

クラウド型AIが「外部の優秀なAIサービスを使う」ものだとすれば、ローカルLLMは「自社専用のAIを社内に持つ」ものに近いと思います。

企業がローカルLLMを使うメリット

• ChatGPTのようなクラウド型AIと、ローカルLLMは何が違うのでしょうか？

■鈴木
クラウド型AIは、すぐに使える手軽さが大きな魅力です。Webブラウザやアプリがあれば使えるので、導入しやすいですよね。

一方でローカルLLMは、企業の中にAIを置くイメージです。

自社のサーバーや専用環境にAIを組み込み、社内データとつなげることで、会社専用のAIとして活用できます。

たとえば、契約書、図面、社内マニュアル、過去の問い合わせ履歴など、外部に出しづらい情報をAIに参照させながら、分析や整理、提案につなげることができます。

会社の中には、価値のある情報がたくさんあります。
でも、その多くは機密性が高く、気軽にクラウドAIへ入力することはできません。

ローカルLLMを使えば、そうした情報を自社の環境内で蓄積・分析し、業務に活かすことができます。

単にチャットで質問に答えるだけではありません。
たとえば、届いたメールを分析して返信案を作る。社内資料から必要な情報を探す。過去のマニュアルをもとに次のアクションを提案する。

こうした、いわゆるエージェント的な使い方も広がっていくと考えています。

AIを会社の中に置くことで、企業専用の“頭脳”のような存在をつくれることが、ローカルLLMの大きな可能性です。

なぜ今、ローカルLLMが注目されているのか

• ローカルLLMが注目されている背景には、どんな変化がありますか？

■鈴木
AIがどんどん身近になってきたことで、企業の中でも「もっと業務に深く組み込みたい」というニーズが増えています。

最初は、文章を作る、調べものをする、要約する、といった使い方が中心でした。
でも今後は、AIがメールを分析して返信案を作ったり、社内の情報を整理したり、業務の判断を支援したりするような、エージェント的な使い方が増えていくと思っています。

そうなると、AIに扱わせる情報もより重要になります。

会社の内部情報や個人情報を扱う場面が増えるからこそ、外部のクラウドではなく、自社の中で動かせるAIの価値が高まっているんです。

最近は、スマートフォンなど身近なデバイスでもAIを活用する流れが進んでいます。
クラウド上のAIを使うだけでなく、自分の手元や企業の中にAIを持つという考え方は、今後さらに広がっていくと思います。

導入のハードルは高い。だからこそ、技術者の支援が必要になる

• 一方で、ローカルLLMならではの難しさもありますか？

■鈴木
あります。

ローカルLLMは、普通のPCで簡単に動くものではありません。AIに適した形で環境を整える必要がありますし、場合によってはGPUを組み込んだ専用のマシンや設備も必要になります。

クラウド型のAIと比べると、導入のハードルは高いです。

また、AIの開発スピードは非常に速いので、どのローカルLLMを選ぶのか、どのバージョンを使うのか、どのように企業の業務に組み込むのかといった判断も重要になります。

技術的な環境づくりや運用設計は、社内だけで進めるには難しい部分も多い。だからこそ、私たちのようにAI活用とシステム開発の両方を理解している存在が必要になると考えています。

身近な使われ方は、会社専用のパーソナルアシスタント

• 「ローカルLLM」と聞くと難しそうですが、身近な例で言うとどんな使われ方が考えられますか？

■鈴木
分かりやすい例で言うと、会社専用のパーソナルアシスタントです。

社内の資料を探してくれる。
過去の契約書やマニュアルをもとに、必要な情報をまとめてくれる。
届いたメールの内容を分析して、返信案を作ってくれる。
製造現場であれば、機械の使い方や過去のトラブル対応を教えてくれる。

こうしたことが、自社の情報を外に出さずにできるようになります。

将来的には、1人1人が専属の秘書を持つような感覚に近づいていくと思います。

AIを使うことで、調べる、整理する、考える、作るといった作業の時間を短縮できる。
つまり、AIを使うことは「時間を買うこと」でもあるんです。

製造業には、大きな可能性がある

• ローカルLLMの活用先として、特にニーズが高いと感じている業界はありますか？

■鈴木
製造業はかなりニーズが高いと思っています。

工場はネットワークが不安定な環境もありますし、機械も多く、現場ごとのノウハウが属人化しているケースも少なくありません。

いろいろな機械の使い方、製造工程、点検方法、過去のトラブル対応など、本来はデータ化できる情報が、まだ紙のマニュアルや人の経験に頼っていることもあります。

そうした現場の知識をAIに蓄積し、データ化・頭脳化していくことで、現場の業務は大きく変わる可能性があります。

大手企業ではすでに取り組みが進んでいるところもあると思いますが、日本の中小企業では、まだまだこれからです。

ローカルAIは、そうした企業の現場を支える技術になっていくと考えています。

Cuonには、AIを“実装する”ための知見がある

• Cuonだからこそ提供できる価値は、どのようなところにあると思いますか？

■鈴木
Cuonでは、もともとAIを使った開発を全社員で進めています。

ただAIを触っているだけではなく、お客様と一緒に「AIをどう使うのか」「どう業務を良くしていくのか」を考えながら開発しています。

AIは単体で価値を生むというよりも、業務やデータと組み合わせて初めて本当の価値を発揮します。

だからこそ、データとAIをどう組み合わせるかが、これからの企業戦略の要になると思っています。

Cuonには、そのナレッジがあり、実装できる環境と人員もいます。そこが強みです。

AIは、時間を買うための技術

• 鈴木さん自身は、AIのどこに一番可能性を感じていますか？

■鈴木
AIを使うことで、量も質も上げられることです。

AIを使っていなかったときと比べて、仕事のスピードは大きく変わりました。調べる、整理する、考える、つくる。その一つひとつの時間を短縮できます。

僕は、AIを使うことは「時間を買うこと」だと思っています。

これからは、1人1人が秘書を雇えるような感覚に近づいていくと思います。自分の作業を支えてくれる存在がそばにいる。そのメリットは非常に大きいです。

昔から新しい技術を学び続けてきた鈴木が、いまAIを技術の主軸に置く理由

• 鈴木さんは、いつ頃からAIに関心を持っていたのでしょうか？

■鈴木
昔からAIは勉強していました。

もともとは情報処理の時代からITに関わってきました。
NECやオラクルなどで経験を積み、NTTや富士通のような大企業に新しい技術を伝えに行っていたこともあります。

当時は、海外から新しい技術が入ってきても、すぐに受け入れられるわけではありませんでした。
だからこそ、新しい技術をどう世の中に広めていくかということに向き合ってきました。

AIについても、以前から論文を読んだり、勉強したりしていました。

ただ、AIを自分の技術の主軸に置こうと思ったのは、人間と変わらないようなレスポンスが返ってくるようになったタイミングです。

以前のAIやチャットボットは、どうしても不自然な部分がありました。
でも、今の生成AIは文脈を読んで返すことができます。

自然な言葉を理解し、自然な言葉で返してくれる。
その瞬間に、「これは本格的に普及する」と感じました。

今では、仕事でもプライベートでも、日々の生活の中で10時間以上AIを使っています。
新しい技術を追求することが好きですし、世の中に広めていきたいという思いがあります。

ローカルLLMを世に広げていくという考え方は、自分自身の考えとも非常に合っています。

TerraSky TVで、ローカルLLMの可能性を発信

今回、鈴木はTerraSky TVに出演し、厚切りジェイソンさんとローカルLLMについて対談しました。

ローカルLLMという言葉は、まだ一般的にはあまり馴染みがないかもしれません。

しかし、AIがより業務の中に入り込み、企業ごとのデータやノウハウを活用する時代になれば、その重要性はさらに高まっていきます。

今回の対談は、ローカルLLMという技術をより多くの方に知っていただくための機会でもあります。

また、Cuonでは今後、AIを活用したイベントへの出展も予定しています。
ローカルLLMの可能性を、より多くの企業や学生の皆さんに届けていきたいと考えています。

挑戦心と探求心がある人と、一緒に働きたい

• 最後に、AIやデータ領域に興味を持っている学生や候補者にメッセージをお願いします！

■鈴木
これからAIは、どんどん便利になっていきます。

ただ、それを本当に使いこなすためには、技術力が必要です。そして何より、「やってみたい」という挑戦心が大切だと思っています。

AIやデータの領域は、これからさらに需要が増えていきます。

だからこそ、探求心や勉強心を持っている人には、ぜひこの領域に飛び込んできてほしいです。

Cuonとしても、新しい技術に興味を持ち、自分から学び、挑戦していける人たちと一緒に働きたいと考えています。

AIをただ使うだけではなく、企業の中でどう活かすのか。
データとAIを組み合わせて、どんな価値を生み出せるのか。

その問いに向き合いながら、私たちはローカルLLMの可能性を広げていきます。