今回のジョーシスラーニングでは、「話題のChatGPTで実現する情シスの業務効率化」をテーマにお送りします。

法人向けChatGPT活用プラットフォーム「法人GAI」をリリースした株式会社ギブリー取締役の山川雄志さん、社内IT改善をミッションにコーポレートエンジニアを勤めるSTORES株式会社の中野達也さんをお招きし、ChatGPTの基本から、実務でも活用できるテクニックまで解説していただきます。

ChatGPTの業務活用を検討中の方はぜひご覧ください。

＜スピーカー＞

1. 山川雄志｜株式会社ギブリー 取締役
2. 中野達也｜STORES株式会社 IT本部マネージャー

ChatGPTとは何か、基本的な使い方について

株式会社ギブリーの山川さんより、そもそもChatGPTとはどういったサービスなのかについて、基本的な使い方を含めて解説いただきました。

ChatGPTとは

山川さん
そもそも「GPT」とは何かというと、Generative Pre-trained Transformer（ジェネレーティブ・プリ・トレーニド・トランスフォーマー）の略で、大量のデータから言語学習を行い、人間にとても近い自然な文章を生成できるテクノロジーのことです。

これまでのRPAやチャットボットというのは、ある程度決まった条件に基づいて行うような、いわゆるルーティン業務を中心とした作業の自動化にとどまっていました。

一方、ChatGPTでは、今まで人間が考えて工夫して行っていたことも自動化することができます。たとえば、プレゼンやスピーチの原稿作成や、取引先へメール返信、長文や複数の資料からその意図を理解することまでも可能です。

従来AIと呼ばれていたものはあくまでも機械学習の領域で、あらかじめデータセットが必要だったのですが、ChatGPTを使えばクリエイティビティが高いこともどんどん実現できるようになります。

こうしたGPTの活用が実際に労働市場に出てきたことで、「人間の仕事を奪うのではないか」とか、「◯◯の仕事がなくなるのではないか」といったことが、センセーショナルな出来事としてメディアでも盛んに取り上げられ始めています。

実際、すでに企業によっては自社専用のChatGPT環境を開発してリリースするといった動きも出てきました。特に民間企業だけではなく、自治体や行政機関もスピーディーにこの技術を取り入れ始めているというのが今までにない流れです。

ビッグテックの動向

2023年3月1日にGPT-3.5-turboのAPIが公開されたのが大きな出来事でした。そこでAPIの規約がアップデートされたことで企業での導入が進んだのです。具体的にいうと、「APIを活用して会話した内容は、大規模言語モデル（LLM）の学習に使いませんよ」という規約にアップデートされたんです。

それまではAPIを活用した場合でも会話内容は大規模言語モデルの学習に使われるということだったので、さすがに業務利用はNGと判断する企業が多かったわけです。しかし、APIの規約がアップデートされたことでChatGPTの技術を使ったサービスが次々に登場しています。

現在、世界中で1日1,000〜2,000くらいの単位でサービスが登場しています。こうしたサービスのリリースやChatGPTの最新動向などは、国内でも毎日のようにニュースで取り上げられているといった状況です。

最近ではMicrosoftが「Microsoft 365 Copilot」を発表しました。これによってExcelでマクロや関数を組む際も自然言語で指示できたり、テキストで入力するだけでPowerPointのスライドが生成されたりするでしょう。

他にも、Open AIのChatGPTプラグインを使えばいろいろなことができるようになります。たとえば、旅行プラットフォームのExpediaのChatGPTプラグインを使えば、わざわざ検索設定しなくとも、自然言語で行き先を探すことができるようになります。検索行動というユーザ体験はもちろん、データベースの作り方そのものが変わっていく未来は想像に難くありません。

ChatGPTの活用したサービスジャンルは多岐に渡り、今やあらゆる業務の自動化を実現しています。リリース当初はソフトウェアの開発支援としてソースコードのレビューがメインでしたが、現在はさらにビジネスサイド寄りになってきているので、契約書の生成の自動化であったり、求人票の作成の自動化だったりといったことまで対応可能です。

そして今後はマルチモーダル化することで、3Dプリンターと連携してモノの制作すら自動化していくでしょう。こうした技術が一般化されたときには、今以上のインパクトがもたらされるかと思いますね。

ChatGPTをどのようなところで活用できるか

山川さん
ここまでお伝えしたとおり、ChatGPTは今後ますます我々のビジネスに変革をもたらしていくと考えられますが、もう少し目先のところではどのようなことに活用できるかというのを情報システムの観点でお伝えしたいと思います。

たとえば、社内日程調整や問い合わせのFAQ化、マニュアルの生成といったことも対応できると思います。その他にも、日本語で指示をしただけでソースコードの記述を教えてくれるので、開発リソースや開発工数の削減にもつながります。

また、API連携の際に必要な情報なども教えてくれるため、APIのリファレンスを見るのに慣れてない方でも、ChatGPTの回答を参考にしながら連携を進めることができます。

ChatGPTの活用を含むAPI連携やIT資産管理の自動化・効率化については、SaaS時代におけるIT資産管理の重要性で実際の事例とともに分かりやすく解説していますので、ぜひご覧ください。

Chat GPTを使った社内アシスタントBOTを作りました

STORES株式会社の中野さんより、Chat GPTを使った社内アシスタントBOTの開発事例を解説いただきます。

どんなボットを作ったのか？

中野さん
今回私のほうでは、Slackで質問を投げかけると社内のドキュメントを読み込んで回答してくれるBOTを作成しました。たとえば、「恵比寿オフィスの住所を教えて」とBOTにメンションを付けて投稿するとオフィスの住所や地図を教えてくれます。

その他にもウォーターサーバーの取り替え方法だったり、住所変更の手続き方法だったりといった、総務や労務に問い合わせる質問も自動的に回答してくれます。

こうした社内BOTがあることで、社内のドキュメントを探すコストが低下します。「ヘルプデスク対応に時間が取られてしまって本来やるべき業務に時間が取れない」といった状況において、課題解決につながるソリューションだと思います。

たとえば、ヘルプデスク側でどんなに頑張ってドキュメントを書いても、結局質問が来てしまうということって情シスだと良くある話だと思います。そうなると結局ドキュメントを書くことが無駄に感じてしまい、モチベーションが上がらないなんてこともありそうです。

しかし、ユーザー側からすると「ドキュメントを見つけられないから、質問するしかない」と感じている可能性もあります。ですから、社内BOTを作ることでドキュメントを見つけやすくして、ドキュメントを書くメリットを高められれば、モチベーション維持にもつながると思っています。

また、シャドーITの可視化やSaaS利用状況管理を効率化する手法については、シャドーIT管理はジョーシスのブラウザ拡張で効率化で具体的な機能と運用方法を紹介しています。

ユーザー視点から仕組みを解説

中野さん
今回開発した社内BOTですが、特別な設定などはまったく行なっていません。実際にはプロンプトをいじっているだけで、非常にシンプルな仕組みとなっています。

たとえば「パソコンがなにもしてないのにこわれました」というプロンプトを投げることで、ChatGPTが「パソコンが故障した場合は、情シスに相談してください」という回答するんですけれども、これはあらかじめプロンプトに「パソコンが故障した場合は、情シスに相談」という情報を入れてるだけです。

ここで、「それならプロンプトの情報部分に読み込ませたい内容をすべて入れればいいのではないか？」と疑問を持たれる方もいるかと思います。しかし、この場合はNGとなります。その理由としては、ChatGPTにはトークン数（文字数）の上限があるためです。

ChatGPTのAPIで使うトークン数はモデルによって異なりますが、GPT-3.5の最大トークン数は4,096トークンです。日本語では大体2,700文字ですので、質問などを含めたテキストを考慮すると、情報に入れられるのは実質2000文字程度ということになります。トークン数はOpenAI内にある「tokenizer」で計算することが可能です。

また、たくさんの記事の中からどうやって特定の文章や情報を取得するのかというと、そこで大事になってくるのが「Embedding」という仕組みです。日本語に訳すと「埋め込み」を意味しますが、ざっくりいうと文章をベクトルに変換することを指します。

たとえば、「パソコンが壊れた」という問題に対して、『パソコンに関するベクトル』と『故障に関するベクトル』を持ったベクトルに変換するというイメージです。

これによって、特定の文章を取得する際は、質問のベクトル情報と事前に登録しておいたドキュメントのベクトル情報を探せばOKということになります。今回の例でいえば、「パソコンが壊れた場合は情シスに相談する」というベクトル情報になります。

全体の流れを整理しますと、ユーザーがSlackに質問を投げると、SlackにChat GPTに対してEmbeddingをします。するとChatGPTがSlackに対してベクトル情報を提供するように指示します。

すると、SlackのBOTがベクトル特化型DBにアクセスして情報を引っ張ってきて文章を作成するので、その文章をユーザーに返答するという流れになります。

事前にベクトルデータをDBに入れておく際のポイント

中野さん
ベクトルデータをデータベースに入力するには、まずは大きな文章を分割してトークンを少なくします。目安としては1000トークン程度にしてください。続いて、分割したドキュメントをEmbeddingにかけると、ベクトルと文章を「ベクトル特化型DB」に格納してくれます。

ベクトル特化型DBに格納されることで複数の情報源の組み合わせが可能になります。たとえば、1番目にベクトルが近い文章、2番目にベクトルが近い文章、3番目に……、といったように、4,000トークン内であれば複数の文章を与えることが可能です。

まとめますと、社内アシスタントBOTの仕組みは、プロンプトに情報欄を作って、社内のドキュメント情報を渡しているだけということになります。事前準備として、ドキュメントを細かく分割してベクトルDBに入れておく必要があります。

質問時には質問内容をベクトル化してEmbeddingする、質問内容のベクトルを使ってベクトルDBから近い情報を収集する、そして情報を含めてchatGPTに質問を投げることで、chatGPTが回答できるようになります。

社内アシスタントBOTを作成する際の最重要ポイントは、「ベクトルDBに格納するドキュメントの管理」です。どのようにドキュメントを作成するか、ドキュメントの保存方法、さらに変更や削除の際はどうするかなど、あらかじめルールを決めておくことが大切です。

QAセッション

最後に、読者からいただいた質問に対して、山川さんと中野さんから回答していただきました。ここでは、3つの質問をピックアップしてご紹介します。

ChatGPTはセキュリティ面が不安。どのような対策をするべきか？

山川さん
ChatGPTのセキュリティリスクに関しては、大きく2つのタイプに分けられると思っています。1つ目は学習モデルに使われてしまうリスク、2つ目は情報漏えいのリスクです。

学習モデルに使われるリスクに関しては、APIを使えば学習モデルに使われることはないとOpenAIの利用規約によって定められていますし、オプトアウト申請を個別に行うことで、不用意に学習モデルに使われるリスクを防ぐことができます。

ChatGPTを普通に業務利用してしまうと学習モデルに使われてしまうため、そこだけは情報の取り扱いに気をつけて頂きたいですが、APIさえ利用すれば基本的に問題ないというのが当社の認識です。

ただし、ChatGPTを使ったWebサービスが次々と登場していますが、なかにはあえて学習モデルに使わせているサービスがあるかもしれません。ですから、当該サービスの利用規約は必ず確認したほうが良さそうですね。

2つ目の情報漏えいリスクに関してですが、クラウドにデータを保存する以上はヒューマンエラーも含めて情報漏えいの可能性はゼロとは言い切れません。そのため、企業ごとのレギュレーションに沿って本当に使うべきかどうか慎重に検討すべきでしょう。

中野さん
ChatGPTをはじめ、AIを活用する際のガイドライン策定は必須だと考えています。やはり企業としては、知らない間に社員が利用したり、勝手に情報が学習データに使われたりするのが一番のリスクだと思いますので、そうしたリスクを防ぐためにもまずは社内ガイドラインの策定がファーストステップです。

また、ChatGPTのAPIを経由して送信されたデータに関しては、原則学習に利用されないものの、30日間はクラウド上にデータが保持されると記載があります。その辺りの扱いをどうするかは法務の担当者と相談しながら進めるのが良いかと思います。

山川さん
その30日というのも申請が必要で、申請してもなかなか許可がおりないこともあるようなんですよね。今後状況も変わると思うのですが、現状は許可に時間がかかることもあるため、それも踏まえて進めていくのが望ましいですね。

ChatGPTの利用に伴う情報漏洩リスクやアクセス管理の重要性、実際の事故例と防止策については、情報漏洩リスク：退職者アカウント放置が招く問題で詳細に解説しています。安全な活用に向けた運用ルール策定にも役立つ内容です。

ChatGPTではプロンプト入力が肝。テクニック的な要素は？

山川さん
「300文字で教えてほしい」とか文字数を指定すると良いですね。他には、「提示した数字に絶対変更を加えないでほしい」だったり、何かの回答をもらう場合は「エビデンスとしてソースを出して欲しい」などの指示を与えることも有効です。

このように、プロンプトを入力する際に条件や制約をきちんと提示してあげると回答精度が高くなります。

中野さん
私自身、今回の社内アシスタントBOTを作成するにあたって、ChatGPTをめちゃくちゃ使いましたね。そもそもベクトルなどまったく知識がありませんでしたので、わからないことだらけのなかで、ChatGPTを使って言葉の意味を質問したり、「こういうコードを書きたいんだけどどうしたらいい」と質問したりして開発を進めていきました。

むしろChatGPTがなければ作れなかったですね。お陰で最初から最後まで一人で開発をやり遂げることができましたし、もはやChatGPTは開発に欠かせない存在だと感じました。

GPT-3.5とGPT-4の具体的な違いとは？

山川さん
単純にパラメータの数が全然違うという点が大きな違いですね。イメージでいうと小学生と大学生くらいの違いがあります。ただし対象によっては、GPT-3.5とGPT-4の違いを有効活用できるものと、そうではないものに分けられると感じています。

たとえば、ある程度与えられた情報を整えるくらいであればGPT-3.5でも十分だと思います。一方、与えたプロンプトから何かを考えて回答してもらうというレベルになるとGPT-4のほうがかなり精度が高くなります。用途にもよりますが、総じてGPT-4のほうが良いというのが私の見解ですね。

最近ではChatGPT以外にもGoogle BardなどのチャットAIサービスが次々に登場していますが、体感値としてはGPT-3.5レベルかなと感じています。

とはいえ、これもあくまでも現時点（2023年5月）の話でしかないので、来月にはOpenAIからGPT-4.5が登場するかもしれませんし、他社のさらに強力なAIサービスが登場するかもしれません。それだけAI領域は著しく進化しています。

特に今は海外が中心ですけれども、これから国内の大手ITベンダーなどが日本語の大規模言語モデルをリリースすることも大いに考えられます。ですから、まずは気になったものを全部試してみることが重要だと考えています。

まとめ

今回の「ジョーシスラーニング」では、株式会社ギブリーの山川さんと、STORES株式会社の中野さんをお招きし、ChatGPTの基本から具体的な開発事例まで解説いただきました。

読者のみなさんからの質問も含めて、話題のChatGPTの活用術について、中身の濃いお話を聞くことができたかと思います。

中野さんからもお話しいただいたとおり、ChatGPTをはじめとしたAIの活用は情報システム部門はもちろん、さまざまな業務の自動化を担う可能性を秘めています。むしろ、今後はAIをいかに活用できるかどうかが、ビジネス成長の鍵となるかもしれません。

もしChatGPTをまだ業務で使ったことがない、あるいは一人情シスで手元の業務が手一杯になっているといった場合は、今回の内容を参考にしていただけたら幸いです。