ユーザーの問いかけに対して自然な文章で回答できるChatGPTは、発表から2か月で約1億人が使用するなど、注目度は高いものがあります。
ここでは、ChatGPTの仕組みを簡単に説明した後、深掘りして解説します。
ChatGPTの仕組みには良い部分だけでなく問題点もあるようです。また、続々と新しい仕組みが発表されています。それらの点もご紹介していきます。
ChatGPTの仕組みとは？
実際にChatGPTを使うと、なぜわかりやすい文章で回答を返せるのか不思議に思う方も多くいるようです。ユーザーの質問に対してChatGPTが回答を用意する仕組みはおおまかに4つに分かれており、それらを支える要素も4つ存在します。
ここでは前者をわかりやすく説明し、次の部分で仕組みを支える要素4つを徹底解説します。
ユーザーの質問内容を品詞ごとに分ける
ChatGPTはユーザーが入力した質問内容をそのまま解釈できない仕組みのため、まず文章を名詞・同時・形容詞・助詞・格助詞などの品詞に区切ります。
たとえば「なぜ砂糖は甘い？」という文章の場合、「なぜ」「砂糖」「は」「甘い」「?」という形で分けていきます。
なお、IT業界では、ユーザーが入力する質問内容を「プロンプト」、品詞にあたるものを「トークン」と呼んでいます。
文章の構造や文脈を解析し理解する
トークンの中身や組み合わせ・順序などを、AIが学習してきた知識を元にして文章構造や文脈を解析します。
上述で取り上げた質問例では「なぜ」と「?」が含まれているため、ChatGPT側では何らかの事実について理由を問いかける文章だととらえて回答を用意するはずです。また、文脈の解析では会話の履歴にも着目する仕組みとなっています。
例えば、運転に関する質問をした場合、それまでの話題が自動車であれば自動車に関する運転、バイクに関しての話題であればバイクの運転と解釈するといった具合です。
ユーザーが期待する答えにマッチした品詞を生成
ユーザーの質問内容を把握すると、回答に用いるトークンを生成します。
このステップでは、過去に学習した内容から、回答に使われる確率が高いトークンが選ばれます。
学習内容が多いほど、精度の高いトークンを用意できるといえるでしょう。
品詞を組み合わせて文章を作成する
選ばれたトークンを画面に一つ一つ表示していきます。ChatGPTでは、回答の形式を指定できるため、文章として表示するだけでなく、表形式もできる仕組みとなっています。
各トークンをユーザーの希望に合わせてリアルタイムに組み合わせて表示するのがこのステップになります。
ChatGPTの仕組み徹底解説
ChatGPTでは前述のような方法でユーザーの要求に応えていますが、それらを成り立たせている仕組みが4つあります。
データセット
データセットとは、目的別に集められたデータの一群を指します。ChatGPTはWebサイトに掲載されている書籍や雑誌、ニュースや論文などからデータを収集し、回答に用いています。
主に使われているデータセットの一つが「Common Crawl Corpus」です。2008年以降のWeb情報が含まれる規模の大きいデータセットで、無料で使用できるものになります。
もう一つは、書籍を扱うテキストが掲載された「BooksCorpus」です。未発表の小説などが1万本以上載せられています。小説は、人の感情表現やストーリー展開などを学べる点がChatGPT側のメリットとなっているようです。
アルゴリズム
アルゴリズムとは、コンピュータ上で行う計算の手順ややり方を指します。
ChatGPTではインターネット上で学習したデータを元に、人が読みやすいと感じる文章作成が可能な「InstructGPT」と呼ばれる大規模言語モデルをベースとしたアルゴリズムの仕組みを用いています。
なお、InstructGPTにはフィードバック機能が搭載されています。人が事前に用意した正解データを元に、ChatGPTが出力した文章と比較しながら文章の良しあしを学習し、より精度の高い文章を生成していくことができます。
評価モデル
ChatGPTには、生成した文章が適切かどうか評価する仕組みが備わっています。評価対象の一つは正確性です。正しい情報を元に文章を作成できているかを評価しています。
また、ユーザーにとってその情報が役立つかどうか有益性も判断基準に入ります。加えて、人や環境を傷つける内容となっていないかといった倫理観も検証の対象です。
文章の良しあしはスコア化して表示し、人が評価に加わることなく、回答に至るまでの過程を完結する仕組みになっています。
学習方法
ChatGPTでは学習の仕組みを複数持っています。その一つが事前学習です。
最初に行われるのは大量のテキストデータの学習ですが、この学習課程を通して人が話したり書く文章に登場する単語の出現確率をモデル化する、つまり言語モデルを作成します。
言語モデルは、人が理解しやすい文章を生成するのに役立ちます。もう一つの学習方法が、ファインチューニングです。すでに構築した言語モデルに対して、特定のデータセットを学習させ、最適な文章の生成に役立つパラメータを調整する仕組みです。
さらに、評価モデルを使うことで、より適切な文章が生成できるようになっています。
ChatGPTの仕組みの問題点
ChatGPTは性能が高く何でもできるイメージがありますが、その仕組みには問題点も指摘されています。
最新の情報に関する回答は期待できない
ChatGPTの学習内容には最新の情報は含まれていません。そのため、比較的新しい情報についての回答を求めても、正確な内容ではない場合があり注意が必要です。
オリジナルのアイデアを得るのは難しい
ChatGPTは、これまで学習してきたデータをベースにして回答を作成する仕組みです。無から有を生み出すことはできないため、アイデア出しのためにChatGPTを使った場合、どこかで聞いたような答えばかりが提示される可能性もあります。
ただし、質問を工夫することで、複数のアイデアが組み合わされ、オリジナリティあふれる回答が得られることもあるようです。
誤った回答をする場合がある
ChatGPTはより多くのデータセットから学習を進めていますが、分野によっては情報量が少ないケースも見られます。また、学習データ自体が完璧でないこともあります。
学習データ自体が少ない場合は正答率が下がりやすく、間違った情報が混入している学習データがベースになっていると誤った回答が生まれる危険があります。
ChatGPTの仕組みの新機能！
ChatGPTの仕組みに関係する新機能は続々と登場しています。ここではその一例をご紹介します。
なお、新機能は有料版のみで使用できるものもあるため、無料版では使えない場合があります。
Custom instructions
2023年7月に出された新機能として「Custom instructions」が注目されています。
Custom instructionsは、ChatGPTがユーザーのニーズに合う回答をするのに役立つ機能です。
日本語で回答してほしい、初心者向けにわかりやすく答えてほしいなど、今までは質問事項に含めていた内容をあらかじめ登録しておけるのが、Custom instructionsの良いところです。
実際に質問する際は内容をシンプルにできますし、意図した回答を得やすくなるメリットがあります。
GPT-4V
2023年9月に発表された「GPT-4V」では画像入力ができます。つまり、画像認識能力が利用できるようになったということです。
このことにより、手書きで書いたメモなどを読み込ませてテキスト化することも簡単に行なえるようになりました。
また、音声による入力・会話・テキストなどの読み上げも可能です。なお、音声の機能を利用するにはアプリのインストールが必要です。
ChatGPTの仕組み・問題点・新機能まとめ
ChatGPTは大量のデータセットやアルゴリズム、評価モデルや複数の学習方法などを用いて、ユーザーのニーズに合った回答を生成する仕組みです。
それでも、最新情報や回答を求める分野によっては正確性が期待できないなどの問題点もあります。
ユーザーの使いやすさに直結する新機能も登場しているため、ChatGPTの仕組みをある程度理解し、賢い使い方ができるようになりたいものです。
