OpenAIの印象的なジェネレーティブAI LLMであるGPT-3の立ち上げも、デジタルヒューマン会話の転換点を示しました。その方法をご紹介します。

この記事は、もともとGPT-3の発売後の2020年9月に投稿されました。
GPT-3の驚異的なディープラーニングスキルは、最近ベータ版でリリースされた後、テクノロジーコミュニティの想像力をかき立てました。すでに、魅力的な会話を生み出したり、フィクション作品を書いたり、ウェブページをデザインしたりするのに数分で使われています。しかし、GPT-3 は会話型 AI インタラクションの現在と未来にとってどのような意味を持つのでしょうか。コンピュータービジョンと機械学習のシニアデベロッパーに聞いてみたところ、 アミール・ハジラ・スーリハ、説明するために。
***
ジェネレーティブ・プレ・トレーニング・トランスフォーマー3(GPT-3)は、第3世代のトランスフォーマーです OpenAI が開発した GPT モデル。GPT-3 はトランスフォーマーベースのディープラーニングニューラルネットワークアーキテクチャを採用しており、Wikipedia や書籍など、インターネットで入手可能なデータセットから得られた 45 TB のテキストデータで学習しています。
使用する 1 つの見積もりこれは、モデルを訓練するためのデータとして使用された約34億ページのテキスト、つまり約270万部の「戦争と平和」に相当します。
GPT-3 は言語モデルです。つまり、テキスト内の単語の論理と概念を理解して、ある文が文脈の中で意味を持つ可能性を予測するように訓練されています。
GPT-3のアーキテクチャは目新しいものではありません。グーグル BERT や Microsoft Turing NLG といった以前の言語モデルと似ていますが、GPT-3 はこれまでに作られた中で最大のモデルです。グーグルのBERTには1億1000万のパラメーターしかなく、マイクロソフトチューリング-NLGには170億のパラメーターがあるのに対し、GoogleのBERTには1,750億のパラメーターがあります。
ニューラルネットワークパラメータは、ネットワークのノード(または接続)の重みであり、トレーニングプロセス中に学習および最適化されます。このような複雑なネットワークをトレーニングするには、非常に時間と費用がかかります。GPT-3 モデルの学習コストは以下のように推定されます。 1,200万ドルを超えました。
GPT-3 は他のディープラーニングモデルと同様に機能します。ニューラルネットワークの層は、受け取った入力に基づいて出力を生成します。ただし、GPT-3 は他のモデルでは実行できない複雑なタスクを実行でき、トレーニング例もごくわずかです。
たとえば、GPT-3は検索エンジン、翻訳者、プログラマー、履歴書作成者として使用したり、有名な歴史上の人物を代表したりすることもできます。このビデオには、GPT-3を使ってすでに作られた興味深い作品がいくつか含まれています。
これは、他の市販モデルに比べて大幅に改善されています。たとえば、GPT-3 は数文で英語からフランス語への翻訳を学習できますが、Google BERT では同じことを行うには数万文が必要です。
おそらく、これはGPT-3の最もエキサイティングな部分です。非常に小さなトレーニングデータでカスタムタスクを実行するようにプログラムできます。結局のところ、GPT-3 は非常に速く学習します。
GPT-3は、次にどのテキストが来るかを予測するのが得意なので、非常に人間らしい会話を生み出すことができます。人工知能は従来、特定のトピックについて「質問して答える」のが得意ですが、トピックがすぐに変わると混乱することがあります。
GPT-3は簡単にトピックを切り替えて質問に答えることができます。常識的な質問に答えることは従来 AI にとって非常に困難でしたが、GPT-3 はそのような質問への回答において非常に優れたパフォーマンスを示しています。
これらすべての新機能により、GPT-3は重要なブレークスルーとなっています 会話型 AI。ただし、GPT-3は、意味のない問題や人間が尋ねない問題について尋ねられた場合、正しく答えられないことに注意してください。例えば、「足にはいくつの目があるの?」というGPT-3の答えです。「足には目が二つある」です。
他にもたくさんあります GPT-3がここで非論理的な質問に答えなかった例。
自然な会話ができることは、デジタルヒューマンにとって大きな利点です。AI を利用して歴史上の人物のように会話できることは、GPT-3 がもたらす素晴らしい機会の 1 つです。
GPT-3は会話を再現し、その内容は以下のように具現化されます デジタルヒューマンプラットフォーム あの歴史上の人物の外見や特徴を創り出すためだ学生が、アルバート・アインシュタインとの流れるような会話を通して、たとえば物理学についてさらに学ぶことができるような、特に教育のような産業にとっては、エキサイティングな展望となるでしょう。あるいは、デカルト、フロイト、サルバドール・ダリなどと、哲学、心理学、芸術について、より自然で思慮深い会話をすることもできます。
これらすべての利点にもかかわらず、GPT-3はより包括的にテストする必要があります。モデルが複雑なため、現在のテクノロジーでリアルタイムで使用すると速度が遅くなる可能性があります。AIがデリケートなトピックにどのように答えるかは、デジタルヒューマンが検討する必要のある、会話型AIのもう1つの長年の問題です。
このブログを最初に公開して以来、OpenAIは同じChatGPT大規模言語モデル(LLM)を使用するChatGPTインターフェースも大成功を収めてきました。
ジェネレーティブAIソリューションは基本的に同じですが、チャットボットスタイルのインターフェースが異なっているため、ChatGPTの可能性に関する上記の議論はすべて、GPT-3に当てはまると推測できます。Bard、Google の会話型 AI、Bing の優れた検索エンジンインターフェースなど、他の LLM も同様です。
最高のカスタマーエクスペリエンスを実現するために、どのLLMをデジタルヒューマンに統合すべきかについて、ご不明な点がありましたら、 UneeQのカスタマーサクセスまたはビジネス開発担当者がお手伝いします。
会話型 AI はより高度になるにつれ、人間の自然なインタラクションをシミュレートする方法も継続的に改善されています。しかし、そうした体験を提供するテクノロジーにも、より自然で人間的な側面があるというメリットがあります。
デジタルヒューマンとその仕組み、組織がこの種のインタラクションを構築している理由について詳しく知るには、 デジタルヒューマンバイヤーズガイドのダウンロードはこちら。
2021年4月、UneeQはデジタルアインシュタインを立ち上げ、私たちのデジタルヒューマンの1人であるソフィーをGPT-3の会話モデルに取り入れました。彼女は多くのことを学びました。私たちもそうでした!
それ以来、私たちはLLMをあらゆる種類のものに統合してきました デジタルヒューマンのユースケース、を使用して シナプス —ブランドがLLMを使用して管理し、自然な会話を実現できるようにするプラットフォームの機能です。
これを自分で体験するには、当社のウェブサイトでソフィーと話してください。ご自身について、また AI で解決したいと考えているビジネス上の課題について彼女に伝えたり、他のことを尋ねたりしてください。LLM やデジタルヒューマンを活用してイノベーションを起こす方法を学びたいとお考えですか?私たちのチームの誰かと時間を予約してください。ぜひおしゃべりしたいです。
