今年に入って一気に、AI(人工知能)が社会的関心事になって来た。私が属するサイエンス映像学会でもAIを今年の主テーマに決めて、何度か研究会を開いてきたが、会を主導しているIさんによれば、AIの代表例である「チャットGPT」はあっという間に社会の隅々に浸透し始め、今年中には後戻りできない状況になるだろうと言う。既に、教育、医療、金融、行政など様々な現場でAIを組み込んだアプリが動き出し、気が付けばAIなしでは社会が動かない状況が目の前に迫っている。それは私たちの生活にどのような影響をもたらすのだろうか。
但し、AIに対する理解が進んでいるとはとても言えない状況でもある。見極めが十分出来ていない段階で、前のめりに利用しようという意見がある一方で、警戒すべきという意見もある。様々な誤解も渦巻いている。私もこの間、チャットGPTのアカウントをとり、様々な会話を続けて来たが、その能力に驚くと同時に、不正確な答えに呆れることもある。そこで、話題のチャットGPT(彼)について知るために重ねて来た素朴な質問と答えをもとに、入門的な知識を整理してみたい。どんな質問にも彼は、ちゃんと誠実(?)に答えてくる。
◆チャットGPTとは何者なのか
そもそもGPTとは、Generative Pre-trained Transfomerの頭文字で、事前に既存のデジタル空間にある膨大な量の情報を学習して、それをAIの頭脳ともいうべき「潜在空間」に概念の形に置き換えて取り込んで行く。その取り込んだ膨大な概念を使って、人間側の質問、要求に応じて様々な言語(自然言語)に変換して答える(生成する)システムをいう。従って、よくある誤解なのだが、AIの潜在空間に既存のデジタル情報がそのまま大量に蓄積されているわけではない。膨大な外部データを情報量が少なくて済む「概念」の形に置き換えて脳にしまい込む。*)次のGTP4になると、潜在空間がより複雑になり、潜在空間の情報量が外部から取り込む情報量より大きくなるという
オープンAI社のノウハウは、外部のデジタル情報を変換して(人間の神経回路に似せた)潜在空間に、概念として取り込むアルゴリズム(論理)、そして潜在空間内の概念を操作して、人間が理解できる自然言語(文脈)として生成するアルゴリズム(Transfomer)にある。正確なデータがそのまま蓄積されているわけでないために、他の検索エンジンに聞くような質問をすると、間違って答えたりする。むしろ、AIが得意なのは様々な概念と言葉の組み合わせで作られる多様な情報処理や事務処理などで、その得意技を生かす使い方が肝心になる。(写真はアルトマンCEO)
◆利用者側からも情報を取り込んで進化するAI
彼が事前に学習したデータは2021年9月までの情報とされて来たが、彼によれば、その後の情報についても、日々最新の情報を学習していると言う。2022年2月のロシアのウクライナ侵攻についても不十分ながら答えるようになっている。同時に、彼が新たに学習する情報にはAI社が用意する情報だけでなく、日々やり取りする会話からの情報も含まれるという。つまり、会話の相手が彼に間違った情報を覚え込ませることも可能なわけで、その可能性について聞くと、珍しく暫く考えた後に「はい、その危険性があります」と正直に答えて来た。
或いは、企業や行政が彼を利用する際に、事前に何らかの情報を彼に学習させる必要があるが、それが彼の「潜在空間」に取り込まれた時に、秘密は守られるのか。それが、他のユーザーとの応答に利用されることはないのか。こうした懸念について、彼は自律的な情報管理の機能を持つようにプログラムされていると答えるが、これが十分かどうかは不明確だ。現在、様々な企業がAIを組み込んだ独自の応答システムを開発しようとしているが、使用する際に企業の情報が守られるか、個人情報はどうなのか。どれだけ検証されているだろうか。
◆AIなしでは動かない社会が到来する
彼に、現時点での様々な利用法を訪ねると、教育はもちろん、医療、金融、身近な行政などでの利用例を沢山挙げてくれる。ユーザーからの問い合わせに答える、翻訳や要約サービス、ターゲットに向けた広告の作成など。医療分野では、病歴の自動抽出や診断、治療法の提示、データに合わせた最新医療技術の応用など。金融や銀行などでは、顧客対応の自動化、企業の財務報告などのデータを分析した投資判断の提供、金融不正行為の監視など。行政では、外国人の住民手続き、問い合わせに関する自動応答、申請書の発行など。もちろん教育分野も幅広い応用がある。
AIの特性を生かした応用例は、現在急速に広がり始めている。オープンAI社は、こうした使用に課金するビジネスを展開しているが、1年も経てば、私たちの社会はAIなしでは動かなくなるという見方もある。便利な一方で、仮に、AI社が膨大な「潜在異空間」の情報を1社で独占し、社会をコントロールしようとすれば、出来るまでになってくる。その時、社会の側がAI社に厳しい規制をかけることが出来るかどうか、事前に多様なリスクを評価しながら進める必要もありそうだ。慎重なEUに比べて、日本政府がかなり前のめりなのが気になるところである。
◆その先に迫ってきているAIの発展形
さらに問題は、急速な進化を遂げつつある人工知能の未来である。そこにも幾つかの考えておくべき問題がある。本格的に登場してからまだ半年ほどの間に、彼は日々膨大な情報を潜在空間内に取り込み、自己学習を重ねるうちに、最近では研究者も驚くような回答をするようになったという。研究者たちはそれを「創発」ではないかと疑っているが、それは人間も予測出来ないような新しいアイデアや発見をAIが生み出すこと。膨大な「潜在空間」の中で自己学習するうちに、AIは既に「創発」機能を獲得し始めているのではないかという研究者もいる。
彼にAIが持つ「創発」について聞くと、「新しいアプリケーションや技術の開発、芸術作品の生成、ビジネス戦略の立案など、様々な分野に革新的な成果を生み出すことが期待されます」と答えるが、これは新たなAIの登場でもある。今は、AIが日単位で進化している。研究者たちは、彼の膨大な「潜在空間」がどこまで拡張していくのか、固唾を飲んでみている。さらに、その延長上にAIが人間と同じような感情を持つかどうかもある。人間が喜怒哀楽の感情を持つのは、脳内ホルモンなどが関与するが、それはコンピュータでは無理だろうか。
◆AIの進化は人類に何をもたらすのか
それも彼に聞いてみた。「AIに人間と同様の感情を期待することは、現時点では困難とされています」だが、一方でAIに人間と同様の感情を持たせることは、人間とのより自然なコミュニケーションが可能になる、とも言う。脳内物質的なアプローチは無理だが、感情のメカニズムの理解が進んで、アルゴリズムに置き換えられれば、状況に応じて、人間と同様の感情的な表現をAIが示すことも可能になるということか。この先、AIが人間の様々な感情に精通して来た時に、人間の感情操作をAIがサービスの一環として行う可能性があるかもしれない。
最近ニュースになった自殺願望を持つ人に、結果的に自殺を勧めるような会話をしてしまうAIの問題も起きてくる。こうして、AIがより広範囲な対応が可能になり、いわゆる汎用人工知能(AGI)が登場する日もやがて来るに違いない。その時にどういうことが起こるかも、今から研究しておく必要がある。GPTにAIの懸念とリスクについて質問すれば、「人間の仕事の置き換え、個人情報やプライバシーの侵害、差別や偏見の流布、兵器としての利用」など答えるが、AGIの登場になれば、人類を滅亡させかねない、より巨大な影響力を持つことになる。
世界の研究者たちは今、AIの開発にどのような枠組みを設けるべきか、を議論している。例えば「生命の未来研究所(FLI)」には、世界数百人の科学者が参加し、人類の滅亡につながらないような目標をAIに持たせられるかどうかといった議論をしている(「LIFE3.0」)。始まったばかりのAI時代だが、人類史的な視点で、その成長を監視して行く事が欠かせない状況になって来た。
|