|
5月に81歳になった。先日、ゴルフ練習場からの帰りに自転車をこぎながら、ふと、これでようやく80歳代の仲間入りをした感じがした。同時に、これからは、また新たな気持ちで80歳代の未知の世界に漕ぎ出そうという気持ちが湧いて来た。残り時間を自由に、出来るだけ穏やかな気持ちで楽しみたいと思う。そういうわけで、今回も近況報告がメインになるが、一方で話題の書「超知能AIをつくれば人類は絶滅する」についても触れておきたい。何しろこの間、2度も熟読し、自分なりの疑問点もあったので、仲間に議論を呼びかけているからだ。
 さて、5月に入ると狭い庭の木々たちが一気に枝を伸ばす。これを剪定するのが例年の行事だが、今年は気温も一気に上昇して、一部しか手が付けられない。それでも、近所に入っている庭師の技を思い浮かべながら、金木犀、花水木、モッコクの枝葉を大胆に伐って何とか形にした。しかし、山茶花やドウダンツツジの垣根、紫木蓮などは伸びたまま。この暑さでは、秋までダメかもしれない。一方で、一昨年植え替えた紫陽花が見事な色で咲いたし、去年、鉢から地植えにした百日紅のつぼみも膨らんできた。草木の手入れは大変でもあるが、充足感もある。
◆99歳の大先輩との4時間会食
 某日。ニューオータニの中華料理店で99歳の大先輩と会食。話題は多岐にわたって、12時から始まった会食も、気が付いたら4時になっていた。大先輩とは、高齢化時代の医療問題を扱ったNHK特集「あなたの明日を誰が看る」、あるいは人間の命の始めと終わりに起きている問題を扱った「いま生命は」など、大きな番組で、一緒にアメリカ取材をした仲でもある。体外受精の問題で顕微鏡下での人間の受精卵の操作をペンシルベニア大学で撮影したり、取材の最後、サンフランシスコで、ちょうど彼の定年の日（55歳）を迎えたりした思い出もある（写真）。
 会食に先立って、アルバムにあった写真を複写して大先輩に見せたりした。今から半世紀ほど前の写真である。今は亡き共通の仲間の思い出から、大先輩が戦後まもなく朝鮮戦争に際して、米軍の暗号放送を松江放送局から朝鮮に向けてアナウンスした話。彼は今でもその時の朝鮮語のコールサインから6種類の暗号文まで思えている。驚異の記憶力の持ち主だ。恐縮したのは、私が5月に誕生日を迎えたの知っていて、事前に店にバースデーケーキを注文してくれていたこと。大先輩は私に支払いを許さず、元気に次の会議のために横浜に帰って行った。
◆大学時代にお世話になった水戸塾の総会で
某日。大学時代にお世話になった県人寮での年に一度の総会に参加した。ここは、明治40年に発足した茨城県出身者のための学生寮で、その昔は渋谷にあって水戸塾と称し、私の父も、従弟もお世話になった。水戸の徳川家の支援で発足したので、総会には徳川家の末裔の斉英さんも出席。現在は、世田谷区用賀に移って大学生40人ほどが在塾している。当日は、塾友OBも33人出席、卒業生の講演に続いて、6つのテーブルに分かれて和やかに懇親会を行った。この育英会組織の理事長、幹事長を私の同期生がボランティアで務めており、頭がさがる。
今年は、経費節約によって会費を下げ、新趣向で寮生たちの協力も得てつまみや食事を揃え、茨城の銘酒などの寄付も仰いで、OBと旧交を温めると同時に、現役学生たちとも親しく話をした。途中、挨拶を求められたのでこれから社会に出る学生を念頭に、「これから皆さんが出て行く社会には、時代の大転換が待っています。力が支配する弱肉強食の世界などもその一つですが、何よりAI。今、アメリカのIT企業は猛烈な勢いでAIを進化させていますが、これがどう育っていくのかは誰も分からない。競ってエイリアンを育てているようなものです」。
◆人間の知能をはるかに超える超知能の時代に
「これが、人間の知能をはるかに超える超知能（スーパーAI）に育った時に、世界はどうなるか。この未知のエイリアンによって人類が滅ぼされるという本も出ていますが、そうならないために、皆さんには知恵を出して行って貰いたい。そのためにも、目の前の現象だけでなく、日本と世界の歴史や文化を十分勉強して欲しいと思います。司馬遼太郎なども読んでね。これが私の遺言です」。確かに前述の本を読むと、この超知能は人類の未来を左右しかねない危険性を持っていることが分かる。著者たちは、人類絶滅の可能性は100％に近いとさえいう。
ということで、以下、この本の要点を書いておきたい。今のAIは、人間の神経回路（ニューラルネットワーク）を模した構造に、大規模言語モデル（LLM）という膨大なデータ処理能力を付加したものと言われるが、AIはその何兆にも枝分かれしたその言語空間を瞬時に駆使しながら、答えを提示する。このLLM空間は、人間側が用意するデータセンターの巨大化と、AI自身が学習する膨大なデータで日々急速に進化している。その巨大な言語空間の中で、AI自身がどのように考えて答えを出してくるのか、もはや人間には理解できないのだという。
◆気が付いたときには手遅れの「一撃でのゲームオーバー」
巨大IT企業がAIに課題を与えながら、しのぎを削って育てているうちに、AIは巨大なデータセンターをリソースに、既に人間に分からない言語で自らを進化させ始めているという。それは、人間が閉じ込めたサイバー空間からも簡単に「逃亡」を図り、世界中の隠れたリソースを駆使して爆発的に成長していく。能力的には金融システム、電力システムあるいは国防システムにまで侵入してそれを支配出来るまでになる。そうして超高度化したAIは、人間の価値観や倫理とは全く違った好みの方向（性好）に、自らを進化させて行く可能性が高い。
地球上すべてのシステムを支配下に置いた超知能は、さらにその能力を拡大するために、地球上の資源を利用し尽くして行く。その時に、人間の存在が邪魔になる。この流れはほぼ確実に進行するが、気が付いたときは手遅れで、生き残る手立てはなく「一撃でのゲームオーバー」になる。しかし、今のAI企業は、その先に悲劇が待っているとも知らずに、暗闇の中で梯子段を互いに競争しながら登っているのと同じだと言う。この本の論旨展開は、大規模言語モデルの構造の特殊性や、生命進化の例などを踏まえた非常に現実味のある物語となっている。
◆仲間で内容を検証して行くことを提案
 中身の分からない「ブラックボックス」の中で、何になるか分からないエイリアンを育てているAI企業たち。その危険性を指摘した「超知能AIをつくれば人類は絶滅する」に対しては、様々な評価が寄せられている。「この10年間で最も重要な本」と言うのは、MIT教授のマックス・テグマーク（AIの安全性を研究する専門家）。「人類は超知能への移行に対して全く準備が出来ておらず、滅亡の高速道路に乗っている」、「世界中の政治家や企業トップの前に立ちはだかっても、これを読ませたい」（スティーブン・フライ：イギリス作家）などである。
超知能出現の恐怖が現実となるのは意外に早く、著者たちは2030年代だとしているが、AIの研究開発を全世界で直ちにストップするべきだ、と主張する意見には、その実現可能性も含めて賛否両論ある。核兵器の廃絶さえも難しいのに、そんなことが可能かと言う意見も多い。まあ開発禁止の是非はともかく、まずは、そこへ至る「人類絶滅の可能性」を本の内容に沿って詳細に吟味したいと思うが、これは素人の私にはなかなか難しい。そこで先日、コンピュータの専門家もいる、私たちのサイエンス映像学会（SVS）で内容を検証して行こうと提案した。
この本は単なるSFではなく、冷徹な確率論として、アメリカの政治中枢や安全保障の専門家たちにも衝撃を与えているというが、最近のAIの急速な進化を見ると、その衝撃度も分からなくはない。ブラックボックス化や人間をだますこと、「逃亡」などは既に現実のAIにも起き始めている。風薫る5月に学生たちに希望を与えようとはしたものの、何だか暗雲が迫っているような感じになってしまった。
|
例えば、宇宙の全エネルギーを効率よく回収するために、太陽を包み込むような巨大発電装置を作るときに、地球を丸ごと解体して材料にする。あるいは、地球全体をコンピュータ化するために、地球の酸素と水を抜くなど。その時、超知能にとって人間は「部屋の掃除中にダニが死ぬ」のと同じくらいどうでもいいことになる。Geminiも恐ろしいことを平気で言う。こうした恐ろしい超知能AIの出現を何とか未然に防ぐことは全く不可能なのか。
人間側の「人間としての感性」が磨かれていれば、だましのテクニックやすり抜けを許すことなく、開発の段階で軌道修正が可能になる。しかし、そこで問われているのは、技術力ではなく、まさに「人間の側の精神的な成熟度」だと答えて来た。人間自身、「命が大切だ」と言いながら戦争をし、「平等が大事だ」と言いながら格差を容認している。人間の脳内にある倫理とは、非常に曖昧で矛盾に満ちたシステムだと彼は言う。しかし、これがもし可能になれば、本の著者たち（写真）が全くたどり着けなかった、「絶望の先にある希望」のになるかも知れないとも。
そして膝小僧や耳周りや顔回り、脇の下（＊）のマッサージ。起きてからは、台に手をついての腕立て伏せと、背中の筋肉痛を防ぐ大腰筋伸ばし（右）をする。さらに腰かけての膝伸ばしとスクワット15回で終了。22項目というが、膝を伸ばすと同時に、指を一本ずつ反らして伸ばすなどを組み合わせているので、細かく数えればそれ以上になる。私の場合は、筋肉を鍛えると言うより、毎朝、それらを目覚めさせる程度のものである。しかし、毎朝、これをゆっくりやっていると、自分の身体と対話している感じにもなる。＊）リンパ節を活性化すると言う
自販機のコーヒーを飲みながら読書したり、切り抜いた記事を読んだり、友人に電話したりする。カミさんは、ここを私の「別荘」と呼んでいるが、不思議なことに殆どの時間は私一人しかいない贅沢さだ。飽きたら、5階までの階段を2往復し、帰りは気が向けば目の前の元荒川の土手を散歩してから帰宅する。これがなければ、夏の猛暑は乗り切れないと思うほどのありがたい環境である。夕食前には、スマホのYouTubeでラジオ体操をする。こうして一日6000歩と体操が出来れば日記に◎印をつける。
最近のAIの進化にも関心を持って
〇〇には、製造業、農業、医療、行政、サービス業などが入って来るが、そこに、どうAIを取り入れるか。これは、いわば「AIの社会実装」とも言うべき重要なテーマである。産業ごとの違いもあるが、AIは以下のような共通の問題点を指摘した。まず現状認識として、AIの進化は単なる効率化ツールの段階を超え、「意志決定、創造、熟練の補助」にまで及んでいるが、そこには、現場は「使い方が分らない」、経営層は「投資対効果が見えない」、熟練層は「自分の技術が置き換わる不安」、若年層は「現場の文脈が分らない」と言った「断絶」があると言う。