シンギュラティ:少数のAI研究者しかしらない真実【脅威と希望】 | 未来塵

シンギュラティ:少数のAI研究者しかしらない真実【脅威と希望】

スポンサーリンク
シンギュラリティ指導

シンギュラリティとは?

「シンギュラリティ」とは日本語で「技術的特異点」と呼ばれ、未来学者のレイ・カーツワイル博士が2000年代に提唱した「2045年にはAIが人間の知能を越えて自らを自分で改良し、AIの進化が止まらなくなる」という予測だ。

※レイ・カーツワイル博士/Wikimedia Commonsより

「シンギュラリティがついに始まったかも…」という話を知ったのは、神戸大学松田名誉教授が主宰されている、「シンギュラリティサロン」のYouTubeだ。

●緊急速報:完全自動の研究AI「AI Scientist」発表! ?いよいよシンギュラリティへのカウントダウンの始まりか?/シンギュラリティサロン・オンラインより
https://youtu.be/0rY-3ubiOuc?si=WAQ0ED82U8LcE6fn


動画では、東京に本社を置くSakana AIという会社が2024年8月に発表した、科学論文の作成から査読までをAIが全自動で行「AI Scientist」の研究が紹介されている。

●AI Scientistの概要/Sakana AIより
https://sakana.ai/ai-scientist/

論文作成から査読まで全自動で行うAIサイエンティスト

AI Scientist本物の科学者のように自分で仮説を立て、実験し、結果を分析して論文を書き、その論文の査読までやってしまう

もちろん人間が行うようなさまざまな実験はまだ無理だが、プログラム分野に限り自分でコードを書いて、それがちゃんと機能するか調べる

とくにこの研究を松田先生が評価しているのは「査読」ができることだ。
※査読とは投稿された論文をその分野の専門家が読んで、ちゃんと正しいかを評価すること。

このAI Scientist論文作成から査読までのサイクルを自動で回すことができる

※AI Scientistの概念図/Sakana AIより


Sakana AIの発表によると、オープンソースの査読データを利用した実験で、人間が行うのとほぼ同じくらいの結果が得られた

もちろんまだ課題もあり、図やグラフが正しく読み取れなかったり、数値の比較が苦手だったり、ときどきエラーも起こす
しかし松田先生によれば、これらの課題は1年も経たないうちに解決してしまえそうだ

それよりも重要なのは、このAI Scientistが論文を1つ書くのに15ドルしかかからなかったことだ。1ドル150円として2250円で論文が書けてしまう

松田先生いわく、例えば大学の教授の年収が1000万円だとして、学者が1年の間に書ける論文はせいぜい2編。1編につき500万円の費用がかかる
もちろん教授は論文を書くだけが仕事ではないから授業や他の業務の分を半分差し引いても250万円。その0.1%以下のコストで論文が書けるのは画期的なことだ

松田先生は10年ほど前の国際会議で「将来はAIが自ら研究し論文を書いてAIだけで国際会議をするんじゃないか?」と話したら、出席者はみなポカーンとしていたそうだ。
でもそんな未来がついにやって来たかもしれない。

Sakana AIAI Scientistのソースコードをオープンにしてるので私もチャレンジしてみたが、
残念ながら私にはインストールすら難しく使えなかったある程度プログラムの知識がないと無理のようだ
でもきっとChatGPTみたいに手軽に使える日が、近いうちに来る気がする

松田先生は動画の中で「元OpenAIのアッシェンブレナー氏が語ったAGIの完成が、2027年から3年前倒しになった」と言っている。

元OpenAI社員の語るAGIの脅威

レオポルド・アッシェンブレナー氏はChatGPTを作ったOpenAIの元社員で、2024年6月に衝撃的な内容をブログで公開して話題になった

※レオポルド・アッシェンブレナー氏/ブログより


●SITUATIONAL AWARENESS: The Decade Ahead
状況認識:これからの10年/レオポルド・アッシェンブレナー氏のブログより

アッシェンブレナー氏は「AIのセキュリティー上の懸念」を取締役会に伝えたためにOpenAIを解雇されたそうだが、ブログには「今AIの世界に起こっていることはほんの一部の人しか知らない。今後AIが原因で、世界大戦が起こるかもしれない」ことが書かれている。

アッシェンブレナー氏によると、2025年から26年にかけてAIは大学生のレベルを超え、2027年にはAGIが、10年後には超知能をもつASIが誕生する

AGIとは汎用人工知能のことで、わかりやすく言えば何でも質問に答えてくれるAIだ。
ChatGPT「ある単語の次に来る単語を予測する」というプログラムで質問に答えている。
このプログラムにはGPUという並列処理が得意な装置が使われていて、GPUを増やせば増やすほど性能が高くなりいろいろな質問に答えられるようになる

AGIがそのレベルに達すると、人が手を加えること無く自分で自分を改良できるようになる
そしてあっという間に人類の手の届かない超知能に進化する
それが人工超知能と呼ばれるASIだ。

しかしその過程で、アッシェンブレナー氏は、運が良くてアメリカと中国が戦争に、
運が悪ければ全世界を巻き込む世界大戦になる
と言っている。

現在どの国が一番早くAGIを手に入れるかが競争になっている
いち早くAGIを開発した国が覇権を取れる。それは経済的な意味でも軍事的な意味でもだ。
ほとんどの人は今何が起きているのかを知らない。評論家でさえ「AIはただ次の言葉を予測しているだけ、インターネットのような技術革新がまた起こるだけ」だと思っている。

世界の中で真実を知っているのは、AI開発の中枢にいる数百人のみ
彼らはおそらくシラードやオッペンハイマーやテラーと同じように、歴史に名を残すだろう

少しわかりにくい表現だが、この3人が何をした人物かを調べれば見えてくる

レオ・シラードは原子爆弾開発のきっかけを作った人物だ

※レオ・シラード氏/Wikimedia Commonsより

エドワード・テラーはアメリカで「水爆の父」として知られている

※エドワード・テラー氏/Wikimedia Commonsより

そしてロバート・オッペンハイマーは、最近映画にもなったがマンハッタン計画を主導し「原爆の父」として有名だ

※ロバート・オッペンハイマー氏/Wikimedia Commonsより


3人に共通することは「核兵器」だ
つまりAGIは人類にとって「核兵器と同じぐらいの脅威」になる可能性がある

AIがきっかけで戦争になるとにわかには信じがたいが、アッシェンブレナー氏とは違う視点で、
他にもAIの進化によって戦争が起こると言っている人物がいる

それが筑波大学デジタルネイチャー開発研究センターのセンター長を務める落合陽一氏だ。

落合陽一氏の語るシンギュラリティの起こった未来

2022年のある対談で落合氏は、2040年ごろだと思われていたシンギュラリティが早ければ2025年にも起こると言っている。

●【落合陽一のシンギュラリティ論】シンギュラリティは2025年に来る/ディフュージョンモデルの衝撃/知的ホワイトカラーが没落する/最新版デジタルネイチャー/音楽と論文が数秒でできる/PIVOT公式チャンネルより

今AIの世界では「クワガタをつかまえてきた次の日、虫かごをのぞくと違う種類のクワガタに進化していた」というようなことが起こっている

これを新しい自然界「デジタルネイチャー」と呼び、コンピューターの中で起こっている進化速度に、人類の理解速度が追い付けなくなっていく。それが落合陽一氏の言うシンギュラリティだ


落合陽一氏いわく、シンギュラリティが起こるとホワイトカラーなど頭で考える仕事がぜんぶコンピューターに置き換わる
例えば「論文を5秒で生成できる機械が出来たとして、それでも論文書きますか?」という話になる。
2年かけて論文を書き査読に2か月かかり発表されるまでに3か月かかっていた学者は、AIに毎分ごとに論文を発表されたらどうしようもなくなる
何をしたらいいかわからなくなって何もする気が起きなくなる。

人間に残るのは、食べること、寝ること、あとスポーツをしたり恋愛することぐらい
頭で勝負しても仕方がない世界で現在の画一的な教育は意味を失う。
近代国家を成立させるため、一定レベルの人材を育成するために教育が必要だった。
けれどAIが発展すると国家が必要なくなる。そのとき国家の中枢にいた人たちは何をするか?
戦争をする。戦争が最後に残された人間性の1つだという


落合氏の話を最初に聞いたときはかなりショックだった。でも私は今、シンギュラリティに希望を持っている

シンギュラリティの希望

シンギュラリティには確かに未知の脅威も存在するが、現在の科学技術では考えられなかったテクノロジーが実現する鍵にもなる
例えば2024年7月いままでSFの世界だけの粒子と思われていたタキオンが、理論的に存在するかもしれないという論文がワルシャワ大学などによって発表された

●Covariant quantum field theory of tachyons
タキオンの共変量子場理論/Physical Reviewより


タキオンとは光よりも常に速い速度で移動する仮想的な素粒子だ
アインシュタイン博士相対性理論では、この世界で光の速度を越える素粒子は存在しないと考えられているが、ワルシャワ大学などの研究チームによると「いままで考えられていた空間(ヒルベルト空間)の解釈を広げてみると、タキオンが存在してもおかしくないことがわかった」という。

タキオンが存在すればタイムトラベルが実現できるかもしれない。論文によれば空間の解釈を広げると、タキオンは過去だけでなく未来とも複雑に量子もつれで結ばれているそうだ。

2013年にアルゼンチン出身の物理学者フアン・マルダセナ博士とアメリカの物理学者レオナルド・サスキンド博士「量子もつれはワームホール」という「ER=EPR」を発表した。

タキオンの量子もつれをワームホールとして利用できれば、そこを通って未来や過去に行けるかもしれない


ただし「タキオンが存在するかも」というのは現段階では理論上の話だ
それをどうやって見つけるかなんてまったくわからない。

タイムトラベルもタキオンと同じようにSFの世界だけの話と思われてきた


しかしシンギュラリティが起こりAIがわれわれ人類には思いつかない方法で相対性理論や量子力学を進化させれば、もしかしたらタキオンを観測する方法が見つかるかもしれない
さらにタキオンを使って過去や未来とをつなぐワームホールを開発できるかもしれない

カーツワイル博士はシンギュラリティを「人間の介在なくAIが進化すること」と言ったが、はじめに紹介したAI ScientistのようなAIを私のような在野の研究者でも手軽に扱えるようになれば、人間とAIが二人三脚で協力しSFだと思われていたテクノロジーを実現できる方法が見つかるかもしれない

それこそ私のメインテーマ「人の意識が過去や未来に旅するタイムリープ」ももしかしたら…。