【メタエンジニアの戯言】人間に近づくほど生まれる不思議な違和感

2023.09.08松林弘治の連載コラム

本コラムコンピュータに使われないために、「ググり力」は古来からの必須スキル？でも取り上げましたが、MidjourneyやStable Diffusionといった画像生成AIに続き、ChatGPTやBartなど最新の文章生成型の言語モデルが、今年に入って一般向けのニュース番組でも取り上げられるようになってきました。

2018年に登場したGoogleの BERT、そして2020年のOpenAIの GPT-3は当時専門家界隈で衝撃をもって受け止められましたが、2022年11月に一般公開されたGPT-3.5ベースの ChatGPTによって、一気にブームになった感があります。

1966年の ELIZAに始まる、パターンマッチングによるチャットボットは、日本では一時期ブームになったキーワード「人工無能」としても知られ、近年のSiriやAlexa、Googleアシスタントなどもほぼこの範疇といえます。それら従来のチャットボットと比べると、強化学習と教師あり学習を使用した大規模モデルChatGPTの衝撃は、専門家にとっても一般ユーザにとってもあまりにも大きいものでした。

そもそもなぜ、我々はChatGPTとの対話やその回答に驚嘆し夢中になり、時には珍妙な回答の揚げ足取りをしたくなってしまうのでしょうか。

—–

SF作家のアーサー・C・クラーク氏がかつて定義した「クラークの3法則」というものがあります。この中の第3法則は特に有名なので、目にしたことのある方も多いでしょう。

「十分に発達した科学技術は、魔法と見分けがつかない」
（“Any sufficiently advanced technology is indistinguishable from magic”）

人類が何千年も連綿と継承してきた科学技術の発展、特にこの100年の進化は目を見張るものがあります。特に現代のように、科学技術が非常に発展し複雑化してくると、専門家以外には、個々人が細かい理屈や仕組みを把握できるレベルをいともたやすく超えてしまい、ブラックボックスとして受容するしかなくなってしまう。そしてそれを「魔法」と感じてしまう、ということなんだと思います。

本コラム52回では「ブラックボックスをどこまで掘るべきか問題」をとりあげましたが、かつては「パソコンで文書作成したり動画閲覧できる」ことがブラックボックスだった（いや、今でも多くの人にとってはブラックボックスかもしれませんね）のに、今度は「どうしてこんなに自然な受け答えを英語でも日本語でもできるんだ？！」というブラックボックスです。

「複雑な科学技術計算に使われていたコンピュータが、テキストベースでそれっぽく応答してくれるのはすごい！」がELIZAの時代の驚きだとすると、「声で命令すると明かりをつけてくれたり音楽を鳴らしてくれたりするのはすごい！」がSiriやAlexa、そして「どんな質問をテキストで書いても、（真偽や正確性はさておき）これまでのコンピュータでは考えられないレベルで淀みなく回答を返してくる！」がChatGPTなどになるでしょうか。どれもこれも、裏付けとなる（当時として最先端の）技術があり、それらを高度に組み合わせて構築されているけれども、「理屈は良く分からない」、とにかく「出来ることそのものに驚嘆してしまう」のです。

—–

一方、「人間にはまだまだ及ばない」「間違いだらけだ」といった言説も見受けられます。画像生成系AIのStable DiffusionやMidjourneyの方では、指が6本以上になったイラストや写真が生成されたり、ChatGPTなど言語モデルの方では、事実と異なることをしれっと回答したり、そういった「人間が知覚可能なミス」が目につき、気になってしまう、といったものです。

これは何か既視感がある光景だなぁ、と思いました。例えばCG（コンピュータグラフィックス）黎明期、それこそ初の本格的CG映画「トロン」（1982）の時代は、リアルな映像の代替ではなく、コンピュータらしさが逆に斬新な印象を与えていました。それが、現代の映画のように、CGと実写が淀みなく合成できるようになってくると、逆に「なにか違和感を感じる」場合も出てくるのです。3DCGアニメの進化でも同様の感触があります。

そう考えると、ChatGPTの「事実と異なることを本当であるかのようにしれっと語るような回答」だって、「本当はわかっていないのに、その場を繕うように口から出まかせを言う人間」と同じようなものだと捉えることができます。SNSなどで誰かの発言に対して批判炎上が起こるのと同様に、コンピュータの愚直な回答に対して目くじらを立てて揚げ足取りをしているのが、今の我々なのかもしれません。

もしかしたら、我々はコンピュータに対して「神」のような絶対的な存在であることを期待しすぎなのかもしれません。「コンピュータに知能や自我はあるのか」といった問いにしても、そもそも我々人類が不完全な存在である以上、現時点のChatGPTよりまだまだ優れている、という保証はないのではないか、とすら考えてしまいます。

—–

今回はチラ裏ポエムのような散文になってしまいましたが（笑）、ともあれ、我々は間違いなく、大きな時代の変化の渦中にいます。遠からず、これらAI技術が多くの分野で活用され、さまざまなサービスが変革していくことでしょう。

これから生まれてくる次世代は、デジタルネイティブどころかAIネイティブとして育つことになるのでしょう。アナログな手作業に慣れ親しんできた我々世代、または、せっかくデジタル技術を享受し活用できる環境にあるのに「DX」というお題目が虚しく感じられるほど業務改善を進められずにいる我々世代は、やはり前を向いて学び続け変わり続けるしかないのです。

松林弘治 / リズマニング代表
大阪大学大学院基礎工学研究科博士前期過程修了、博士後期課程中退。龍谷大学理工学部助手、レッドハット、ヴァインカーブを経て2014年12月より現職。コンサルティング、カスタムシステムの開発・構築、オープンソースに関する研究開発、書籍・原稿の執筆などを行う。Vine Linuxの開発団体Project Vine 副代表（2001年〜）。写真アプリ「インスタグラム」の日本語化に貢献。鮮文大学グローバルソフトウェア学科客員教授、株式会社アーテックの社外技術顧問を歴任。デジタルハリウッド大学院講義のゲスト講師も務める。著書に「子どもを億万長者にしたければプログラミングの基礎を教えなさい」（KADOKAWA）、「プログラミングは最強のビジネススキルである」（KADOKAWA）、「シン・デジタル教育」（かんき出版）など多数。