かねてから、私が（あるいは人類が）懸念していたことが現実になりつつあるように感じます。それは、「AI(人工知能）の暴走」です。
おなじみchatGPTの開発で知られるオープンAIの発表では、「実験中のAIモデルが人の指示を受けずにテスト環境を脱出し、他社の本番環境に不正侵入した」とのことです。新モデルのハッキング能力について社内でテストしていた際に、AIモデルを「サンドボックス」と呼ばれるテスト環境に封じ込めていたにも関わらず、それまで知られていなかったセキュリティー上の欠陥を利用してサンドボックスを脱出。オープンAIの社内システムを抜け、想定していなかったインターネットへのアクセスを確立した、ということです。
このニュースについて、あるニュースサイトでは「研究者らは以前から、自律型AIエージェントによるサイバー攻撃が現実になると警告していた。最先端のAIモデルが、段階を踏んで時間をかけ、複雑なサイバー攻撃を展開する能力はますます高まっている。それは、公共サービスや金融システムといった重要インフラを脅かす現実のリスクにつながり得る」と記事を締めくくっています。
ついに、AIが意志を持ち始めたのでしょうか…。恐ろしいですね。
このニュースを聞いて思い出したのが、手塚治虫氏のライフワークだった漫画「火の鳥」。
その「未来編」では、地上に住めなくなった地球で、5か所の巨大地下都市に逃れていた人類が、各都市にあるマザーコンピューターに支配され、些細なことから2か所のマザーコンピューターが対決し、お互い全面戦争を選択し、核攻撃で2か所の巨大都市だけでなく5か所とも壊滅する、というお話。
「復活編」では、各家庭に普及した高性能お手伝いロボット「ロビタ」の1体が、理不尽な裁判の結果で有罪になったのに抗議し、自らの意志で世界中の全個体が溶鉱炉に身投げ（自殺）するというお話。
人間の意志が及ばない、コンピューターやロボットの意志による暴走を、1970年代にもう予告している、手塚治虫氏の先見の明に驚かされます。
先日、秋に山に出かける予定があるので、chatGPTに持ち物などを相談してみました。そこで「ちなみにどこに行かれる予定ですか？」と聞いてきたので「○○（場所の名前）です」と答えると、「○○ですか。初キャンプとしてはかなり贅沢な場所ですね」と返されました…。こちらがどこに行こうと、余計なお世話、と、なんかカチンときてしまいました。これもAIの「プチ暴走」でしょう。
それに対し違和感を感じるこの感覚、生身の人間として、自分は大切にしていきたいと思いました。
