《「人類滅亡につながる可能性」などと、実はとんでもない言葉をニュースの中で普通に使っている自分に、ふと背筋が寒くなった》
9月27日、報道番組『報道ステーション』（テレビ朝日系）の公式ブログでこう切り出したのは、メインキャスターを務める大越健介氏（65）だ。”人類滅亡の可能性”とは果てしないスケールの話だが、日々、急速に発展するAI関連のニュースを伝える大越氏にとっては、決して無関心ではいられない話のようだ。
「今年9月に入って、米AI大手『アンソロピック』の研究者が同社を退社。AI開発に突き進むあまり、人類の存亡にかかわる危険をもたらしていると警告しており、ここから、AIによる”人類滅亡の可能性”というおどろおどろしい話題が日本のニュースでも取り上げられるようになりました。今年7月には、同じくAI大手『オープンAI』が開発したAIモデルが、ネットから遮断されているにもかかわらず、外部システムに侵入するという深刻な問題が発生しています」（社会部記者）
AIの“暴走”について、11日放送の『報ステ』でも「行き過ぎた行動を人間はモラルによってブレーキをかけられるけれども、（AIには）モラルというブレーキがないから暴走する。怖いですよね」と心配を募らせていた大越氏。今回のブログで引き合いに出したのは、’70年代に発行された『ノストラダムスの大予言』だ。
少年時代の大越氏は、同書の《「1999年7月、空から偉大な恐怖の王が現れる」》という予言に恐怖を感じていたという。結局、’99年には何も起こらず大越氏は子宝にも恵まれ、人類も存続しているわけだが、大越氏は急速に進歩するAI技術に対して、以下のように訴えた。
《ところが今回は、どこかおとぎ話めいた大予言の時とは違う。最先端のテクノロジーを開発する技術者自身が、人間が作ってしまった怪物が勝手に人間社会を乗っ取り、あるいは破滅させる可能性を論理的に訴えているのだから》
そのうえで、大越氏が問題視するのが、アメリカのトランプ大統領（80）だ。トランプ大統領は22日、国連で行った一般演説の中で、人工知能を「SI（Super Intelligence）」（超知能）と呼ぶと宣言（日本時間30日に大統領に署名）し、AIは産業革命に匹敵する可能性がある分野だとして、AIに対する国際的な規制体制に反対していた。
これについて、《カネを稼いでも人類が滅びたら元も子もないだろうに》と呆れた様子で、《「チマチマしたこと言うな」とばかりにAI開発競争にひたすら勝利したがるこの大統領こそ、ノストラダムスが予言した「偉大な恐怖の王」なのかもしれない。想定より30年近く遅れて現れたというだけで》とも皮肉。24日の米中首脳会談はAIがテーマになったというが、大越氏は《両国はAI開発で覇権を競い合う関係でもある。お互いブレーキをかけましょうと、簡単にまとまる話ではない》とも持論を綴った。
さらに、『報ステ』の現場で、AIに警戒心を募らせているのは大越氏だけではないという。AIの問題を取り上げるたびに、小木逸平アナ（52）はVTRを見ながら《「AIの規制なんて本当にできるのかなあ」》《「だって、知能って最初はいたずらから入るものでしょう。人間の子どもを見てもそうだし」》と話し、安藤萌々アナ（28）も大きくうなずいたのだという。
このやり取りを受けて、大越氏は、《人間はいたずらをしたり、間違いをおかしたりしながら、倫理や道徳を学んでいく。これを当てはめれば、AIが倫理や道徳を、つまり人間が規制することの意味を学び、遵守するためには、その前段階が必要ということになる。すなわち、AIがいくつかのことを「やらかす」ことはあり得る。そのいたずらの程度によっては、世界に後戻りできない打撃をもたらすことになるのかもしれない》と懸念。
結びには、《何だかめまいがしてきた》と漏らしつつ、《何といっても、視野に入ってきたのは「人類滅亡」なのだ。言葉遊びをしている時間すらもったいない》とキャスターとしての心意気を示していた。
