Anthropicが、「今後10年以内にAIが「全人類を滅亡させる」可能性が10％以上あると考えられる」と言っているらしい。

最近のAIを使ったサイバーテロを考えると、あながち間違いではないなと思う。今はハッキングして個人情報が盗まれるだけだが、ライフラインをハッキングされると大きな事故が起きるだろう。以前、どこかの国の冷凍庫がハッキングされて、冷凍していた食材がダメになったというのを聞いたが、それの拡大版だ。

世の中の生死に関わるものが破壊されるテロが多発したら多くの死者が出るだろうし、直接的じゃなくても食糧不足だとか電気不足などが起きかねない。そうしたら絶滅とは言わないまでも多くの死者が出る可能性はある。

なんとかしてこれを食い止めないといけないと思う。