AI の進歩で、ハッキングの世界が変わろうとしている
最近、GMO インターネットグループがサイバー攻撃を受けて大きなニュースになりました。こうした事件が起きると、経営者の責任や会社の管理体制が問われがちです。企業にセキュリティを守る責務があるのはもちろんですが、それだけでは足りません。AI の進歩によって、ハッキングの世界そのものが大きく変わろうとしているからです。
仕事を「進める」AI の能力
筆者は現在、Claude Code という AI を業務でよく使っています。ChatGPT のように質問や相談をするチャット型の使い方とは異なり、パソコンの中のファイルを読み込み、プログラムを書き換えて、実際に仕事を進めてくれる AI です。
ポッドキャストの内容を YouTube、Spotify、note、Substack、Facebook、ホームページで発信する作業や、大学の研究室と la quaLab の紹介動画の制作にも使っています。10秒程度で書いたプロンプト(AI への指示文)から、完成度の高い動画が出来上がりました。
さらに、la quaLab の決算処理も、会計ソフトの freee と Claude Code を使って行いました。ログインは筆者自身が行い、その後は AI が会計データを調べて決算処理を進めました。税務署への提出は筆者自身です。これまで税理士などの専門家に依頼していた仕事を、AI が代わりに進められる時代になっています。もちろん、最終的な確認と責任は人間が負います。
便利さの裏にある、攻撃への悪用
ファイルを自由に扱える能力を持つ AI が、もしサイバー攻撃に使われたらどうなるのか。プログラムの中にあるセキュリティ上の弱点は、これまでホワイトハッカーと呼ばれる専門家が時間をかけて探してきました。それを AI は短時間で見つけてしまいます。AI があれば誰でも簡単にハッキングできるわけではありませんが、攻撃に必要な知識や作業のハードルは、どんどん下がっていると感じます。
この危険性は、今年4月の国会でも議論されました。チームみらいの安野貴博参院議員が、AI のサイバー攻撃能力の急速な進歩について質問し、その中で、アメリカの Anthropic 社が開発した AI「Claude Mythos」が取り上げられました。Anthropic 社の発表によると、この AI を活用したプロジェクトでは、重大なセキュリティ上の弱点が1万件以上見つかっています。弱点の発見だけでなく、それを悪用するためのプログラムまで作れるとされています。
この技術はセキュリティの強化にも使えます。一方で、同じ能力が悪意を持つ人の手に渡れば、大きな脅威になります。そしてこの秋、GMO などの日本企業へのサイバー攻撃が大きく報じられました。この事件で AI が使われたと確認されたわけではなく、事前の対策が十分だったのかという検証も必要です。それでも、AI によって攻撃の環境が急速に変化していることは、企業、国、そして個人が考えなければならない問題です。
経営者にとっての「予防」の難しさ
予防とは、まだ起きていないことに対して、お金や人を使って対策をすることです。予防にお金や人、資源を費やすのは、経営者にとって本当に難しい判断です。AI の危険性も、実際に AI を使っていなければ、なかなか実感できません。
だからこそ、事件が起きたときに経営者や担当者を批判するだけでは、問題は解決しません。事前に危険が指摘されていたのに対策を行っていなかったのであれば、その責任は検証されるべきです。それと同時に、技術の進歩に合わせて、企業や社会の防御の仕組みを考えていく必要があります。
攻撃が AI を使うなら、防御も AI で
AI の登場によって、攻撃の環境が変わるスピードは非常に速くなっています。攻撃する側が AI を使うのであれば、守る側も AI を活用していく必要があります。最終的には、AI と AI が戦う世界になっていくと考えられます。
AI は仕事を驚くほど便利にしてくれますが、悪用されれば大きな脅威にもなります。AI の進歩に、予防や防御が追いつけるのか。これは技術者だけでなく、経営者の皆さんにも考えていただきたい問題です。
la quaLab について
la quaLab では、最新技術を品質向上につなげるための技術コンサルティングや、企業向けの技術教育などを行っています。ご相談は、お問い合わせ先までご連絡ください。
YouTube：https://www.youtube.com/@prof.browqc5084
Spotify：https://open.spotify.com/show/6wCyDsgU4CPeTdsFru1dZj
note：https://note.com/brow1967
Substack：https://substack.com/@brow54
愛知工業大学 清家研究室：https://www.seikelab.com/
お問い合わせ：info@laqualab.com