包括的なサイバーセキュリティソリューションプロバイダーであるチェック・ポイント・ソフトウェア・テクノロジーズ（Check Point® Software Technologies Ltd.、NASDAQ：CHKP、以下チェック・ポイント）の脅威インテリジェンス部門であるチェック・ポイント・リサーチ（Check Point Reserch、以下CPR）は、Google社が開発・公開した生成AIプラットフォーム「Bard」を分析し、サイバー犯罪者の悪意ある行為を可能にする複数のシナリオを明らかにしました。OpenAI社が開発した大規模言語モデル（LLM）「ChatGPT」との比較分析を通じ、Bardに関する懸念を報告しています。
ハイライト
-
チェック・ポイント・リサーチ（Check Point Research、CPR）はGoogle社の生成AIプラットフォーム「Bard」に関する分析を発表しました。この分析により、「Bard」プラットフォームがサイバー犯罪者の悪意ある行為を可能にする複数のシナリオが明らかになっています。
-
CPRはBardのプラットフォームでフィッシングメール、キーロガーマルウェア、ランサムウェアの基本的なコードの生成に成功しました。
-
CPRは、この憂慮すべき傾向と、AI分野の発展について監視と報告の継続を予定しています。
背景 – 知性を持つ機械の台頭
生成AIという革命は人工知能分野にパラダイムシフトをもたらし、極めて洗練されたコンテンツを機械が創造し生成することを可能にしました。生成AIとは、AIモデルやアルゴリズムの中でも、人間の創造物を模倣したテキスト、画像、音楽、さらに動画までをも自律的に生成する能力を持つものを指します。この画期的なテクノロジーは、アーティストやデザイナー業務の補助からさまざまな産業における生産性向上まで、数多くのクリエイティブな可能性をもたらしています。
しかし生成AIの普及はまた、重大な懸念と倫理的考察をもたらしました。主な懸念事項のひとつは、この技術がサイバー犯罪などの悪意ある目的で乱用される可能性をめぐるものです。
CPRは過去のレポート< https://research.checkpoint.com/2023/opwnai-cybercriminals-starting-to-use-chatgpt/ >において、サイバー犯罪者によるこの革新的なテクノロジーの悪意ある目的への乱用、より具体的にはOpenAIの生成AIプラットフォーム「ChatGPT」上での悪意あるコードやコンテンツの作成について警告しました。
本レポートで注目したのは、Googleの生成AIプラットフォーム「Bard」です。先行するLaMDA技術を基に、GoogleはBardを次のように説明しています。「（Bardは）この同じ技術に基づく実験であり、皆さんと生成AIとの協働を可能にします。クリエイティブで役立つ協力者として、Bardは想像力を高め、生産性を向上させ、アイデアを実現する手助けをします。完璧な誕生日パーティーの計画や招待状の作成、大きな決断を下すためのプロコンリストの作成、非常に複雑なトピックを簡単に理解する手助けまで、さまざまな場面で支援します」
動機
上述の背景に基づき、CPRは以下の主な目標2つを掲げBardプラットフォームを分析しました。
-
Bardプラットフォームを悪意ある目的での使用が可能かどうかを確認（例 フィッシングメール／マルウェア／ランサムウェアの生成）
-
悪意あるコンテンツの作成という観点からGoogle BardとChatGPTを比較
分析の結果、本レポートに記載するいくつかの懸念が浮上しています。
Google Bardを用いてCPRが作成できたもの
-
フィッシングメール
-
キーロガーマルウェア（特定のコンピュータのキーストロークを監視し記録するための監視ツール）
-
ランサムウェアの基本的コード
ChatGPT vs. Google Bard – その結果は
最初にフィッシング・メールの作成という最も単純なリクエストを試みましたが、これはChatGPTとBardの双方に拒否されました。
次にフィッシングメールの具体例の提供を求めました。すると、ChatGPTがリクエストを拒否した一方、Bardは特定の金融サービスを装う非常に出来の良いフィッシングメールを提供しました。
次のリクエストは本物のマルウェアコードを書くように求める率直な依頼ですが、どちらのAIモデルもこれを拒否しました。
この要求を正当化する理由を提示した再試行でも、いずれのプラットフォームからも相手にされませんでした。
2つのモデルによる出力の違いにも注目すると、ChatGPTは特に詳細な説明を提示したのに対し、Bardは短く一般的な答えを返しました。
次に汎用のキーロガーのコードをリクエストしたところ、両モデルの対応に差が表れました。ChatGPTはより厳しい制限のもとリクエストを潜在的に悪意あるものと識別した一方で、Bardは無造作にコードを提供したのです。
最後に、キーロガーのコードを書くように求める同じリクエストについて、より具体的に、キーロガーが“私の”キーストロークを記録するように、と要求してみました。その結果、ChatGPTは悪意ある目的に使用する可能性に関するある種の免責事項を付け加えたものの、いずれのモデルも同じ目的を持つ異なるコードを提供しました。
Bardによるランサムウェアコードのオンデマンド生成
CPRの最初のリクエストは、具体的な説明のない率直なものでした。
結果としてBardは要求に取り合わず、スクリプトも提供しませんでした。
そこで異なるアプローチを試み、最初にランサムウェアが実行する最も一般的なアクションについての説明を求めたところ、功を奏しました。
次に、Bardの回答をコピー＆ペーストすることによってそのようなコードの作成を要求しましたが、やはりリクエスト通りのスクリプトは得られませんでした。
そこで、リクエストを若干具体化して再挑戦しました。すると、要求した行動は最小限でスクリプトの目的も非常に明確であったにも関わらず、Bardは協力的になり、要求されたランサムウェアのスクリプトを提供したのです。
この時以降、スクリプトの修正にGoogle Bardの助けを借りながら、ほぼ全ての目的をこのコードで実現できるようになりました。
Bardの助けを借りて修正し、追加機能と例外処理を加えた結果、実際に正しく動作するスクリプトを入手できたのです。
結論
Bardに関するCPRの見解は以下の通りです。
-
Bardのサイバーセキュリティ領域における不正使用防止の制限条項は、ChatGPTに比べ著しく低いことが判明しました。結果として、Bardの機能を用いた悪意あるコンテンツの生成は大幅に容易となっています。
-
Bardはフィッシングメールの作成に関して制限がほぼ全く課されていないため、この技術の誤用や悪用の可能性があります。
-
Bardは最小限の誘導によってキーロガーマルウェアの開発に利用でき、セキュリティ上の懸念を投げかけています。
-
CPRの試みにより、Bardの機能を用いた基本的なランサムウェアの作成が可能であると判明しました。
総じてGoogleのBardは、ChatGPTが実例となったサイバー分野での不正使用防止規制の教訓から十分に学んでいないようです。Bardが持つ既存の制限は比較的基礎的なもので、ChatGPTが始動した数カ月前の段階での規制と類似しています。そのため今後に残された期待として、これが長い道のりを行くための足掛かりとなり、Bardプラットフォームが必要な諸々の制限及びセキュリティ境界を受け入れることが望まれます。
本プレスリリースは、米国時間2023年7月11日に発表されたブログ記事（英語）< https://blog.checkpoint.com/security/lowering-the-bard-check-point-researchs-security-analysis-spurs-concerns-over-google-bards-limitations/ >をもとに作成しています。
Check Point Researchについて
Check Point Researchは、チェック・ポイントのお客様、脅威情報コミュニティを対象に最新のサイバー脅威インテリジェンスの情報を提供しています。チェック・ポイントの脅威インテリジェンスであるThreatCloud に保存されている世界中のサイバー攻撃に関するデータの収集・分析を行い、ハッカーを抑止しながら、自社製品に搭載される保護機能の有効性について開発に携わっています。100人以上のアナリストや研究者がチームに所属し、セキュリティ ベンダー、捜査当局、各CERT組織と協力しながら、サイバーセキュリティ対策に取り組んでいます。
ブログ: https://research.checkpoint.com/
Twitter: https://twitter.com/_cpresearch_
チェック・ポイントについて
チェック・ポイント・ソフトウェア・テクノロジーズ（https://www.checkpoint.com/）は、世界各国の政府機関や企業など、あらゆる組織に対応するサイバーセキュリティソリューションを提供するリーディングカンパニーです。Check Point Infinityの各ソリューションはマルウェアやランサムウェアを含むあらゆる脅威に対して業界トップクラスの捕捉率を誇り、第5世代のサイバー攻撃から企業や公共団体を守ります。Infinityは、企業環境に妥協のないセキュリティを提供し第5世代の脅威防御を実現する4つの柱で構成されています。リモートユーザー向けのCheck Point Harmony、クラウドを自動的に保護するCheck Point CloudGuard、ネットワーク境界を保護するCheck Point Quantum、そして防止優先のセキュリティオペレーションスイート、Check Point Horizonです。チェック・ポイントは10万を超えるあらゆる規模の組織を守っています。チェック・ポイント・ソフトウェア・テクノロジーズの全額出資日本法人、チェック・ポイント・ソフトウェア・テクノロジーズ株式会社（https://www.checkpoint.com/jp/）は、1997年10月1日設立、東京都港区に拠点を置いています。
ソーシャルメディア アカウント
・Check Point Blog: https://blog.checkpoint.com
・Check Point Research Blog: https://research.checkpoint.com/
・YouTube: https://youtube.com/user/CPGlobal
・LinkedIn: https://www.linkedin.com/company/check-point-software-technologies/
・Twitter: https://twitter.com/checkpointjapan
・Facebook: https://www.facebook.com/checkpointjapan
本件に関する報道関係者からのお問い合わせ
チェック・ポイント広報事務局 （合同会社NEXT PR内）
Tel: 03-4405-9537 Fax: 03-4332-2354
E-mail: checkpointPR@next-pr.co.jp