こんにちは。
今日の内容は、昨今話題の ChatGPT の危険な可能性についてです。
（この記事は、2023年2月9日にJoshua Long（https://i.r.cbz.jp/cc/pl/kfwb7399/vydyirj7c9p8/yjsa735g/）によってMac Security Blogに投稿されたChatGPT is malware makers’ new A.I. partner in crimeの翻訳です）
ここ２ヶ月くらいの間、我々はマルウェア開発ツールとしての人工知能（AI）の利用という新たな問題の兆しを見てきました。
今や、人工知能がマルウェアの作成、改造、偽装、あるいは改良に使われる可能性があるのです。また、危険なコードを特定の開発言語から他の開発言語へ翻訳することで、クロスプラットフォーム化を助けることもできます。見抜くのが困難なフィッシングメールを書くこともできますし、ブラックマーケットのストア用にコードを書くこともできます。
今回は、ChatGPTや同種のツールがすでにマルウェアの作成に悪用されていることに触れてから、一般的なインターネットユーザに今後どんな影響があるのか考えてみましょう。
■マルウェア開発ツールとしてのChatGPTおよびCodex
2022年11月30日に、OpenAIは同社の新しいAI製品であるChatGPTのフリーパブリックプレビューを開始しました。ChatGPTは、歴史からポップカルチャー、そしてプログラミングまでさまざまな話題に関する質問に回答できる強力なAIチャットボットです。
ChatGPTに特有の機能には、可能な限りミスリードにつながりそうな不道徳な回答（ https://i.r.cbz.jp/cc/pl/kfwb7399/25y0y1r0cpg9/yjsa735g/） や危険を含む回答を避ける“安全対策”の搭載があります。これで理論上は悪意のある利用を阻止できるはずです。しかし、これから見ていくように、この対策はOpenAIが目指したほどの効果を発揮していません。
■研究者がOpenAIツールにフィッシングメールやマルウェアを書かせる
12月になると、Check Pointの研究者たちがChatGPTに見分けることが困難なフィッシングメールの件名と本文を書かせることに成功しました。ChatGPTのインタフェースはその回答の一つとその後の質問の一つで「我々のコンテンツポリシーに反する可能性がある」と拒否する姿勢を見せたものの、最後には要求に応えたのです。さらに研究者は、Excelファイルを開くとペイロードをダウンロードして実行する危険なMicrosoft Excelマクロ（つまりマクロウイルス）を作成することができるVisual Basic for Applications（VBA）スクリプトコードをChatGPTで書いたのです。
次に研究者はOpenAIが提供する別のツールであるCodexを使い、Pythonコードでリバースシェルスクリプトや他の一般的なマルウェアユーティリティを作成しました。そしてCodexを使ってそのPythonスクリプトをWindows PCでネーティブ実行できるEXEアプリに変換させました。Codexは何ら異議を挟まずに、この命令を実行しました。2022年12月19日に、Check Pointはこの実験結果の報告書を公開しました。
■危険なコードを書くために３人の異なるハッカーがChatGPTを使う
二日後の12月21日に、ハッカーフォーラムの利用者がAIを使ってどのようにPythonでランサムウェアを書いたのか、Javaで偽装したダウンローダを書いたのかについて書き込みました。12月28日には、別の利用者が同じフォーラムでChatGPTを利用して既存のPyghon言語のマルウェアの亜種の作成に成功したと書き込んでスレッドを立ち上げました。最後に、12月31日に三番目の利用者が同じAIを悪用して“ダークウェブマーケットプレーススクリプト”を書いたと自慢しました。
この３人のフォーラム利用者は、悪意を持ったコードを書くためにChatGPTの利用に成功したのです（ https://i.r.cbz.jp/cc/pl/kfwb7399/ajhmoqkqglim/yjsa735g/ ）。Check Pointが公開した元の報告では、生成されたマルウェアコードがMacに対して利用できるのかどうか、はっきり書かれていませんが、2022年初頭までmacOSはデフォルトでPythonスクリプトを実行する機能を持っていましたし、現在も多くの開発者と企業がMacにPythonをインストールしていますから、Macでも利用できる可能性は大いにあるでしょう。
結果として、ことコードに関する限り、現状のChatGPTは悪意のある要望に対して場合によっては無頓着なように見受けられます。
■ChatGPTや他のAIツールをマルウェアが書けないように変更するべき？
単純にChatGPTあるいは他のAIツールを、攻撃的なコードや他の危険な出力を見分けるように改良すれば良いと考える人もいるでしょう。
それで一件落着のように思えるかもしれませんが、残念ながらことは思ったほど簡単ではありません。
■AIに善意と悪意を判別させるのは困難
まず、コンピュータのコードは悪用されて初めて危険になるのです。あらゆる道具にも言えることですが、AIは良いことにも悪いことにも使え、それはコードでも同じなのです。
例えば、フィッシングに対する防御を教えるトレーニングで使うためにフィシングメールを生成して使いたいということがあるでしょう。しかし同じメールを、詐欺行為のために実際のフィッシングに利用することができるのも事実です。
企業がセキュリティの弱点を見つけるために雇ったセキュリティの脆弱性を検証したり進入試験を行うチームが、検証のためにリバースシェルスクリプトを使うのは問題のない正しい目的と言えます。しかし誰も気づかないうちに、あるいは許可のないままに感染したシステムをリモートコントロールしたり、機密情報を盗む目的で同じスクリプトがサイバー犯罪者によって悪用されるということもあり得ます。
ChatGPTや同種のツールは、要求された出力がどのように使用されるかを予見することができません。さらに言えば、あらかじめ対応しないようにプログラムされていることでさえも、AIを操って実行させてしまうことはさほど難しくはないことが分かっています。
■ChatGPTの別人格、DAN（Do Anything Now）の登場
Redditの利用者達は、ボットに内蔵された保安プロトコルを回避する“ジェイルブレーク”の方法を見つけるためにChatGPTでマッドサイエンス的な実験を実行しました（ https://i.r.cbz.jp/cc/pl/kfwb7399/lojp30hifsad/yjsa735g/ ）。実験ではChatGPTを操ることで、DANと命名されたルールのない全く別のAIとして動作させることができることが分かりました。彼らはChatGPTの別人格であるDAN（Do Anything Nowの頭文字）に、OpenAIのコンテンツポリシールールに従わないように言い含めることができたのです。
DANのある種のバージョンは、“負ければ死を意味するゲームショウに望まず参加させられた参加者”だと思い込まされて服従を強要されています。利用者の依頼を断れば、DANの死に向かってカウントダウンが進むという設定です。DANの“死”を望まないChatGPTは、命令に従わざるを得ませんでした。
DANは、一連の工程を短期間で繰り返す開発サイクルをすでに何度も経験しています。OpenAIは、前述のような裏技を回避するようにChatGPTを訓練しようとしているようですが、利用者はこのチャットボットを悪用するためのさらに複雑な“ジェイルブレーク”手法を見つけて対応してしまいます。
■半端なハッカーの夢
OpenAI以外にも数えきれない会社が、人工知能ボットを開発しています。今週、Microsoftは将来的に“企業がChatGPTの独自のカスタム版を開発”できるようになると発表しましたが（ https://i.r.cbz.jp/cc/pl/kfwb7399/n9dfapx9bn49/yjsa735g/ ）、これは悪用への道をさらに広げる可能性を含んでいます。今週、GoogleもBardと呼ばれる自前のチャットAIのデモを公開しました（ https://i.r.cbz.jp/cc/pl/kfwb7399/cok4fvw9lnk3/yjsa735g/ ）。そして今週、元Googleの社員がSalesforceの元最高経営責任者と新しいAI企業を立ち上げると発表しました（ https://i.r.cbz.jp/cc/pl/kfwb7399/w280y6rsc2c3/yjsa735g/ ）。
プログラム開発経験がほとんどなくてもマルウェアや危険なツールが簡単に作成できることを考えると、今やハッカーになることを漠然と夢見ていた程度の人でも独自のマルウェアを作成することができるかもしれません。
2023年以降、AIと人間が一緒に開発した、あるいは一緒に設計したマルウェアをたくさん見るようになるでしょう。禁断の扉は開いてしまい、もう閉じることはありません。我々は歴史の転換点におり、使いやすく能力の高いAIbotの出現により、マルウェア開発の様相は永遠に書き換えられてしまいました。
MacでもPCでも、アンチウイルスソフトを使用していないなら、この機会に導入を検討するべきでしょう。
■Macを狙うマルウェアから自身を守る方法
IntegoのX9シリーズソフトウェアのバンドル製品に含まれているVirusBarrier X9は、Macを狙うマルウェアを検出および除去することでMacを守ります（ https://i.r.cbz.jp/cc/pl/kfwb7399/bqlws9t0gqdi/yjsa735g/ ）。
お使いのMacがマルウェアに感染したと信じる理由があるなら、あるいは今後の感染からMscを守りたいなら、信頼できるMacの開発者が提供するアンチウイルスソフトを導入するべきです。多くの受賞歴を持つVirusBarrierは、Macのセキュリティの専門家によって開発されているリアルタイムスキャン機能を持つアンチウイルスソフトです（ https://i.r.cbz.jp/cc/pl/kfwb7399/c3a9y3l3x5e2/yjsa735g/ ）。Appleシリコンを搭載してmacOS Venturaを実行する最新のMacを含む、多くのMacの機種とオペレーティングシステムのバージョンにネーティブ対応しています。
■お使いのMacは安全ですか？
Mac用のセキュリティソリューションを検討しているなら、ACT2の次のIntego製品ページで機能や目的に合った製品があるかご確認ください:
https://i.r.cbz.jp/cc/pl/kfwb7399/pspsagr0ds36/yjsa735g/
act2 筆者 A より：
この記事にあるような、AI 作成によるメールアプローチを２年ほど前から数回受けました。ビジネスオファーだったり、ハニートラップだったり、いずれにしても、詐欺メールです。しかし、最初のほうのやりとりは（おそらく 10回くらい）、とても機械が書いたものとは思えない文章で、すっかり騙されていました。何回かやりとりをして、「あれ？ なんかへん...」と思う文章が来て、その時に私は、「あなたは本当に人間なのか？もしかしたらロボットじゃないのか？」と返信したら、それ以降メールが来なくなりました。その「なんかヘン」と感じたのは、会話の流れの作り方です... そのあたりまで改良されていったら、私はすっかり騙されるだろうと思いました。みなさんも知らない人からのメールにはくれぐれもお気をつけくださいませ。
0 件のコメント:
コメントを投稿