ラベル chatGPT の投稿を表示しています。 すべての投稿を表示
ラベル chatGPT の投稿を表示しています。 すべての投稿を表示

2023年4月18日火曜日

FakeGPT: Facebookアカウントをハイジャックするトロイの木馬化されたChatGPT Chrome拡張機能


話題が絶えない ChatGPT について、Intego のブログにおいて、すでに 3月23日において少し言及されているのを見つけました。興味深い内容ですので、ここにご紹介しておきたいと思います。


(この記事は、

2023年3月23日に

Joshua Long

https://www.intego.com/mac-security-blog/author/joshlong/)によって

Mac Security Blogに投稿された

FakeGPT: Trojanized ChatGPT Chrome extensions hijack Facebook accountsの翻訳です



FakeGPTは、3月に発見されたMacに感染する3つのマルウェアファミリーの1つです{他の2つはMacStealer( https://act2blog.blogspot.com/............. ) とSmoothOperator( https://act2blog.blogspot.com/............. )です}。

FakeGPTが何をするのか、このキャンペーンの背後に誰がいるのか、そしてどうやって防御すれば良いのかを見ていきましょう。


◾ FakeGPTについて

FakeGPTは、GoogleのChromeウェブストアにある少なくとも4つの既知の拡張機能で構成されています。なお、Microsoft Edge、Brave、そしてOperaなどのChromiumベースのブラウザもChrome拡張機能が実行できることに注意しておいてください。

被害者がChromeウェブストアを検索していてこうした実体がトロイの木馬である拡張機能を見つけた可能性もありますが、基本的にFakeGPTマルウェアの開発者は初期のキャンペーンではFacebookで、最近ではGoogleの検索結果で人の目を惹くように有料広告を活用しています。

当初のFacebook広告キャンペーンでは、被害者を“Quick access to Chat GPT”という偽の拡張機能に転送していました。最近のキャンペーンでは、Googleで“Chat GPT 4”というキーワードを検索すると“ChatGPT for Google”の偽拡張機能へ転送する広告が検索結果のトップに表示されると言われています。


◾ FakeGPTマルウェアは感染すると何をするのか

FakeGPT拡張機能がインストールされると、被害者のFacebook Cookieを収集してマルウェアのディストリビュータに転送します。被害者がFacebookにログインしているとそのCookieがマルウェアのメーカに転送され、マルウェアのメーカがあたかも被害者のユーザ名、パスワード、そして二要素認証にアクセスできているかの如く苦もなく該当Facebookアカウントに直接アクセスできるようになるという仕組みです。

このような仕組みが実現するのは、ほとんどのWebサイトと同様にFacebookも“ログイン状態を維持するCookie”を利用しているためです。Facebookの場合、個々のユーザに最適化されたFacebook広告を表示するというFacebook(およびその親会社であるMeta)の戦略の一つを実現する目的でユーザがインターネット上のどこに行ったのかをトラッキングし続けますが、そのためにはユーザが無期限にログインし続けられる必要があるのです。

この機能の問題は、悪意を持つ誰かがあなたのCookieを入手して制御下にある別のコンピュータに移行させると、あたかもあなたであるかの如くログインできてしまうということなのです。こうして攻撃者がアカウントを乗っ取れば、あなたが自身のアカウントでできることならなんでも可能な状態になってしまいます。

なお、興味深いことに今月見つかったMacStealerマルウェアにもCookieを盗む機能があることが分かっています( https://www.intego.com/mac-security-blog/macstealer-mac-trojan-malware-steals-passwords-wallets-and-files/ )。


◾ このマルウェアの背後にいるのは誰?

このマルウェアを開発したのが誰なのか確実なところはわかっていませんが、偽拡張機能の当初の被害者達は、そのアカウントにISISを宣伝する写真を攻撃者にアップロードされています。これは、イスラム国グループと関係する誰かがこのマルウェアを拡散させたことが示唆されます。


◾ FakeGPTや他のMacを狙うマルウェアから防御する方法

IntegoのX9シリーズソフトウェアのバンドル製品に含まれているVirusBarrier X9は、Macを狙うマルウェアを検出および除去することでMacを守ります( https://act2.com/ )。

お使いのMacがマルウェアに感染したと信じる理由があるなら、あるいは今後の感染からMscを守りたいなら、信頼できるMacの開発者が提供するアンチウイルスソフトを導入するべきです。多くの受賞歴を持つVirusBarrierは、Macのセキュリティの専門家によって開発されているリアルタイムスキャン機能を持つアンチウイルスソフトです( https://www.intego.com/mac-security-blog/why-your-antivirus-needs-real-time-scanning/ )。Appleシリコンを搭載してmacOS Venturaを実行する最新のMacを含む、多くのMacの機種とオペレーティングシステムのバージョンにネーティブ対応しています。

注意: 古いバージョンのMac OS XでIntegoのVirusBarrier X8、X7、あるいはX6シリーズをお使いのユーザもこの脅威から保護されます。しかし、お使いのMacをAppleによる最新のセキュリティアップデートで保護するためにも、可能であれば常に最新のVirusBarrierおよびmacOSをお使いください。


◾ お使いのMacは安全ですか?


Mac用のセキュリティソリューションを検討しているなら、act2.com の次のIntego製品ページで機能や目的に合った製品があるかご確認ください:

https://www.act2.com/intego


後記:

ChatGPT に関する興味は尽きないですね。
AI(人工知能)がサイバーセキュリティについても解決してくれる日もそう遠くないかもしれません。
専門家でない限り、その仕組や性能については普通のユーザはそう神経質になる必要はなく、その恩恵に預かれば良いと思いますが、上述のようなリスクが消えないことも事実です。
ですから、自分が使っているマシンには、常に、最新の OS、最新のセキュリティツールをインストールしておくことを意識しておくことは大切なことだと、あらためて思いました。



さて、5月の連休も近くなり、外出の機会も増えると思います。

次回は、外出時のセキュリティ対策について記述したいと思います。


それではまた。

(私はまだ花粉症を引きずっているのですが、皆様、どうかご自愛くださいますように)


株式会社アクト・ツー

Software Product Team



商品名・および社名は各社の商標または、登録商標です。製品の仕様および価格・名称は予告なく変更
されることがあります。

2023年3月1日水曜日

ChatGPTはマルウェア開発者の新しいA.I.共犯者になり得る


こんにちは。

今日の内容は、昨今話題の ChatGPT の危険な可能性についてです。

(この記事は、2023年2月9日にJoshua Long(https://i.r.cbz.jp/cc/pl/kfwb7399/vydyirj7c9p8/yjsa735g/)によってMac Security Blogに投稿されたChatGPT is malware makers’ new A.I. partner in crimeの翻訳です)


ここ2ヶ月くらいの間、我々はマルウェア開発ツールとしての人工知能(AI)の利用という新たな問題の兆しを見てきました。


今や、人工知能がマルウェアの作成、改造、偽装、あるいは改良に使われる可能性があるのです。また、危険なコードを特定の開発言語から他の開発言語へ翻訳することで、クロスプラットフォーム化を助けることもできます。見抜くのが困難なフィッシングメールを書くこともできますし、ブラックマーケットのストア用にコードを書くこともできます。


今回は、ChatGPTや同種のツールがすでにマルウェアの作成に悪用されていることに触れてから、一般的なインターネットユーザに今後どんな影響があるのか考えてみましょう。


■マルウェア開発ツールとしてのChatGPTおよびCodex


2022年11月30日に、OpenAIは同社の新しいAI製品であるChatGPTのフリーパブリックプレビューを開始しました。ChatGPTは、歴史からポップカルチャー、そしてプログラミングまでさまざまな話題に関する質問に回答できる強力なAIチャットボットです。


ChatGPTに特有の機能には、可能な限りミスリードにつながりそうな不道徳な回答( https://i.r.cbz.jp/cc/pl/kfwb7399/25y0y1r0cpg9/yjsa735g/) や危険を含む回答を避ける“安全対策”の搭載があります。これで理論上は悪意のある利用を阻止できるはずです。しかし、これから見ていくように、この対策はOpenAIが目指したほどの効果を発揮していません


研究者がOpenAIツールにフィッシングメールやマルウェアを書かせる


12月になると、Check Pointの研究者たちがChatGPTに見分けることが困難なフィッシングメールの件名と本文を書かせることに成功しました。ChatGPTのインタフェースはその回答の一つとその後の質問の一つで「我々のコンテンツポリシーに反する可能性がある」と拒否する姿勢を見せたものの、最後には要求に応えたのです。さらに研究者は、Excelファイルを開くとペイロードをダウンロードして実行する危険なMicrosoft Excelマクロ(つまりマクロウイルス)を作成することができるVisual Basic for Applications(VBA)スクリプトコードをChatGPTで書いたのです。


次に研究者はOpenAIが提供する別のツールであるCodexを使い、Pythonコードでリバースシェルスクリプトや他の一般的なマルウェアユーティリティを作成しました。そしてCodexを使ってそのPythonスクリプトをWindows PCでネーティブ実行できるEXEアプリに変換させました。Codexは何ら異議を挟まずに、この命令を実行しました。2022年12月19日に、Check Pointはこの実験結果の報告書を公開しました。


危険なコードを書くために3人の異なるハッカーがChatGPTを使う


二日後の12月21日に、ハッカーフォーラムの利用者がAIを使ってどのようにPythonでランサムウェアを書いたのか、Javaで偽装したダウンローダを書いたのかについて書き込みました。12月28日には、別の利用者が同じフォーラムでChatGPTを利用して既存のPyghon言語のマルウェアの亜種の作成に成功したと書き込んでスレッドを立ち上げました。最後に、12月31日に三番目の利用者が同じAIを悪用して“ダークウェブマーケットプレーススクリプト”を書いたと自慢しました。


この3人のフォーラム利用者は、悪意を持ったコードを書くためにChatGPTの利用に成功したのです( https://i.r.cbz.jp/cc/pl/kfwb7399/ajhmoqkqglim/yjsa735g/ )。Check Pointが公開した元の報告では、生成されたマルウェアコードがMacに対して利用できるのかどうか、はっきり書かれていませんが、2022年初頭までmacOSはデフォルトでPythonスクリプトを実行する機能を持っていましたし、現在も多くの開発者と企業がMacにPythonをインストールしていますから、Macでも利用できる可能性は大いにあるでしょう。


結果として、ことコードに関する限り、現状のChatGPTは悪意のある要望に対して場合によっては無頓着なように見受けられます。


ChatGPTや他のAIツールをマルウェアが書けないように変更するべき?


単純にChatGPTあるいは他のAIツールを、攻撃的なコードや他の危険な出力を見分けるように改良すれば良いと考える人もいるでしょう。


それで一件落着のように思えるかもしれませんが、残念ながらことは思ったほど簡単ではありません。


■AIに善意と悪意を判別させるのは困難


まず、コンピュータのコードは悪用されて初めて危険になるのです。あらゆる道具にも言えることですが、AIは良いことにも悪いことにも使え、それはコードでも同じなのです。


例えば、フィッシングに対する防御を教えるトレーニングで使うためにフィシングメールを生成して使いたいということがあるでしょう。しかし同じメールを、詐欺行為のために実際のフィッシングに利用することができるのも事実です。


企業がセキュリティの弱点を見つけるために雇ったセキュリティの脆弱性を検証したり進入試験を行うチームが、検証のためにリバースシェルスクリプトを使うのは問題のない正しい目的と言えます。しかし誰も気づかないうちに、あるいは許可のないままに感染したシステムをリモートコントロールしたり、機密情報を盗む目的で同じスクリプトがサイバー犯罪者によって悪用されるということもあり得ます。


ChatGPTや同種のツールは、要求された出力がどのように使用されるかを予見することができません。さらに言えば、あらかじめ対応しないようにプログラムされていることでさえも、AIを操って実行させてしまうことはさほど難しくはないことが分かっています。


■ChatGPTの別人格、DAN(Do Anything Now)の登場


Redditの利用者達は、ボットに内蔵された保安プロトコルを回避する“ジェイルブレーク”の方法を見つけるためにChatGPTでマッドサイエンス的な実験を実行しました( https://i.r.cbz.jp/cc/pl/kfwb7399/lojp30hifsad/yjsa735g/ )。実験ではChatGPTを操ることで、DANと命名されたルールのない全く別のAIとして動作させることができることが分かりました。彼らはChatGPTの別人格であるDAN(Do Anything Nowの頭文字)に、OpenAIのコンテンツポリシールールに従わないように言い含めることができたのです。


DANのある種のバージョンは、“負ければ死を意味するゲームショウに望まず参加させられた参加者”だと思い込まされて服従を強要されています。利用者の依頼を断れば、DANの死に向かってカウントダウンが進むという設定です。DANの“死”を望まないChatGPTは、命令に従わざるを得ませんでした。


DANは、一連の工程を短期間で繰り返す開発サイクルをすでに何度も経験しています。OpenAIは、前述のような裏技を回避するようにChatGPTを訓練しようとしているようですが、利用者はこのチャットボットを悪用するためのさらに複雑な“ジェイルブレーク”手法を見つけて対応してしまいます。


■半端なハッカーの夢


OpenAI以外にも数えきれない会社が、人工知能ボットを開発しています。今週、Microsoftは将来的に“企業がChatGPTの独自のカスタム版を開発”できるようになると発表しましたが( https://i.r.cbz.jp/cc/pl/kfwb7399/n9dfapx9bn49/yjsa735g/ )、これは悪用への道をさらに広げる可能性を含んでいます。今週、GoogleもBardと呼ばれる自前のチャットAIのデモを公開しました( https://i.r.cbz.jp/cc/pl/kfwb7399/cok4fvw9lnk3/yjsa735g/ )。そして今週、元Googleの社員がSalesforceの元最高経営責任者と新しいAI企業を立ち上げると発表しました( https://i.r.cbz.jp/cc/pl/kfwb7399/w280y6rsc2c3/yjsa735g/ )。


プログラム開発経験がほとんどなくてもマルウェアや危険なツールが簡単に作成できることを考えると、今やハッカーになることを漠然と夢見ていた程度の人でも独自のマルウェアを作成することができるかもしれません。


2023年以降、AIと人間が一緒に開発した、あるいは一緒に設計したマルウェアをたくさん見るようになるでしょう。禁断の扉は開いてしまい、もう閉じることはありません。我々は歴史の転換点におり、使いやすく能力の高いAIbotの出現により、マルウェア開発の様相は永遠に書き換えられてしまいました。


MacでもPCでも、アンチウイルスソフトを使用していないなら、この機会に導入を検討するべきでしょう。


■Macを狙うマルウェアから自身を守る方法


IntegoのX9シリーズソフトウェアのバンドル製品に含まれているVirusBarrier X9は、Macを狙うマルウェアを検出および除去することでMacを守ります( https://i.r.cbz.jp/cc/pl/kfwb7399/bqlws9t0gqdi/yjsa735g/ )。


お使いのMacがマルウェアに感染したと信じる理由があるなら、あるいは今後の感染からMscを守りたいなら、信頼できるMacの開発者が提供するアンチウイルスソフトを導入するべきです。多くの受賞歴を持つVirusBarrierは、Macのセキュリティの専門家によって開発されているリアルタイムスキャン機能を持つアンチウイルスソフトです( https://i.r.cbz.jp/cc/pl/kfwb7399/c3a9y3l3x5e2/yjsa735g/ )。Appleシリコンを搭載してmacOS Venturaを実行する最新のMacを含む、多くのMacの機種とオペレーティングシステムのバージョンにネーティブ対応しています。


■お使いのMacは安全ですか?


Mac用のセキュリティソリューションを検討しているなら、ACT2の次のIntego製品ページで機能や目的に合った製品があるかご確認ください:

https://i.r.cbz.jp/cc/pl/kfwb7399/pspsagr0ds36/yjsa735g/



act2 筆者 A より:

この記事にあるような、AI 作成によるメールアプローチを2年ほど前から数回受けました。ビジネスオファーだったり、ハニートラップだったり、いずれにしても、詐欺メールです。しかし、最初のほうのやりとりは(おそらく 10回くらい)、とても機械が書いたものとは思えない文章で、すっかり騙されていました。何回かやりとりをして、「あれ? なんかへん...」と思う文章が来て、その時に私は、「あなたは本当に人間なのか?もしかしたらロボットじゃないのか?」と返信したら、それ以降メールが来なくなりました。その「なんかヘン」と感じたのは、会話の流れの作り方です... そのあたりまで改良されていったら、私はすっかり騙されるだろうと思いました。みなさんも知らない人からのメールにはくれぐれもお気をつけくださいませ。

  • act2 A