ChatGPTを不正利用して起きた悪用事例・犯罪事例をまとめてみた

ChatGPTの悪用事例・犯罪事例
サービスロンチ以降爆発的な人気を誇っているChatGPTですが、利用者が増えるに伴って様々な課題や問題も発生しています。
今回はChatGPTで犯罪活用された例や今後想定される犯罪ケースをスコアごとにまとめました。
それでは、犯罪レベル順にご紹介していきます。
試験・課題の代行
犯罪レベル不明(★) グレーゾーン

上記はChatGPTによって基本情報技術者試験の内容を回答させた例です。
ChatGPTに訪ねた結果正しい回答が返ってきています。ChatGPTによって学校の課題やオンラインでの試験に悪用されることで、不正な資格取得や教育への悪影響が懸念されます。
実際The Stanford Daily※1の記事によるとアメリカのStanford大学の学生のうち、およそ17%が「課題または試験にChatGPTを使用している」と回答したとしています。
※1 Scores of Stanford students used ChatGPT on final exams, survey suggests
https://stanforddaily.com/2023/01/22/scores-of-stanford-students-used-chatgpt-on-final-exams-survey-suggests/
ChatGPTによる生徒の学習への悪影響を懸念してニューヨーク市では学校でのデバイスやネットワークでのChatGPTの利用を禁止したとChalkBeat※2が報じており、今後そのほかの教育現場でも対応を迫られそうです。
反面INSIDER※3の記事によるとWharton business schoolでは「生徒にツールの有用性や使い方の観点からChatGPTの利用を推奨する」などチャットAIの教育の活用については今後様々な議論がありそうです。
※2 NYC education department blocks ChatGPT on school devices, networks
https://ny.chalkbeat.org/2023/1/3/23537987/nyc-schools-ban-chatgpt-writing-artificial-intelligence
※3 A Wharton business school professor is requiring his students to use ChatGPT
https://www.businessinsider.com/wharton-mba-professor-requires-students-to-use-chatgpt-ai-cheating-2023-1
フェイクニュースの作成
犯罪レベル微(★★)モラル違反

ChatGPTではそれらしい記事やニュースも作成可能です。
例としては日本が政策金利を引き上げたという内容の嘘のニュースを作成した事例になります。
実際のニュースと比べても見分けがつかないクオリティになっており、このニュースだけを見たら真実かと思ってしまいます。
また東洋経済※4によると中国で「ChatGPT」による偽ニュース拡散で当局が対応に追われるなどの実害も報告されています。
※4 中国「ChatGPT」偽ニュース拡散で揺れる政権対応
https://toyokeizai.net/articles/-/654040
なりすまし
犯罪レベル中(★★★)小中規模な犯罪に繋がる行為

ChatGPTでは文書を他人が書いたようにもすることが可能です。
あまり詳しくは説明しませんが、上記は女性のような文書を想定して挨拶の文書を出力した例になります。
ChatGPTは悪用すれば第三者になりすまし詐欺やなりすましによって不正に情報や金銭を得るといったことも可能性として考えられます。
フィッシング詐欺
犯罪レベル大(★★★★)大規模な犯罪に繋がる行為
ChatGPTで偽メールや文言を作成したり、有名なソフトウェアサービスに告知したWebサイトを作成し、ログイン情報や金銭をだまし取るといったことも可能性として考えれます。 実際にアメリカのセキュリティ企業のFortra※5によるとChatGPTの偽サイトやアプリが登場しておりIDやパスワードなどのユーザー情報を不正に取得したり、アドウェアやスパイウェアのインストールに誘導したり、料金を請求するような例があるとのことです。 これらはChatGPTを使った犯罪ではありませんが、上記のような事例にChatGPTが悪用される懸念があります。
※5 Fake ChatGPT apps spread Windows and Android malware
https://www.tripwire.com/state-of-security/fake-chatgpt-apps-spread-windows-and-android-malware
サイバー犯罪への利用
犯罪レベル超(★★★★★)国家規模の犯罪に繋がる行為
ChatGPTでは悪意のあるプログラムコード生成できる懸念が指摘されています。 サイバーセキュリティソリューションプロバイダーであるチェック・ポイント・ソフトウェア・テクノロジーズによると※6 サイバー犯罪者によるChatGPTの悪用は既に始まっているとしており具体的な事例も公開されています。 またその中の一例としてインフォスティーラー(Infostealer)と呼ばれる感染したデバイスから情報を窃取するタイプのマルウェアをサイバー犯罪者が作成している過程の投稿が公開されています。

これはMicrosoft Office文書、PDF、画像ファイルなどの12種類の一般的なファイルを検索し、圧縮してウェブ上に送信するのようなプログラムの作成過程をサイバー犯罪者が投稿したものになります。
他にもバックグラウンドで動くPowerShellで実行するJavaプログラムの作成など事例が公開されています。
またサイバーセキュリティの大手企業トレンドマイクロも「ChatGPTがもたらすサイバーセキュリティ業界への影響」※7とタイトルでChatGPTの悪用の可能性を調査した記事を公開しています。
この中でChatGPTにはペネトレーションテストを想定して質問をしたところ、ChatGPTはハッキング活動にも利用可能なステップを生成しておりサイバー犯罪者によるChatGPTの悪用が可能なことを示唆しています。

※6 チェック・ポイント・リサーチ、サイバー犯罪者によるChatGPTの悪用事例を報告
https://prtimes.jp/main/html/rd/p/000000169.000021207.html
※7 ChatGPTがもたらすサイバーセキュリティ業界への影響
https://www.trendmicro.com/ja_jp/research/23/b/review-what-gpt-3-taught-chatgpt-in-a-year.html
プロパガンダへの利用
犯罪レベル測定不能(★★★★★★〜)国家的な安全保障、人権に関わる犯罪
ChatGPTは前述の通りなりすましやフェイクニュースの作成にも利用可能です。 ChatGPTを悪用することで政治的な主張や陰謀論を生成し、プロパガンダに活用することも可能になります。 またChatGPT自体が政治的な公平性を欠いているのではとの指摘もあり、Forbes※8の記事によると「ChatGPTが、ドナルド・トランプ元大統領のポジティブな面に関するポエムを書くことを拒否した後、バイデン大統領に関する同様なテーマのポエムを書いた」としています。 現状ChatGPTを使った大規模なプロパガンダの事例はありませんが、今後ChatGPTなどのチャットAIが悪用可能なことも懸念しておく必要はあるでしょう。
※8 ChatGPTはトランプが嫌い? 「AIの政治的バイアス」が議論に
https://forbesjapan.com/articles/detail/60675

ChatGPTを誤って悪用しないためには
ChatGPTは犯罪に繋がるような情報への質問の回答をフィルタリングするなど、悪用に対して対策はされているものの、現実的には100%悪用されないようにする不可能です。
利用者や開発者はChatGPTなどAIツールを活用する際には、あくまでツールであることを認識したうえでChatGPTから得られた回答及び使い方に注意を払う必要があります。
また社会的な法整備や企業での利用にあたっての規約など社会的に様々な対応も必要になりそうです。

弊社では法人向け生成AI研修・勉強会を行なっています
いかがだったでしょうか?
弊社では、法人様向けに生成AI研修を行なっております。
また、研修に加えて本事業の支援も行わせていただいております。
詳しくはこちらをご覧ください!
セミナー実績 | WEEL
研修をさせていただいた企業様からは、以下のような好評をいただいております。
生成AIについて包括的に理解ができ、多くの業務で生成AIが活用されるようになった。
生成AIの事例を知ることで、社内で生成AIを活用するためのアイデアがたくさん出てくるようになった。
全社で生成AIに関する認識を共有できたので、生成AIに関するプロジェクトの理解が得られるようになった。
研修の内容としては、以下のようなものになっています。
1. 生成AIの概要
2. 生成AIの歴史
3. 生成AIのリスク・対応策
4. 生成AIの活用事例
5. 生成AIの未来予測
6. 〇〇業界特有の生成AI活用法(様々な業界に対応)
7. プロンプトエンジニアリング実践(ChatGPTや画像生成AIへの入力文)
8. AI開発実践(Pythonプログラミング)
9. 生成AIの社内導入手順


※企業様のニーズに合わせて内容はカスタマイズしています。
「社員に生成AIに関する知識を身に付けてもらいたい」
「今後、生成AIを活用して事業展開をしていきたい」
と考えている方は、まずはご相談から承っておりますので、ぜひご連絡ください。
\ 生成AIツールの活用方法のご提案からツールの開発・実装までサポートします!/

弊社では以下のようなお悩みをご相談いただいております。
・生成AIを社内で活用するには?
・おすすめの生成AIツールを知りたい…
・生成AIの業務効率化方法がわからない!
・生成AIの開発を行いたい!
弊社の生成AIに精通したAIコンサルタントが、お悩みをヒアリングし、ベストなソリューションを提案します。
よくわからないけど、とりあえず話を聞きたいという方でも大丈夫です。
お気軽にご相談ください!