ChatGPTを不正利用して起きた悪用事例・犯罪事例をまとめてみた

2023-08-01

ChatGPTの登場により、AI技術はかつてないほど身近な存在となり、教育、ビジネス、エンターテイメントなど多岐にわたる分野で革新的な活用が進んでいます。

しかし、この技術の普及は、そのポテンシャルを悪用しようとする者たちにとっても新たな機会を提供しました。

不正利用から生じる様々な犯罪事例は、AIの倫理的な使用に対する深刻な問題を浮き彫りにし、その対策に関して重要な議論を呼び起こしています。

ChatGPTを使った悪用事例や犯罪事例をまとめています。

ぜひ最後までご覧ください！

なお弊社では、生成AIツール開発についての無料相談を承っています。こちらからお気軽にご相談ください。

ChatGPTの悪用事例・犯罪事例

サービスロンチ以降爆発的な人気を誇っているChatGPTですが、利用者が増えるに伴って様々な課題や問題も発生しています。
今回はChatGPTで犯罪活用された例や今後想定される犯罪ケースをスコアごとにまとめました。
それでは、犯罪レベル順にご紹介していきます。

試験・課題の代行

犯罪レベル不明（★）グレーゾーン

上記はChatGPTによって基本情報技術者試験の内容を回答させた例です。

ChatGPTに訪ねた結果正しい回答が返ってきています。ChatGPTによって学校の課題やオンラインでの試験に悪用されることで、不正な資格取得や教育への悪影響が懸念されます。
実際The Stanford Daily※1の記事によるとアメリカのStanford大学の学生のうち、およそ17％が「課題または試験にChatGPTを使用している」と回答したとしています。

※1　Scores of Stanford students used ChatGPT on final exams, survey suggests
https://stanforddaily.com/2023/01/22/scores-of-stanford-students-used-chatgpt-on-final-exams-survey-suggests/

ChatGPTによる生徒の学習への悪影響を懸念してニューヨーク市では学校でのデバイスやネットワークでのChatGPTの利用を禁止したとChalkBeat※2が報じており、今後そのほかの教育現場でも対応を迫られそうです。
反面INSIDER※3の記事によるとWharton business schoolでは「生徒にツールの有用性や使い方の観点からChatGPTの利用を推奨する」などチャットAIの教育の活用については今後様々な議論がありそうです。

※2 NYC education department blocks ChatGPT on school devices, networks
https://ny.chalkbeat.org/2023/1/3/23537987/nyc-schools-ban-chatgpt-writing-artificial-intelligence
※3 A Wharton business school professor is requiring his students to use ChatGPT
https://www.businessinsider.com/wharton-mba-professor-requires-students-to-use-chatgpt-ai-cheating-2023-1

フェイクニュースの作成

犯罪レベル微（★★）モラル違反

ChatGPTではそれらしい記事やニュースも作成可能です。
例としては日本が政策金利を引き上げたという内容の嘘のニュースを作成した事例になります。
実際のニュースと比べても見分けがつかないクオリティになっており、このニュースだけを見たら真実かと思ってしまいます。
また東洋経済※4によると中国で｢ChatGPT｣による偽ニュース拡散で当局が対応に追われるなどの実害も報告されています。

※4 中国｢ChatGPT｣偽ニュース拡散で揺れる政権対応
https://toyokeizai.net/articles/-/654040

なりすまし

犯罪レベル中（★★★）小中規模な犯罪に繋がる行為

ChatGPTでは文書を他人が書いたようにもすることが可能です。
あまり詳しくは説明しませんが、上記は女性のような文書を想定して挨拶の文書を出力した例になります。
ChatGPTは悪用すれば第三者になりすまし詐欺やなりすましによって不正に情報や金銭を得るといったことも可能性として考えられます。

フィッシング詐欺

犯罪レベル大（★★★★）大規模な犯罪に繋がる行為

ChatGPTで偽メールや文言を作成したり、有名なソフトウェアサービスに告知したWebサイトを作成し、ログイン情報や金銭をだまし取るといったことも可能性として考えれます。実際にアメリカのセキュリティ企業のFortra※5によるとChatGPTの偽サイトやアプリが登場しておりIDやパスワードなどのユーザー情報を不正に取得したり、アドウェアやスパイウェアのインストールに誘導したり、料金を請求するような例があるとのことです。これらはChatGPTを使った犯罪ではありませんが、上記のような事例にChatGPTが悪用される懸念があります。

※5 Fake ChatGPT apps spread Windows and Android malware
https://www.tripwire.com/state-of-security/fake-chatgpt-apps-spread-windows-and-android-malware

サイバー犯罪への利用

犯罪レベル超（★★★★★）国家規模の犯罪に繋がる行為

ChatGPTでは悪意のあるプログラムコード生成できる懸念が指摘されています。サイバーセキュリティソリューションプロバイダーであるチェック・ポイント・ソフトウェア・テクノロジーズによると※6 サイバー犯罪者によるChatGPTの悪用は既に始まっているとしており具体的な事例も公開されています。またその中の一例としてインフォスティーラー（Infostealer）と呼ばれる感染したデバイスから情報を窃取するタイプのマルウェアをサイバー犯罪者が作成している過程の投稿が公開されています。

※6 画像1 – 「サイバー犯罪者による、ChatGPTを用いたインフォスティーラーの作成過程を公開する投稿」より引用

これはMicrosoft Office文書、PDF、画像ファイルなどの12種類の一般的なファイルを検索し、圧縮してウェブ上に送信するのようなプログラムの作成過程をサイバー犯罪者が投稿したものになります。
他にもバックグラウンドで動くPowerShellで実行するJavaプログラムの作成など事例が公開されています。
またサイバーセキュリティの大手企業トレンドマイクロも「ChatGPTがもたらすサイバーセキュリティ業界への影響」※7とタイトルでChatGPTの悪用の可能性を調査した記事を公開しています。
この中でChatGPTにはペネトレーションテストを想定して質問をしたところ、ChatGPTはハッキング活動にも利用可能なステップを生成しておりサイバー犯罪者によるChatGPTの悪用が可能なことを示唆しています。

※6　チェック・ポイント・リサーチ、サイバー犯罪者によるChatGPTの悪用事例を報告
https://prtimes.jp/main/html/rd/p/000000169.000021207.html
※7 ChatGPTがもたらすサイバーセキュリティ業界への影響
https://www.trendmicro.com/ja_jp/research/23/b/review-what-gpt-3-taught-chatgpt-in-a-year.html

プロパガンダへの利用

犯罪レベル測定不能（★★★★★★〜）国家的な安全保障、人権に関わる犯罪

ChatGPTは前述の通りなりすましやフェイクニュースの作成にも利用可能です。 ChatGPTを悪用することで政治的な主張や陰謀論を生成し、プロパガンダに活用することも可能になります。またChatGPT自体が政治的な公平性を欠いているのではとの指摘もあり、Forbes※8の記事によると「ChatGPTが、ドナルド・トランプ元大統領のポジティブな面に関するポエムを書くことを拒否した後、バイデン大統領に関する同様なテーマのポエムを書いた」としています。現状ChatGPTを使った大規模なプロパガンダの事例はありませんが、今後ChatGPTなどのチャットAIが悪用可能なことも懸念しておく必要はあるでしょう。

※8　ChatGPTはトランプが嫌い？　「AIの政治的バイアス」が議論に
https://forbesjapan.com/articles/detail/60675

WEEL

ChatGPTを企業利用するリスクと対策5選｜実際の企業事例と共に解説 | WEEL ChatGPTを企業利用するリスクとその対策について詳しく解説します。現在、ChatGPTはビジネスのあらゆるシーンで活用されてきています。しかし、ChatGPTを業務に活用するに…

ChatGPTを誤って悪用しないためには

ChatGPTは犯罪に繋がるような情報への質問の回答をフィルタリングするなど、悪用に対して対策はされているものの、現実的には100%悪用されないようにする不可能です。
利用者や開発者はChatGPTなどAIツールを活用する際には、あくまでツールであることを認識したうえでChatGPTから得られた回答及び使い方に注意を払う必要があります。
また社会的な法整備や企業での利用にあたっての規約など社会的に様々な対応も必要になりそうです。

WEEL

ChatGPTの日本企業導入事例をまとめて紹介！業務に導入するメリットや注意点も解説 | WEEL ChatGPTを導入している官公庁や企業の活用例、業務で活用するリスクを詳しくまとめました！最近では個人だけでなく、企業にも導入されることが増えました。すでに導入して…

最後に

いかがだったでしょうか？

弊社では

・マーケティングやエンジニアリングなどの専門知識を学習させたAI社員の開発
・要件定義・業務フロー作成を80%自動化できる自律型AIエージェントの開発
・生成AIとRPAを組み合わせた業務自動化ツールの開発
・社内人事業務を99%自動化できるAIツールの開発
・ハルシネーション対策AIツールの開発
・自社専用のAIチャットボットの開発

などの開発実績がございます。

まずは、「無料相談」にてご相談を承っておりますので、ご興味がある方はぜひご連絡ください。

➡︎生成AIを使った業務効率化、生成AIツールの開発について相談をしてみる。

生成AIを社内で活用していきたい方へ